CEO Finn Puklowski menyebutkan bahwa chip SN50 akan mampu menghasilkan 600 hingga 700 token per detik, dibandingkan dengan sekitar 250 token per detik untuk GPU standar . Peningkatan kecepatan hampir tiga kali lipat itu bukan sekadar pamer spesifikasi di atas kertas; ini krusial bagi agen AI otonom yang harus saling berkomunikasi dalam putaran multi-langkah secara real-time, di mana setiap milidetik latensi sangat berarti.

General Compute telah meneken pesanan senilai USD 300 juta untuk SN50 dan mengeklaim sebagai neo-cloud pertama yang akan menggelarnya . Langkah ini mencerminkan pergeseran pasar yang lebih luas menuju silikon yang dioptimalkan untuk inferensi, yang ditandai dengan akuisisi Groq oleh Nvidia senilai USD 20 miliar dan IPO Cerebras senilai USD 57 miliar .

Menyelesaikan Krisis Pembangunan Pusat Data

Chip terbaik sekalipun tak akan berguna jika tidak ada tempat untuk menyalakannya. Ledakan AI telah menciptakan kemacetan masif dalam pembangunan pusat data, di mana fasilitas baru harus menghadapi lini masa bertahun-tahun dan belanja modal yang luar biasa besar. Jawaban General Compute? Melewatkan seluruh proses konstruksi itu.

Kuncinya ada pada desain perangkat kerasnya. Tidak seperti kluster GPU berpendingin air yang boros daya dan mendominasi pelatihan AI, chip SambaNova SN50 menggunakan pendingin udara dan mengonsumsi daya yang jauh lebih rendah. Ini berarti chip tersebut tidak memerlukan renovasi khusus yang mahal dan bisa dipasang di berbagai fasilitas pusat data yang sudah ada .

Inilah yang membuka pintu bagi jurus infrastruktur paling kreatif startup tersebut: kesepakatan kolokasi dengan para penambang kripto (crypto miners). Seiring dengan merosotnya profitabilitas penambangan aset kripto, banyak penambang yang kini memiliki infrastruktur signifikan—gedung dengan kapasitas daya raksasa, pendingin industri, dan jaringan berkecepatan tinggi—yang mencari peruntungan baru . Rencana General Compute sederhana: mereka tinggal memasang rak SN50 berpendingin udara ke dalam fasilitas-fasilitas siap pakai ini, mendapatkan akses instan ke bagian tersulit dari pembangunan infrastruktur AI tanpa perlu mengeluarkan uang atau waktu sedetik pun untuk konstruksi baru .

Intinya

Strategi General Compute adalah taruhan dua sisi terhadap masa depan AI. Di sisi perangkat keras, mereka bertaruh bahwa inferensi untuk agen otonom akan menjadi pasar masif yang berbeda dan membutuhkan ASIC khusus, bukan GPU pelatihan yang digunakan kembali. Di sisi logistik, mereka yakin bahwa membuat chip online secepat mungkin dengan memanfaatkan infrastruktur yang sudah ada jauh lebih penting daripada mengejar keunggulan marginal di atas kertas spesifikasi.

Jika tebakan mereka benar, General Compute tidak akan sekadar menjadi penyedia cloud baru; mereka akan menjadi cetak biru tentang bagaimana gelombang perusahaan AI berikutnya memecahkan kemacetan fisik dan finansial paling mendesak di industri ini.

CEO Finn Puklowski menyebutkan bahwa chip SN50 akan mampu menghasilkan 600 hingga 700 token per detik, dibandingkan dengan sekitar 250 token per detik untuk GPU standar . Peningkatan kecepatan hampir tiga kali lipat itu bukan sekadar pamer spesifikasi di atas kertas; ini krusial bagi agen AI otonom yang harus saling berkomunikasi dalam putaran multi-langkah secara real-time, di mana setiap milidetik latensi sangat berarti.

General Compute telah meneken pesanan senilai USD 300 juta untuk SN50 dan mengeklaim sebagai neo-cloud pertama yang akan menggelarnya . Langkah ini mencerminkan pergeseran pasar yang lebih luas menuju silikon yang dioptimalkan untuk inferensi, yang ditandai dengan akuisisi Groq oleh Nvidia senilai USD 20 miliar dan IPO Cerebras senilai USD 57 miliar .

Menyelesaikan Krisis Pembangunan Pusat Data

Chip terbaik sekalipun tak akan berguna jika tidak ada tempat untuk menyalakannya. Ledakan AI telah menciptakan kemacetan masif dalam pembangunan pusat data, di mana fasilitas baru harus menghadapi lini masa bertahun-tahun dan belanja modal yang luar biasa besar. Jawaban General Compute? Melewatkan seluruh proses konstruksi itu.

Kuncinya ada pada desain perangkat kerasnya. Tidak seperti kluster GPU berpendingin air yang boros daya dan mendominasi pelatihan AI, chip SambaNova SN50 menggunakan pendingin udara dan mengonsumsi daya yang jauh lebih rendah. Ini berarti chip tersebut tidak memerlukan renovasi khusus yang mahal dan bisa dipasang di berbagai fasilitas pusat data yang sudah ada .

Inilah yang membuka pintu bagi jurus infrastruktur paling kreatif startup tersebut: kesepakatan kolokasi dengan para penambang kripto (crypto miners). Seiring dengan merosotnya profitabilitas penambangan aset kripto, banyak penambang yang kini memiliki infrastruktur signifikan—gedung dengan kapasitas daya raksasa, pendingin industri, dan jaringan berkecepatan tinggi—yang mencari peruntungan baru . Rencana General Compute sederhana: mereka tinggal memasang rak SN50 berpendingin udara ke dalam fasilitas-fasilitas siap pakai ini, mendapatkan akses instan ke bagian tersulit dari pembangunan infrastruktur AI tanpa perlu mengeluarkan uang atau waktu sedetik pun untuk konstruksi baru .

Intinya

Strategi General Compute adalah taruhan dua sisi terhadap masa depan AI. Di sisi perangkat keras, mereka bertaruh bahwa inferensi untuk agen otonom akan menjadi pasar masif yang berbeda dan membutuhkan ASIC khusus, bukan GPU pelatihan yang digunakan kembali. Di sisi logistik, mereka yakin bahwa membuat chip online secepat mungkin dengan memanfaatkan infrastruktur yang sudah ada jauh lebih penting daripada mengejar keunggulan marginal di atas kertas spesifikasi.

Jika tebakan mereka benar, General Compute tidak akan sekadar menjadi penyedia cloud baru; mereka akan menjadi cetak biru tentang bagaimana gelombang perusahaan AI berikutnya memecahkan kemacetan fisik dan finansial paling mendesak di industri ini.