Taruhan Besar di Balik Chip AI: Startup Mungil Rp245 Miliar Ingin Pangkas Boros Listrik dan Waktu Pusat Data

Perlombaan membangun infrastruktur kecerdasan buatan (AI) sedang menabrak tembok. Masalahnya bukan cuma soal berebut pasokan chip, melainkan mendapatkan chip yang tepat dan mencari lokasi untuk mencolokkannya. Sebuah startup anyar bernama General Compute yakin mereka punya buku panduan untuk melompati dua rintangan itu sekaligus, dan mereka baru saja mengantongi pendanaan USD 15 juta (sekitar Rp245 miliar) untuk membuktikannya .

Bertaruh pada Silikon Spesialis untuk Tugas yang Sangat Spesifik

General Compute adalah sebuah inference neocloud—sebuah perusahaan yang menyewakan daya komputasi khusus untuk fase inferensi AI, yaitu saat model yang sudah dilatih menghasilkan jawaban bagi pengguna. Di tengah industri yang didominasi oleh GPU serbaguna buatan Nvidia, General Compute mengambil langkah yang berlawanan dengan arus: chip terbaik untuk inferensi adalah ASIC (Application-Specific Integrated Circuit), yaitu chip yang dirancang khusus dari awal untuk satu tugas berat itu.

Startup ini memilih chip SambaNova SN50 yang baru dirilis sebagai senjata utamanya. SambaNova mengeklaim SN50 hingga 5 kali lebih cepat dari akselerator pesaing dan mampu memangkas total biaya kepemilikan hingga 3 kali lipat dibandingkan sistem berbasis GPU . Bagi General Compute, daya pikat utamanya adalah kecepatan dan efisiensi mentah untuk kasus penggunaan spesifik yang sedang naik daun: AI agentik.

CEO Finn Puklowski menyebutkan bahwa chip SN50 akan mampu menghasilkan 600 hingga 700 token per detik, dibandingkan dengan sekitar 250 token per detik untuk GPU standar . Peningkatan kecepatan hampir tiga kali lipat itu bukan sekadar pamer spesifikasi di atas kertas; ini krusial bagi agen AI otonom yang harus saling berkomunikasi dalam putaran multi-langkah secara real-time, di mana setiap milidetik latensi sangat berarti.

General Compute telah meneken pesanan senilai USD 300 juta untuk SN50 dan mengeklaim sebagai neo-cloud pertama yang akan menggelarnya . Langkah ini mencerminkan pergeseran pasar yang lebih luas menuju silikon yang dioptimalkan untuk inferensi, yang ditandai dengan akuisisi Groq oleh Nvidia senilai USD 20 miliar dan IPO Cerebras senilai USD 57 miliar .

Menyelesaikan Krisis Pembangunan Pusat Data

Chip terbaik sekalipun tak akan berguna jika tidak ada tempat untuk menyalakannya. Ledakan AI telah menciptakan kemacetan masif dalam pembangunan pusat data, di mana fasilitas baru harus menghadapi lini masa bertahun-tahun dan belanja modal yang luar biasa besar. Jawaban General Compute? Melewatkan seluruh proses konstruksi itu.

Kuncinya ada pada desain perangkat kerasnya. Tidak seperti kluster GPU berpendingin air yang boros daya dan mendominasi pelatihan AI, chip SambaNova SN50 menggunakan pendingin udara dan mengonsumsi daya yang jauh lebih rendah. Ini berarti chip tersebut tidak memerlukan renovasi khusus yang mahal dan bisa dipasang di berbagai fasilitas pusat data yang sudah ada .

Inilah yang membuka pintu bagi jurus infrastruktur paling kreatif startup tersebut: kesepakatan kolokasi dengan para penambang kripto (crypto miners). Seiring dengan merosotnya profitabilitas penambangan aset kripto, banyak penambang yang kini memiliki infrastruktur signifikan—gedung dengan kapasitas daya raksasa, pendingin industri, dan jaringan berkecepatan tinggi—yang mencari peruntungan baru . Rencana General Compute sederhana: mereka tinggal memasang rak SN50 berpendingin udara ke dalam fasilitas-fasilitas siap pakai ini, mendapatkan akses instan ke bagian tersulit dari pembangunan infrastruktur AI tanpa perlu mengeluarkan uang atau waktu sedetik pun untuk konstruksi baru .

Intinya

Strategi General Compute adalah taruhan dua sisi terhadap masa depan AI. Di sisi perangkat keras, mereka bertaruh bahwa inferensi untuk agen otonom akan menjadi pasar masif yang berbeda dan membutuhkan ASIC khusus, bukan GPU pelatihan yang digunakan kembali. Di sisi logistik, mereka yakin bahwa membuat chip online secepat mungkin dengan memanfaatkan infrastruktur yang sudah ada jauh lebih penting daripada mengejar keunggulan marginal di atas kertas spesifikasi.

Jika tebakan mereka benar, General Compute tidak akan sekadar menjadi penyedia cloud baru; mereka akan menjadi cetak biru tentang bagaimana gelombang perusahaan AI berikutnya memecahkan kemacetan fisik dan finansial paling mendesak di industri ini.