Google Frozen v2: Chip Khusus yang 'Membekukan' Gemini ke Dalam Silikon, Efisiensi Melonjak 10x

Efisiensi yang diklaim menjadi sorotan utama: para insinyur Google dilaporkan memperkirakan Frozen v2 dapat menghasilkan 6 hingga 10 kali lebih banyak token AI per unit konsumsi daya dibandingkan chip TPU terbaru .

Jadwal Peluncuran

Menurut laporan The Information dan liputan lain yang mendukung, Frozen v2 ditargetkan untuk digunakan paling cepat tahun 2028 . Artinya, chip ini masih membutuhkan waktu bertahun-tahun sebelum produksi dan baru akan beroperasi setelah generasi kedelapan keluarga TPU (Sunfish dan Zebrafish) saat ini telah digunakan dan matang.

Preseden Taalas — Seperti Apa Bentuk Model yang Dihardwiring?

Startup Taalas menunjukkan dengan tepat seperti apa trade-off ini dalam praktik. Pada Februari 2026, Taalas meluncurkan chip HC1, yang mengodekan seluruh model Llama 3.1 8B — setiap parameternya — langsung ke dalam sirkuit transistor chip menggunakan mask ROM, tanpa HBM eksternal untuk penyimpanan bobot .

Angkanya luar biasa:

• Sekitar 17.000 token/detik pada Llama 3.1 8B
• Sekitar 48x throughput dibandingkan Nvidia B200
• Kira-kira 10x lebih cepat dari Cerebras
• Biaya diklaim 20x lebih murah per inferensi dibandingkan pengaturan GPU yang setara
• Biaya inferensi serendah 0,75 sen per juta token

Kekurangannya sama dramatisnya:

• Terkunci pada satu model. Chip hanya bisa menjalankan satu arsitektur model. Jika model diperbarui (mekanisme perhatian baru, jumlah lapisan berbeda), chip tersebut tidak dapat digunakan .
• Tidak ada pembaruan bobot. Parameternya dikodekan secara fisik; penyesuaian (fine-tuning), adaptor LoRA, atau pembaruan pasca-pelatihan memerlukan mask chip baru .
• Nol kemampuan multi-model. Sebuah pusat data dengan HC1 hanya dapat melayani Llama 3.1 8B — tidak ada LLM lain .

Pendiri Taalas menggambarkan arsitektur ini sebagai penggabungan "kain recall mask ROM" dengan kain recall SRAM untuk menyimpan model dan melakukan semua komputasi cache KV di dalam chip, menghilangkan sepenuhnya perpindahan memori eksternal . Ini adalah pendekatan fundamental yang sama yang akan digunakan oleh Frozen v2.

Krisis Infrastruktur yang Mendorong Frozen v2

Kapasitas komputasi AI Google sangat tertekan sehingga mereka mulai menjatah akses bahkan kepada raksasa pembayar. Beberapa data membuat motivasi ini menjadi jelas:

Penolakan kapasitas Meta (Maret 2026): Google memberi tahu Meta pada Maret 2026 bahwa mereka tidak dapat memasok semua kapasitas komputasi Gemini yang ingin dibeli Meta . Kekurangan ini menunda beberapa proyek AI internal Meta dan memaksa Meta untuk menginstruksikan para insinyurnya agar menghemat token AI .

Angka tunggakan (backlog): Tunggakan pesanan Google Cloud hampir berlipat ganda menjadi $462 miliar pada Q1 2026, mewakili permintaan kira-kira 23 kali lipat dari kapasitas pemrosesan yang tersedia . CEO Sundar Pichai mengonfirmasi dalam panggilan pendapatan: "Kami terkendala komputasi dalam jangka pendek... pendapatan cloud kami akan lebih tinggi jika kami mampu memenuhi permintaan itu" .

Tekanan kapasitas yang lebih luas: Google bahkan menyewa sekitar $920 juta per bulan dalam bentuk GPU Nvidia dari SpaceX untuk menjembatani kesenjangan komputasinya . VP cloud Google, Amin Vahdat, mengatakan pada November 2025 bahwa perusahaan perlu melipatgandakan kapasitas AI setiap enam bulan untuk memenuhi permintaan .

Kendala ini secara langsung memotivasi Frozen v2: jika Google bisa mendapatkan 6–10x lebih banyak inferensi Gemini per watt, itu secara efektif melipatgandakan kapasitas tanpa memerlukan pusat data baru.

Inisiatif Chip AI Lain yang Dikejar Google

Frozen v2 hanyalah salah satu bagian dari strategi perangkat keras yang jauh lebih luas:

1. TPU generasi kedelapan yang dibagi menjadi chip pelatihan dan inferensi. Di Cloud Next 2026, Google mempratinjau keluarga TPU generasi kedelapan, untuk pertama kalinya dibagi menjadi dua varian khusus :

• TPU 8t "Sunfish" — fokus pelatihan, dirancang oleh Broadcom, dibangun di atas TSMC N2 dengan kemasan CoWoS, ditargetkan pada paruh kedua tahun 2027
• TPU 8i "Zebrafish" — fokus inferensi, dirancang dengan MediaTek memimpin die I/O

2. Perjanjian jangka panjang Broadcom hingga 2031. Broadcom mengajukan SEC 8-K yang mengungkapkan Perjanjian Jangka Panjang untuk mengembangkan dan memasok TPU khusus untuk generasi mendatang Google, plus Perjanjian Jaminan Pasokan untuk komponen jaringan hingga 2031 . Secara terpisah, Anthropic menandatangani kesepakatan untuk ~3,5 GW kapasitas TPU Google, yang akan tersedia mulai tahun 2027 .

3. Penyewaan TPU ke pelanggan termasuk OpenAI. Laporan menunjukkan Google semakin sering menawarkan kapasitas TPU sebagai produk sewaan ke perusahaan AI eksternal, dengan OpenAI disebut sebagai pelanggan .

4. Proyek "Icefish" dengan MediaTek. Nama kode "Icefish" tampaknya terkait dengan keterlibatan MediaTek pada proyek chip khusus Google di luar TPU 8i — kemungkinan akselerator edge atau inferensi berdaya rendah .

5. Diskusi dengan Intel. Google dilaporkan telah mengadakan diskusi dengan Intel tentang desain chip AI khusus, meskipun belum ada perjanjian resmi yang diumumkan .

6. Ironwood (TPU generasi ketujuh) tersedia secara umum. Ironwood telah tersedia secara umum untuk pelanggan cloud pada April 2026 . Dibangun dengan proses 3nm dengan arsitektur dual-chiplet, chip ini dioptimalkan untuk model MoE yang mendukung ekosistem Gemini .

Bagaimana Frozen v2 Melengkapi, Bukan Mengganti, Lini TPU

Laporan The Information secara eksplisit menyatakan bahwa Frozen v2 dirancang untuk melengkapi, bukan mengganti, peta jalan TPU Google . Logikanya sederhana:

• TPU tetap menjadi tulang punggung komputasi AI serbaguna. Mereka menangani pelatihan, penyajian multi-model, penyesuaian, dan inferensi untuk model pelanggan arbitrer. TPU adalah produk utama Google Cloud untuk pelanggan AI eksternal .
• Frozen v2 adalah akselerator hiperspesialisasi untuk inferensi Gemini volume tinggi milik Google sendiri. Ini pada dasarnya adalah "peralatan Gemini" yang membongkar lalu lintas inferensi yang paling dapat diprediksi dan bervolume tinggi dari TPU, membebaskan kapasitas TPU untuk beban kerja yang lebih beragam dan pelanggan eksternal .
• Tidak ada model lain, tidak ada pelatihan, tidak ada fleksibilitas. Frozen v2 tidak dapat melatih model, tidak dapat menjalankan LLM pesaing, dan tidak dapat beradaptasi dengan perubahan arsitektur Gemini. Ia menempati ceruk yang sempit tetapi bervolumenya sangat besar .
• TPU 8i (Zebrafish) dan Frozen v2 hidup berdampingan. TPU 8i yang berfokus pada inferensi menangani berbagai beban kerja inferensi. Setelah arsitektur Gemini stabil dan volume membenarkan chip tetap, Frozen v2 melayani kebutuhan spesifik itu dengan daya yang jauh lebih rendah .

Ini analog dengan bagaimana penyedia hyperscaler menggunakan CPU serbaguna untuk sebagian besar beban kerja dan ASIC fungsi tetap untuk tugas volume tinggi tertentu (misalnya, transkoding video, offload jaringan). Frozen v2 adalah padanan AI-nya: mesin inferensi yang dibangun untuk tujuan tertentu yang berada di samping armada TPU yang dapat diprogram.