Pada 26 Agustus 2026, Zhipu AI—yang juga dikenal secara internasional sebagai Z.ai—mengakhiri misteri di balik model anonim “Ox Alpha”. Perusahaan mengonfirmasi bahwa model yang disebut “Niu Lai” di komunitas pengembang China itu adalah GLM-5.3-Flash, model open-weight multimodal-native dari keluarga GLM.
1
15
Pengumuman tersebut bukan sekadar peluncuran model baru. Zhipu juga menyampaikan klaim infrastruktur berskala besar: selama pengujian gratis di OpenRouter dan OpenCode, sistem itu memproses lebih dari 50 triliun token dalam lima hari. Seluruh trafik, menurut Zhipu, dilayani oleh klaster yang terdiri atas lebih dari 100.000 chip buatan China.
8
15
Uji coba anonim berubah menjadi tes dunia nyata
Ox Alpha pertama kali muncul tanpa nama perusahaan atau identitas produk yang jelas. Dengan begitu, pengembang menilainya berdasarkan pengalaman penggunaan sehari-hari, bukan reputasi merek atau kampanye peluncuran. Model ini kemudian dengan cepat menduduki posisi teratas dalam peringkat penggunaan di OpenRouter dan OpenCode.
1
3
Laporan berikutnya menyebut total trafik lebih dari 60 triliun token dalam enam hari. Di OpenRouter, penggunaan Ox Alpha juga dilaporkan lebih dari dua kali lipat dibandingkan trafik DeepSeek yang sebanding. Angka-angka tersebut berasal dari periode pelaporan dan metode pengukuran platform yang berbeda. Kesimpulan paling aman adalah bahwa uji coba ini melampaui 50 triliun token dan menarik permintaan yang tidak biasa besarnya.
1
3
30
Skala ini penting karena model menerima trafik pengembang sungguhan sebelum identitasnya diketahui. Pengguna terutama merespons kualitas keluaran, kecepatan, ketersediaan, dan harga—bukan nama Zhipu atau jenis chip yang digunakan di balik layar.
Klaim Zhipu tentang klaster chip domestik
Zhipu menyatakan bahwa beban kerja inferensi daring GLM-5.3-Flash dijalankan pada lebih dari 100.000 akselerator buatan China. Setelah optimasi perangkat lunak, perusahaan mengklaim efisiensi perangkat keras dan biaya per tokennya telah mencapai tingkat yang sebanding dengan GPU Nvidia arus utama.
15
24
Namun, Zhipu tidak menyebutkan pemasok chip secara terbuka dalam materi yang menjadi dasar laporan ini. Huawei, Moore Threads, dan Hygon disebut dalam pemberitaan industri sebagai kemungkinan kontributor, tetapi atribusi tersebut belum terverifikasi dan tidak boleh dianggap sebagai konfirmasi dari Zhipu.
30
40
Klaim itu juga perlu dibaca secara terbatas. Data tersebut tidak membuktikan bahwa chip China menyamai Nvidia untuk semua jenis beban kerja, bahwa perangkat keras domestik telah menggantikan Nvidia dalam pelatihan model, atau bahwa kedua ekosistem memiliki perangkat pengembang yang setara.
Yang ditunjukkan adalah proposisi yang lebih spesifik: layanan inferensi berskala besar dapat direkayasa agar berjalan di atas tumpukan perangkat keras domestik non-Nvidia ketika model dan sistem penyajiannya dioptimalkan secara bersamaan.
Mengapa perangkat lunak inferensi menjadi kunci
Jendela konteks hingga satu juta token menghadirkan tantangan besar terkait kapasitas memori, bandwidth, komunikasi antarkomponen, dan penjadwalan. Untuk mengatasinya, Zhipu dilaporkan membangun mesin inferensi khusus berbasis SGLang dengan sejumlah teknik, antara lain:
- kuantisasi W8A8 untuk mengurangi beban komputasi dan memori;
- kuantisasi cache campuran INT8, FP8, dan BF16;
- tensor parallelism di dalam node; serta
- arsitektur Encode–Prefill–Decode (EPD) yang memisahkan pengodean multimodal, pemrosesan prompt, dan pembuatan token secara bertahap ke dalam kumpulan kerja yang dapat diskalakan secara independen.
11
24
Zhipu menyatakan bahwa sistem tersebut meningkatkan kinerja layanan end-to-end sekitar tiga kali lipat dibandingkan baseline awal pada perangkat keras yang sama.
24
26 Dokumentasi SGLang yang diterbitkan kemudian juga melaporkan peningkatan throughput dan kapasitas cache FP8 dibandingkan konfigurasi pembanding BF16. Namun, dokumentasi itu bukan audit independen atas klaim peningkatan tiga kali lipat dari Zhipu.
17
Bagi Nvidia, implikasinya terutama berkaitan dengan peran CUDA dalam inferensi, bukan runtuhnya seluruh keunggulan perusahaan. Kernel khusus, kuantisasi, paralelisme, dan penjadwalan dapat mengurangi ketergantungan pada CUDA untuk beban kerja produksi tertentu.
Di luar inferensi, ekosistem perangkat lunak Nvidia, perangkat pengembang, basis instalasi, dan posisinya dalam pelatihan model merupakan persoalan berbeda yang belum terjawab oleh peluncuran ini.
Spesifikasi GLM-5.3-Flash
GLM-5.3-Flash dilaporkan sebagai model sparse mixture-of-experts dengan 320 miliar parameter total dan sekitar 18 miliar parameter aktif untuk setiap token. Model ini mendukung jendela konteks 1.048.576 token serta input multimodal secara native, sehingga diposisikan untuk menangani dokumen panjang, pemrograman, dan alur kerja agen AI yang berlangsung lama.
2
5
7
Model tersebut juga dilaporkan memperoleh skor 57 pada Artificial Analysis Intelligence Index, sama dengan skor Claude Opus 4.8. Ini berarti keduanya setara pada satu indeks gabungan, bukan bukti bahwa performanya sama pada setiap tolok ukur, aplikasi, atau tugas agen.
9
Harga murah dan posisi kompetitif
Zhipu melaporkan harga API sebesar 0,15 dolar AS per satu juta token input dan 0,50 dolar AS per satu juta token output.
4
29 Pemberitaan pada periode yang sama menggambarkan harga tersebut sebagai sekitar sepersepuluh harga GLM-5.3 dan kira-kira seperserempat puluh harga Claude Opus 4.8. Namun, perbandingan itu bergantung pada arah token, tingkat harga, dan paket layanan yang digunakan.
1
4
Bagi pengembang, daya saing GLM-5.3-Flash bertumpu pada tiga hal: arsitektur sparse yang relatif efisien, optimasi penyajian yang agresif, dan harga yang rendah. Uji coba Ox Alpha menunjukkan bahwa kombinasi tersebut mampu menarik trafik besar bahkan sebelum identitas model diumumkan.
Uji coba ini belum membuktikan bahwa Zhipu telah mengatasi seluruh keterbatasan perangkat keras atau perangkat lunak. Namun, peluncuran tersebut memberikan demonstrasi penting pada skala produksi tentang seberapa besar keuntungan yang dapat diperoleh ketika model, mesin inferensi, dan tumpukan perangkat keras dirancang secara terpadu.