Atlas 960E dan UnifiedBus: Strategi Huawei Mengatasi Kemacetan Klaster AI Skala Raksasa

Pada klaster AI yang sangat besar, kendala utamanya tidak selalu terletak pada kemampuan hitung chip akselerator. Memindahkan parameter model, aktivasi, cache, dan akses memori di antara ribuan prosesor dapat membuat perangkat keras lebih sering menunggu data daripada menghitung. Atlas 960E SuperPoD, roadmap Ascend 960, dan fabric UnifiedBus adalah jawaban Huawei untuk masalah tersebut. Namun, seluruh angka performa dan efisiensi di bawah ini merupakan klaim produk Huawei, bukan hasil benchmark independen. 918

Gagasannya: klaster bekerja lebih menyerupai satu sistem

Pada klaster besar konvensional, CPU, akselerator, penyimpanan, dan memori kerap menjadi sumber daya terpisah yang dihubungkan oleh beberapa protokol. Huawei menyatakan UnifiedBus menyatukan lebih dari 10 protokol interkoneksi dalam satu protokol dan semantik memori, sehingga CPU, NPU, memori, serta SSD dapat saling mengakses secara langsung antarpiranti (peer-to-peer). 18

Tujuan praktisnya adalah mengurangi waktu tunggu. Alih-alih perangkat lunak harus berulang kali menyalin atau mengoordinasikan data secara eksplisit antar-node yang terisolasi, memori di seluruh SuperPoD dapat dialamatkan melalui satu ruang alamat memori global. Pendekatan ini dirancang agar memori terdistribusi dapat dipakai seperti sumber daya bersama, terutama ketika model dan data antara melampaui memori lokal satu akselerator. 18

Huawei mengklaim fabric tersebut meningkatkan kemampuan interkoneksi dari kisaran 100 GB/detik ke kelas TB/detik, sekaligus memangkas latensi pulang-pergi dari sekitar 7 mikrodetik menjadi 2 mikrodetik. Angka ini menggambarkan rancangan UnifiedBus yang dituju Huawei, bukan perbandingan umum yang telah diuji secara independen terhadap sistem pesaing. 18

Atlas 960E: optik dekat kemasan untuk skala SuperPoD

Atlas 960E SuperPoD memadukan prosesor Ascend 960 yang akan datang, UnifiedBus, dan mesin near-packaged optics (NPO) Hi-ONE milik Huawei. Huawei menggambarkan sistem berpendingin cair penuh ini sebagai SuperPoD berbasis NPO untuk pelatihan dan inferensi model hingga 10 triliun parameter. 9

Konfigurasi unggulannya disebut mencakup 4.096 NPU dengan pengalamatan memori terpadu, dengan klaim 8 EFLOPS pada FP8 atau 16 EFLOPS pada FP4. 9

NPO menjadi bagian penting karena koneksi listrik semakin sulit ditingkatkan skalanya seiring kenaikan bandwidth dan ukuran klaster. Huawei menyatakan setiap mesin optik Hi-ONE menyediakan 7,2 Tbit/detik. Dalam rancangan sistem 4.096 NPU, sekitar 5.500 mesin Hi-ONE diklaim dapat menggantikan sekitar 48.000 modul optik 800G konvensional, mengurangi konsumsi daya lebih dari 550 kW, serta meningkatkan ketersediaan menjadi 99,8%. Semua itu adalah proyeksi Huawei untuk desainnya. 9

Komponen untuk skala kabinet hingga superklaster

Huawei juga menyiapkan produk untuk beberapa tingkat fisik dalam klaster:

• LinkBlade adalah komponen UnifiedBus tanpa kabel untuk interkoneksi di dalam kabinet. Huawei menyatakan desain ini menghilangkan rugi-rugi rangkaian akibat kabel dan dapat menghapus sekitar 196 km kabel tembaga pada konfigurasi SuperPoD 4.096 NPU. 18
• LinkDevice ditujukan untuk interkoneksi optik antarkabinet. Menurut Huawei, perangkat ini menawarkan 176 port berkecepatan 1,6 Tbit/detik per port, bandwidth agregat 280 Tbit/detik, dan latensi pulang-pergi serendah 2 mikrodetik. 18
• Switch UBG diposisikan sebagai lapisan tingkat klaster untuk menghubungkan beberapa SuperPoD. Huawei menyebut topologinya dapat diperluas hingga 512.000 NPU dalam jaringan Clos dua tingkat dengan empat bidang, dan hingga satu juta NPU melalui topologi multi-rail. Ini merupakan klaim skala arsitektur, bukan bukti bahwa klaster satu juta NPU sudah diterapkan. 18

Bagi organisasi yang tidak membutuhkan SuperPoD masif, Atlas 650E menawarkan konfigurasi full-mesh 16 NPU yang lebih kecil berbasis UnifiedBus Link 2.0. Huawei mencantumkan bandwidth baca/tulis memori on-chip hingga 4,0 TB/detik dan bandwidth UB Link 13,4 TB/detik per server 16 NPU. 20

Roadmap Ascend 960: varian pelatihan dan inferensi pada 2027

Huawei menyatakan pengembangan Ascend 960 melampaui ekspektasi perusahaan dan performa yang direncanakan telah berlipat dua. Namun, Huawei belum menerbitkan detail benchmark independen yang diperlukan untuk memverifikasi pernyataan tersebut. 11

Jadwal yang diumumkan adalah:

• Ascend 960DT, untuk decoding dan pelatihan: kuartal I 2027, tiga kuartal lebih cepat dari roadmap Huawei sebelumnya. 111
• Ascend 960PR, untuk prefill serta rekomendasi/inferensi: kuartal III 2027, satu kuartal lebih cepat dari jadwal sebelumnya. 111

Huawei juga mengatakan sistem Atlas 950 SuperPod—generasi terdahulu—sudah digunakan secara komersial dalam skala besar. Pernyataan itu tidak boleh disamakan dengan penerapan perangkat keras Atlas 960E, yang terkait dengan generasi Ascend 960 mendatang. 39

Dibanding NVLink, apa posisi UnifiedBus?

UnifiedBus paling tepat dipahami sebagai jawaban Huawei pada tingkat sistem terhadap persoalan luas yang juga ditangani interkoneksi akselerator seperti Nvidia NVLink: menjaga banyak akselerator tetap memperoleh data dan berkomunikasi cukup cepat, sehingga penambahan skala menghasilkan komputasi yang benar-benar berguna, bukan sekadar tambahan beban sinkronisasi.

Pembeda yang diklaim Huawei ialah penyatuan protokol yang lebih luas, pengalamatan memori global di dalam SuperPoD, akses langsung lintas komponen heterogen, serta integrasi NPO pada tingkat SuperPoD. 189

Namun, materi yang tersedia belum membuktikan perbandingan setara dengan NVLink dalam hal bandwidth, latensi, kematangan perangkat lunak, keandalan, biaya, maupun throughput pelatihan nyata. Materi tersebut juga tidak menunjukkan UnifiedBus sebagai standar terbuka lintas vendor yang sebanding dari sisi tata kelola atau tujuan interoperabilitas dengan inisiatif interkoneksi akselerator terbuka. UnifiedBus dipresentasikan sebagai arsitektur dan ekosistem produk milik Huawei sendiri. 18

Bukti yang masih perlu ditunggu

Pengumuman Huawei penting karena menempatkan desain sistem—interkoneksi, optik, topologi, dan semantik memori—di pusat strategi infrastruktur AI-nya. Pendekatan ini berpotensi bernilai ketika beban kerja dibatasi oleh komunikasi dan kapasitas memori, bukan hanya kemampuan komputasi per chip.

Uji penentunya baru akan datang kemudian: pengiriman sistem Ascend 960 dan Atlas 960E, throughput serta utilisasi pelatihan pada beban kerja nyata, perangkat lunak yang dapat digunakan, keandalan pada skala besar, dan kemampuan memasok sistem dalam volume tinggi. Sampai saat itu, angka SuperPoD 4.096 NPU dan SuperCluster satu juta NPU merupakan target arsitektural yang ambisius, bukan capaian yang telah dibuktikan secara independen. 91118