Pertaruhan Atlas 960E Huawei: Bolehkah UnifiedBus Menjadikan Kluster AI Gergasi Lebih Cekap?

Huawei mempertaruhkan bahawa dalam latihan AI pada skala sangat besar, masalah utama bukan semata-mata kuasa pengiraan cip pemecut. Sebaliknya, ribuan pemproses boleh banyak menunggu ketika parameter model, pengaktifan, cache dan capaian memori dipindahkan antara pelayan.

Atlas 960E SuperPoD, pelan cip Ascend 960 dan fabrik interkoneksi UnifiedBus ialah jawapan yang dicadangkan Huawei. Namun, angka prestasi dan kecekapan yang dibentangkan ialah tuntutan produk Huawei, bukannya penanda aras bebas yang telah disahkan. 918

Idea utamanya: jadikan kluster lebih menyerupai satu sistem besar

Dalam kluster besar biasa, CPU, pemecut AI, storan dan memori lazimnya kekal sebagai sumber berasingan yang dihubungkan menggunakan pelbagai protokol. Huawei menyatakan UnifiedBus menyatukan lebih daripada 10 protokol interkoneksi di bawah satu protokol serta semantik memori, bagi membolehkan akses rakan setara secara terus antara CPU, NPU, memori dan pemacu keadaan pepejal (SSD). 18

Matlamat praktikalnya adalah mengurangkan masa menunggu. Perisian boleh mengalamati memori merentas SuperPoD melalui ruang alamat memori global yang bersatu, tanpa perlu berulang kali menyalin atau menyelaras data secara eksplisit antara nod yang terasing. Ini sepatutnya menjadikan memori teragih lebih mudah digunakan sebagai sumber terkumpul, khususnya apabila model dan data perantara melebihi memori setempat sebuah pemecut. 18

Huawei mendakwa seni bina UnifiedBus ini meningkatkan keupayaan interkoneksi daripada sekitar kelas 100 GB/s kepada kelas TB/s, sambil mengurangkan kependaman perjalanan pergi balik daripada kira-kira 7 mikro saat kepada 2 mikro saat. Angka itu merujuk kepada seni bina yang dicadangkan Huawei, dan bukan perbandingan umum yang diuji secara bebas dengan sistem pesaing. 18

Atlas 960E: optik berhampiran pakej untuk skala SuperPoD

Atlas 960E SuperPoD menggabungkan pemproses Ascend 960 yang akan datang, UnifiedBus dan enjin optik berhampiran pakej (near-packaged optics, NPO) Hi-ONE milik Huawei. Huawei menggambarkan sistem yang disejukkan cecair sepenuhnya ini sebagai SuperPoD berasaskan NPO untuk latihan dan inferens model sehingga 10 trilion parameter. 9

Konfigurasi utama yang dinyatakan ialah 4,096 NPU dengan pengalamatan memori bersatu, dengan penarafan 8 EFLOPS pada FP8 atau 16 EFLOPS pada FP4. 9

NPO menjadi elemen penting kerana sambungan elektrik semakin sukar diskalakan apabila jalur lebar dan saiz kluster meningkat. Huawei menyatakan setiap enjin optik Hi-ONE menawarkan 7.2 Tbit/s. Bagi sistem 4,096 NPU yang dicadangkan, syarikat itu berkata kira-kira 5,500 enjin Hi-ONE boleh menggantikan sekitar 48,000 modul optik 800G konvensional, mengurangkan penggunaan kuasa melebihi 550 kW serta meningkatkan ketersediaan kepada 99.8%. Semua ini ialah unjuran Huawei untuk reka bentuknya. 9

Komponen yang meluaskan seni bina ini

Huawei turut memperincikan produk bagi beberapa lapisan fizikal dalam kluster:

• LinkBlade ialah komponen UnifiedBus tanpa kabel untuk interkoneksi di dalam kabinet. Huawei menyatakan ia menghapuskan kehilangan litar yang berkaitan dengan kabel dan boleh mengurangkan kira-kira 196 km kabel tembaga dalam konfigurasi SuperPoD 4,096 NPU. 18
• LinkDevice ditujukan untuk interkoneksi optik antara kabinet. Huawei menyatakan ia mempunyai 176 port pada 1.6 Tbit/s setiap satu, jalur lebar agregat 280 Tbit/s, serta kependaman perjalanan pergi balik serendah 2 mikro saat. 18
• Suis UBG ialah lapisan peringkat kluster yang dicadangkan untuk menghubungkan beberapa SuperPoD. Huawei menyatakan topologinya boleh berkembang kepada 512,000 NPU dalam rangkaian Clos dua peringkat, empat satah, dan kepada sejuta NPU dengan topologi berbilang laluan. Ini ialah tuntutan skala seni bina, bukannya bukti kluster sejuta NPU telah digunakan. 18

Bagi organisasi yang tidak memerlukan SuperPoD berskala besar, Atlas 650E menawarkan konfigurasi full-mesh 16 NPU yang lebih kecil berasaskan UnifiedBus Link 2.0. Huawei menyenaraikan sehingga 4.0 TB/s jalur lebar baca/tulis memori pada cip dan 13.4 TB/s jalur lebar UB Link bagi setiap pelayan 16 NPU. 20

Pelan Ascend 960: varian latihan dan inferens pada 2027

Huawei berkata pembangunan Ascend 960 melepasi jangkaannya, dengan prestasi dirancang meningkat dua kali ganda. Namun, syarikat itu belum menerbitkan butiran penanda aras bebas yang diperlukan untuk mengesahkan kenyataan tersebut. 11

Jadual yang diumumkan adalah seperti berikut:

• Ascend 960DT, untuk penyahkodan dan latihan: suku pertama 2027, tiga suku lebih awal daripada pelan hala tuju asal Huawei. 111
• Ascend 960PR, untuk praisi (prefill) serta cadangan/inferens: suku ketiga 2027, satu suku lebih awal daripada jadual. 111

Huawei juga menyatakan sistem Atlas 950 SuperPoD—generasi terdahulu—sudah digunakan secara komersial pada skala besar. Kenyataan ini tidak sepatutnya disamakan dengan penggunaan perkakasan Atlas 960E, yang berkait dengan generasi Ascend 960 akan datang. 39

Kedudukan UnifiedBus berbanding NVLink dan inisiatif interkoneksi terbuka

UnifiedBus paling mudah difahami sebagai respons Huawei di peringkat sistem terhadap masalah yang sama cuba diselesaikan oleh interkoneksi pemecut seperti Nvidia NVLink: memastikan banyak pemecut menerima data mencukupi dan boleh berkomunikasi cukup pantas supaya pertambahan skala menghasilkan pengiraan berguna, bukan lebih banyak beban penyelarasan.

Kelainan yang diketengahkan Huawei ialah penyatuan protokol yang lebih meluas, pengalamatan memori global dalam SuperPoD, akses terus merentas komponen heterogen dan penyepaduan NPO pada peringkat SuperPoD. 189

Namun, bahan yang tersedia tidak menyediakan perbandingan setara secara langsung dengan NVLink dari segi jalur lebar, kependaman, kematangan perisian, kebolehpercayaan, kos atau daya pemprosesan latihan sebenar. Ia juga tidak menunjukkan UnifiedBus sebagai standard terbuka merentas vendor yang setanding dari segi tadbir urus atau matlamat kesalingoperasian dengan inisiatif pautan pemecut terbuka. UnifiedBus dibentangkan sebagai seni bina dan ekosistem produk milik Huawei sendiri. 18

Apa yang perlu dibuktikan seterusnya

Pengumuman ini penting kerana Huawei meletakkan reka bentuk sistem—interkoneksi, optik, topologi dan semantik memori—di tengah strategi infrastruktur AInya. Pendekatan itu boleh memberi nilai strategik apabila beban kerja dihadkan oleh komunikasi dan kapasiti memori, bukan hanya pengiraan setiap cip.

Bukti muktamad hanya akan datang kemudian: penghantaran sistem Ascend 960 dan Atlas 960E, daya pemprosesan serta kadar penggunaan semasa latihan beban kerja sebenar, alat perisian yang boleh digunakan, kebolehpercayaan pada skala besar, dan keupayaan membekalkan sistem ini dalam jumlah besar. Buat masa ini, angka SuperPoD 4,096 NPU dan SuperCluster sejuta NPU ialah sasaran seni bina yang bercita-cita tinggi, bukan hasil yang telah ditunjukkan secara bebas. 91118