Huawei vil gjøre KI-klyngen til én samlet maskin

Huaweis nye KI-infrastruktur bygger på en enkel idé: Når treningen skaleres til svært mange prosessorer, er det ikke nødvendigvis regnekraften i hver enkelt akselerator som er flaskehalsen. Det kan like gjerne være flyttingen av parametere, aktiveringer, hurtigbufferdata og minneaksesser mellom tusenvis av prosessorer. Atlas 960E SuperPoD, Ascend 960-veikartet og UnifiedBus er Huaweis foreslåtte løsning. Tallene for ytelse og effektivitet kommer fra Huawei selv og er ikke uavhengig verifiserte referansetester. 918

Målet: færre separate servere, mer samlet system

I store, tradisjonelle klynger behandles ofte CPU-er, akseleratorer, lagring og minne som adskilte ressurser som kommuniserer gjennom flere protokoller. Huawei sier at UnifiedBus samler mer enn ti sammenkoblingsprotokoller under én protokoll og én minnesemantikk. Det skal gi direkte node-til-node-tilgang mellom CPU-er, NPU-er, minne og SSD-er. 18

I praksis er hensikten å redusere ventetid. I stedet for gjentatte kopieringer eller eksplisitt koordinering av data mellom isolerte noder, skal programvare kunne adressere minne på tvers av en SuperPoD gjennom ett globalt adresseområde. Det er ment å gjøre distribuert minne enklere å bruke som en felles ressurs når modeller og mellomdata er større enn det lokale minnet i én akselerator. 18

Huawei hevder at arkitekturen løfter kapasiteten i sammenkoblingen fra omtrent 100 GB/s-nivået til TB/s-nivået, og reduserer rundturstiden fra rundt 7 mikrosekunder til 2 mikrosekunder. Dette er mål for Huaweis planlagte UnifiedBus-arkitektur, ikke en generell og uavhengig test mot konkurrentenes løsninger. 18

Atlas 960E: optikk tett på prosessorpakken

Atlas 960E SuperPoD kombinerer kommende Ascend 960-prosessorer med UnifiedBus og Huaweis Hi-ONE-motor for near-packaged optics (NPO). Huawei beskriver det væskekjølte systemet som en NPO-basert SuperPoD for trening og inferens med modeller på opptil 10 billioner parametere. 9

Den oppgitte toppkonfigurasjonen er 4 096 NPU-er med felles minneadressering, med en påstått ytelse på 8 EFLOPS ved FP8 eller 16 EFLOPS ved FP4. 9

NPO er sentralt i konstruksjonen fordi elektriske forbindelser blir vanskeligere å skalere når både båndbredde og klyngestørrelse vokser. Huawei oppgir 7,2 Tbit/s per Hi-ONE optisk motor. I det foreslåtte systemet med 4 096 NPU-er sier selskapet at rundt 5 500 Hi-ONE-motorer kan erstatte omtrent 48 000 konvensjonelle 800G-optiske moduler. Ifølge Huawei kan dette redusere strømforbruket med mer enn 550 kW og øke tilgjengeligheten til 99,8 prosent. Også dette er Huaweis egne anslag. 9

Byggesteinene fra skap til superklynge

Huawei har også presentert komponenter for ulike nivåer i infrastrukturen:

• LinkBlade er en kabelfri UnifiedBus-komponent for sammenkobling inne i ett skap. Huawei sier den fjerner tap knyttet til kabling og kan eliminere rundt 196 km kobberkabel i en SuperPoD-konfigurasjon med 4 096 NPU-er. 18
• LinkDevice er beregnet på optisk sammenkobling mellom skap. Huawei oppgir 176 porter på 1,6 Tbit/s hver, 280 Tbit/s samlet båndbredde og rundturstid ned mot 2 mikrosekunder. 18
• UBG-svitsjer er laget som klyngenivået som kobler SuperPoD-er sammen. Huawei sier topologien kan skaleres til 512 000 NPU-er i et Clos-nettverk med to nivåer og fire plan, og til én million NPU-er med en flerbanetopologi. Dette er påstander om arkitektonisk skala, ikke dokumentasjon på utplasserte klynger med én million NPU-er. 18

For virksomheter som ikke trenger en enorm SuperPoD, er Atlas 650E en mindre løsning med 16 NPU-er i fullmesh, basert på UnifiedBus Link 2.0. Huawei oppgir opptil 4,0 TB/s lese- og skrivebåndbredde for minnet på brikken og 13,4 TB/s UB Link-båndbredde per server med 16 NPU-er. 20

Ascend 960 i 2027: to varianter, to arbeidsoppgaver

Huawei sier utviklingen av Ascend 960 har overgått forventningene og at planlagt ytelse er doblet. Selskapet har imidlertid ikke publisert detaljene fra uavhengige referansetester som trengs for å etterprøve påstanden. 11

Det annonserte tidsskjemaet er:

• Ascend 960DT, rettet mot dekoding og trening: første kvartal 2027, tre kvartaler før Huaweis tidligere plan. 111
• Ascend 960PR, rettet mot prefill samt anbefalings- og inferensarbeidslaster: tredje kvartal 2027, ett kvartal foran planen. 111

Huawei har også sagt at systemer i den tidligere Atlas 950 SuperPod-generasjonen allerede er i storskala kommersiell bruk. Det må ikke forveksles med utplassering av Atlas 960E-maskinvare, som hører til den kommende Ascend 960-generasjonen. 39

Sammenlignet med Nvidia NVLink

UnifiedBus kan best forstås som Huaweis systemorienterte svar på det samme overordnede problemet som akseleratorkoblinger som Nvidia NVLink forsøker å løse: å holde mange akseleratorer kontinuerlig forsynt med data og la dem kommunisere raskt nok til at skalering gir nyttig regnekraft, fremfor økt synkroniseringsarbeid.

Huaweis uttalte særtrekk er en bredere samling av protokoller, global minneadressering i en SuperPoD, direkte tilgang mellom ulike typer komponenter og integrasjon av NPO på SuperPoD-nivå. 189

Det tilgjengelige materialet gir derimot ikke grunnlag for en direkte sammenligning med NVLink på båndbredde, forsinkelse, programvaremodenhet, driftssikkerhet, kostnad eller faktisk treningsgjennomstrømning. Det viser heller ikke at UnifiedBus er en åpen standard på tvers av leverandører, med tilsvarende styringsmodell eller interoperabilitetsmål som åpne initiativer for akseleratorforbindelser. UnifiedBus presenteres som Huaweis egen arkitektur og produktportefølje. 18

Det som må dokumenteres

Annonseringen er viktig fordi Huawei setter systemdesign – sammenkobling, optikk, topologi og minnesemantikk – i sentrum for KI-strategien. Det kan være strategisk verdifullt når en arbeidslast begrenses like mye av kommunikasjon og minnekapasitet som av regnekraft per brikke.

Det avgjørende beviset kommer senere: leverte Ascend 960- og Atlas 960E-systemer, målbar treningsgjennomstrømning og utnyttelse i reelle arbeidslaster, brukbare programvareverktøy, driftssikkerhet i stor skala og evne til å levere systemene i volum. Inntil da er tallene for en SuperPoD med 4 096 NPU-er og en SuperCluster med én million NPU-er ambisiøse arkitekturmål, ikke uavhengig påviste resultater. 91118