Slik skal Huaweis UnifiedBus binde sammen KI-systemer i stor skala

Når mange prosessorer skal arbeide med den samme KI-modellen, hjelper det ikke bare å legge til flere brikker. Data må også flyttes raskt mellom dem, og modellen må ha tilgang til konteksten den trenger under kjøring. På Huawei Connect 2026 presenterte Huawei Lingqu UnifiedBus som forbindelsen som skal løse begge utfordringene i selskapets SuperPoD-systemer og større klynger. 81921

Én forbindelse på tvers av servere

Ifølge Huawei samler UnifiedBus mer enn ti forbindelsesprotokoller under én protokoll med felles regler for minnetilgang. Målet er at CPU-er, KI-prosessorer – såkalte NPU-er – og andre ressurser skal kunne utveksle data direkte, også når de står i ulike fysiske servere. Huawei oppgir at båndbredden går fra størrelsesordenen 100 GB/s til størrelsesordenen TB/s, mens tur-retur-forsinkelsen går fra rundt 7 til 2 mikrosekunder. Dette er oppgitte tall for forbindelsen, ikke målte forbedringer i hele KI-applikasjoner. 271923

Den raske dataflyten er også viktig for Huaweis forslag om å skille Attention-arbeid fra arbeidet i Transformermodellens fremovermatingsnettverk (FFN). Ulike operasjoner kan da legges på ressurser som passer dem, men gevinsten avhenger av at flyttingen av mellomresultater ikke blir en ny flaskehals. Det tilgjengelige materialet tallfester ikke en samlet ytelsesgevinst. 78

Mer plass til modellens kontekst

I Huaweis bredere oppsett står Kunpeng 950 for generell databehandling og Ascend 960 for KI-beregninger. OceanStor M900 skal gi mer plass til KV-cache: data modellen tar vare på og bruker igjen når den behandler kontekst under inferens, altså når den lager svar. Via UnifiedBus skal denne cachen kunne deles og fordeles mellom flere minne- og lagringsnivåer, fra minne på brikken og DRAM til SSD-er. Slik vil Huawei utvide kapasiteten utover minnet på hver enkelt KI-prosessor. 421

Her er det to forskjellige flaskehalser: raskere kommunikasjon mellom prosessorer og større kapasitet for kontekst. Hvor raskt lagret kontekst faktisk kan hentes fra en SSD, avhenger av hele veien mellom lagring og prosessor – ikke bare den oppgitte forsinkelsen i forbindelsen. 721

Fra serverrack til større klynger

Huawei beskriver utstyr for forbindelser både innad i serverrack, mellom rack og på tvers av klynger. Én omtalt forbindelsesenhet har 176 porter på 1,6 Tbit/s hver, tilsvarende omtrent 280 Tbit/s i samlet portkapasitet. Det sier ikke hvor mye båndbredde én prosessor eller én KI-oppgave får. 719

For større systemer kombinerer Huawei UnifiedBus med optiske forbindelser. Atlas 960E SuperPoD bruker optikk plassert nær brikkene, mens en helelektrisk? Nei: Huaweis heloptiske UnifiedBus-konfigurasjon for TaiShan 950 SuperPoD ifølge selskapet støtter opptil 4 096 NPU-er. Selskapets langsiktige mål er klynger med opptil en million NPU-er; det er ikke en publisert ytelsestest av en slik klynge. 2519

Huawei omtaler også UBG-utstyr som del av forbindelsen fra rack til klynge. Kildematerialet fastslår derimot verken hvilken presis rolle Atlas 650E har, om den er tatt i bruk, eller et tallfestet krav om spart kobber. Det finnes heller ingen uavhengig test av en komplett klynge som viser at de oppgitte tallene gir vedvarende forbedringer i trening eller inferens. UnifiedBus bør derfor foreløpig forstås som en arkitektur med leverandøroppgitte spesifikasjoner, ikke som et verifisert resultat for hele systemet. 7819