Huawei melder om ny milepæl for CANN-økosystemet

Huawei oppgir at det åpne CANN-fellesskapet for Ascend har passert 6 230 månedlig aktive utviklere og 60 millioner nedlastinger av programvarearkiver. Ifølge selskapet kommer mer enn halvparten av de aktive bidragene fra aktører utenfor Ascend-organisasjonen. Huawei omtaler også CANN som Kinas mest aktive åpenkildeprosjekt, men den sammenligningen er ikke dokumentert gjennom en uavhengig, standardisert rangering. 7

Det interessante er ikke bare størrelsen på tallene. Spørsmålet er om CANN – programvarelaget mellom Ascend-prosessorene for KI og rammeverkene/applikasjonene som bruker dem – er i ferd med å bli noe utviklere og organisasjoner faktisk bidrar til å vedlikeholde, snarere enn et kompatibilitetslag kontrollert av én leverandør.

Hva CANN er – og hvorfor fellesskapet betyr noe

CANN står for Compute Architecture for Neural Networks og gir funksjoner for utvikling av operatorer, beregningsgrafer og applikasjoner som bruker maskinvareakselerasjon på Ascend. I Huaweis tekniske gjennomgang oppgis den første CANN-utgivelsen å ha kommet i 2019. 1

For en KI-akselerator er ikke maskinvareytelse alene nok. Utviklere trenger operatorer som fungerer, kompilatorer, kjøretider, feilsøkingsmuligheter, rammeverksintegrasjoner, regresjonstesting og forutsigbar kompatibilitet mellom utgivelser. Derfor kan et voksende programvarefellesskap få større betydning for langsiktig innføring enn én ny brikke eller én ny klynge.

De rapporterte aktivitetstallene peker mot økt interesse for dette programvarelaget. Men de bør leses som indikatorer på framdrift i økosystemet – ikke som direkte mål på bruk i produksjon, uavhengighet blant vedlikeholdere eller programvarekvalitet. 7

Strategien: mer åpen og modulær programvare

Huawei har beskrevet åpningen av CANN som et skifte mot en modulær, lagdelt programvarestakk som kan utvikles i bredere samarbeid. Selskapet sa at CANN-operatorer skulle åpnes på GitCode, før sentrale komponenter som domenespesifikke biblioteker, grafmotoren, Ascend C og MindIE ble gjort tilgjengelige som åpen kildekode. 3

Huawei har også sagt at framtidig åpning av programvare skal samordnes med produktlanseringer, med mål om såkalt Day-0-støtte – at programvaren er klar ved lansering av nye Ascend-generasjoner. 73

Dette kan senke terskelen for innføring: Utviklere og partnere kan i større grad undersøke, endre, pakke og teste lagene under sine egne applikasjoner. Åpne komponenter kan også gjøre det enklere å bidra med feilrettinger og ytelsesforbedringer uten å vente på en lukket leverandørutgivelse.

Skal redusere kostnaden ved portering

Satsingen handler i stor grad om å passe Ascend inn i verktøy utviklere allerede bruker. Huawei sier at CANNs AscendNPU IR kan kobles til operatorverktøy og språk som Triton og TileLang, mens CANN leverer de underliggende utviklingsfunksjonene for Ascend-rettet programvarearbeid. 1

Selskapet har også beskrevet samarbeid med åpenkildeprosjekter som Triton, PyTorch, vLLM og verl. Den bredere Ascend-plattformen støtter arbeidsflyter knyttet til Megatron og SGLang. 38

I praksis er målet at Ascend-støtte skal bli en integrasjon som vedlikeholdes kontinuerlig, ikke en enkeltstående portering. Det krever arbeid med rammeverksadaptere, operatorbiblioteker, kontinuerlig integrasjon, kompatibilitetstester og utgivelsesarbeid – ikke bare en påstand om API-støtte.

CANNBot er del av Huaweis argumentasjon for høyere utviklerproduktivitet. CANN-fellesskapet beskriver verktøyet som en fleragent-assistent for kodegenerering, feilsøking, lukket reparasjonssløyfe og ende-til-ende-optimalisering. 6 Påstander om mer enn femdoblet effektivitet i operatorutvikling bør likevel behandles som Huawei-rapporterte ytelsestall, ikke som uavhengig replikerte benchmarkresultater.

Tegn på et fellesskap – men ikke bevis på selvstendighet

Det finnes indikasjoner på at CANN-aktiviteten har økt. I juli oppga Huawei 67 fellesskapsprosjekter, mer enn 12,44 millioner linjer åpen kildekode og over 3 500 månedlig aktive utviklere. 8 Det senere tallet på over 6 230, rapportert i slutten av august, vil være en betydelig vekst dersom målemetoden er den samme. 7

Huawei har dessuten opprettet en teknisk styringskomité for CANN og beskrevet bidragsveier gjennom GitCode. 3 Dette er relevante byggesteiner for styring, men det viser ikke alene hvem som i praksis har myndighet over kodegjennomgang, veikart, utgivelser og langsiktig vedlikehold.

Huaweis årsrapport viser til et langt bredere, kombinert Kunpeng- og Ascend-økosystem med over 9 800 partnere og 26 000 fellesutviklede bransjeløsninger. Tallene viser kommersiell rekkevidde, men bør ikke forveksles med deltakelse spesifikt i CANN-fellesskapet. 2

Dette gjenstår å dokumentere

• Aktivitet er ikke det samme som bruk i produksjon. Månedlig aktive utviklere, nedlastinger og antall arkiver sier ikke hvor mange utrullinger som kjører stabilt over tid i trening eller inferanseløsninger.
• Eksterne bidrag er ikke det samme som uavhengig vedlikehold. Det viktige beviset vil være varig eierskap utenfor Huawei til kjerner, integrasjoner, tester, dokumentasjon og kompatibilitet mellom utgivelser.
• Rammeverksstøtten må holde tritt. Integrasjoner med PyTorch, vLLM, SGLang, Megatron, Triton og TileLang må oppgraderes fortløpende når oppstrømsprosjektene endrer seg.
• Ytelse og drift må valideres uavhengig. Materialet som foreligger, dokumenterer ikke bred ytelsesmessig likhet eller overlegenhet mot modne, CUDA-sentrerte programvarestakker når det gjelder modellstøtte, verktøy, stabilitet, driftsstøtte eller produksjonsytelse.
• Infrastrukturen setter fortsatt grenser. Tilgang på maskinvare, minneforsyning og priser, nettverk, strøm og programvare for klynger kan begrense reell innføring selv om utviklerstakken blir bedre.

Konklusjon

Huaweis rapporterte tall – over 6 230 månedlig aktive CANN-utviklere, over 60 millioner nedlastinger og et flertall av bidragene fra utenfor Ascend – er et troverdig tegn på at satsingen beveger seg utover et rent internt utviklingsløp. 7

Den viktigste milepælen ligger imidlertid fortsatt foran: integrasjoner oppstrøms og nedstrøms som vedlikeholdes uavhengig, tåler nye rammeverksutgivelser og støtter målbare, repeterbare produksjonsutrullinger. Inntil slik dokumentasjon bygger seg opp, bør CANNs vekst ses som lovende økosystemmomentum – ikke som et endelig bevis på at Ascend allerede har oppnådd selvopprettholdende, fellesskapsdrevet programvareadopsjon.