Huawei melder om kraftig vækst i CANN-fællesskabet

Huawei oplyser, at open source-fællesskabet omkring Ascend CANN nu har mere end 6.230 månedligt aktive udviklere og over 60 millioner repository-downloads. Ifølge virksomheden kommer mere end halvdelen af de aktive bidrag fra aktører uden for Ascend-organisationen. Huawei beskriver også CANN som Kinas mest aktive open source-projekt, men den sammenligning er ikke dokumenteret med en uafhængig og standardiseret rangliste. 7

Det væsentlige er ikke kun størrelsen på tallene. Spørgsmålet er, om CANN – softwarestakken, der forbinder Ascend AI-processorer med frameworks og applikationer – er på vej til at blive noget, udviklere og organisationer er med til at vedligeholde, frem for blot et kompatibilitetslag styret af leverandøren.

Hvad er CANN – og hvorfor betyder økosystemet noget?

CANN står for Compute Architecture for Neural Networks. Det leverer funktioner til udvikling af operatorer, grafudvikling og applikationsudvikling, så software kan udnytte hardwareacceleration fra Ascend. Huaweis tekniske gennemgang daterer den første CANN-udgivelse til 2019. 1

For en AI-accelerator er god hardware ikke tilstrækkelig. Udviklere har også brug for fungerende operatorer, compilere, runtime-miljøer, fejlsøgning, framework-integrationer, regressionstest og kompatibilitet mellem udgivelser. Derfor kan et voksende softwarefællesskab få større betydning for den langsigtede udbredelse end annonceringen af en enkelt chip eller klynge.

Huaweis aktivitetstal peger på stigende interesse for dette softwarelag. Men de bør læses som mål for fremdrift i økosystemet – ikke som direkte dokumentation for brug i produktion, uafhængig vedligeholdelse eller softwarekvalitet. 7

Strategien: mere åben og modulær software

Huawei har beskrevet åbningen af CANN som et skifte mod en modulær, lagdelt softwarestack, der kan udvikles gennem bredere samarbejde. Virksomheden oplyste, at CANN-operatorer skulle open sources via GitCode, efterfulgt af centrale komponenter som domænespecifikke biblioteker, grafmotoren, Ascend C og MindIE. 3

Huawei har desuden sagt, at fremtidig åbning af softwaren skal ske synkront med produktlanceringer. Målet er såkaldt Day-0-understøttelse for nye generationer af Ascend-hardware og -software. 73

Det kan gøre en platform lettere at tage i brug: Udviklere kan i princippet inspicere, ændre, pakke og teste lagene under deres egne applikationer. Åbne komponenter kan også give partnere mulighed for at bidrage med fejlrettelser eller performanceforbedringer uden at vente på en lukket leverandørudgivelse.

Mindre arbejde med portering

Fremstødet handler i høj grad om at få Ascend til at passe ind i værktøjer, udviklere allerede bruger. Huawei siger, at CANNs AscendNPU IR kan forbindes med operatorværktøjer og sprog som Triton og TileLang, mens CANN leverer de underliggende udviklingsfunktioner til Ascend-orienteret softwarearbejde. 1

Huawei har også omtalt samarbejde med open source-projekter som Triton, PyTorch, vLLM og verl. Den bredere Ascend-platform understøtter desuden arbejdsgange med blandt andet Megatron og SGLang. 38

Det praktiske mål er, at Ascend-understøttelse bliver en integration, der løbende vedligeholdes – ikke en enkeltstående portering. Det kræver arbejde med framework-adaptere, operatorbiblioteker, kontinuerlig integration, kompatibilitetstest og udgivelsesprocesser; en API-påstand alene er ikke nok.

CANNBot er en del af Huaweis argument for højere udviklerproduktivitet. CANN-fællesskabet beskriver værktøjet som en multiagent-assistent til kodegenerering, fejlfinding, lukket kredsløb for rettelser og end-to-end-optimering. 6 Påstande om en forbedring på mere end fem gange i effektiviteten ved operatorudvikling bør dog ses som Huaweis egne performancepåstande, ikke som uafhængigt reproducerede benchmarkresultater.

Tegn på et voksende fællesskab – men ikke endnu bevis på selvstændighed

Der er tegn på, at aktiviteten i CANN er vokset. I juli oplyste Huawei, at fællesskabet omfattede 67 projekter, mere end 12,44 millioner linjer open source-kode og over 3.500 månedligt aktive udviklere. 8 Det efterfølgende tal på over 6.230, rapporteret sidst i august, vil være en markant stigning, hvis målemetoden er den samme. 7

Huawei har også oprettet en teknisk styrekomité for CANN og beskrevet bidragsveje via GitCode. 3 Det er relevante byggesten for styring af et open source-projekt, men det viser ikke i sig selv, hvem der reelt har indflydelse på kodereview, roadmap, udgivelser og langsigtet vedligeholdelse.

Huaweis årsrapport nævner et langt bredere, samlet Kunpeng- og Ascend-økosystem med mere end 9.800 partnere og 26.000 løsninger, der er udviklet i fællesskab. Tallene viser kommerciel rækkevidde, men bør ikke forveksles med CANN-specifik deltagelse i open source-fællesskabet. 2

Det, der fortsat er uklart

• Aktivitet er ikke det samme som brug i produktion. Månedligt aktive udviklere, downloads, repositories og andelen af eksterne bidrag siger ikke, hvor mange installationer der kører stabilt med langvarige trænings- eller inferensarbejdsbelastninger.
• Eksterne bidrag er ikke det samme som uafhængig vedligeholdelse. Det afgørende bevis vil være vedvarende eksternt ejerskab af kernels, integrationer, test, dokumentation og kompatibilitet mellem udgivelser.
• Framework-understøttelse skal holde over tid. Integrationerne med PyTorch, vLLM, SGLang, Megatron, Triton og TileLang skal fortsat opdateres, når de respektive upstream-projekter ændrer sig.
• Ydelse og drift kræver uafhængig validering. Det tilgængelige materiale dokumenterer ikke bred lighed med eller overlegenhed over for modne CUDA-centrerede stacks på tværs af modeldækning, værktøjer, pålidelighed, driftsstøtte og produktionsydelse.
• Infrastrukturen tæller stadig. Tilgængelighed af hardware, hukommelsesforsyning og priser, netværk, strøm og klyngesoftware kan begrænse den reelle udbredelse, selv hvis udviklerstacken forbedres.

Konklusion

Huaweis oplyste tal – over 6.230 månedligt aktive CANN-udviklere, over 60 millioner downloads og en majoritet af aktive bidrag uden for Ascend – er et troværdigt tegn på, at softwareøkosystemet bevæger sig ud over et rent internt ingeniørprojekt. 7

Men den stærkere milepæl ligger stadig foran: Uafhængigt vedligeholdte upstream- og downstream-integrationer, som fortsætter med at fungere gennem framework-udgivelser og understøtter målbare, gentagelige installationer i produktion. Indtil den dokumentation er på plads, bør CANNs vækst ses som lovende momentum i økosystemet – ikke som endeligt bevis på selvbærende, fællesskabsdrevet softwareadoption.