Ascend CANN vokser, ifølge Huawei. Nå venter testen i produksjon

Huawei vil at CANN, programvarestakken for selskapets Ascend-prosessorer til kunstig intelligens, skal utvikles også utenfor selskapet. Utviklertallene og bredden i verktøyene underbygger at miljøet vokser. De viser derimot ikke hvor mye av aktiviteten som blir til løsninger som brukes over tid i produksjon.38

Hva forteller tallene?

Huawei oppgir over 5 200 månedlig aktive utviklere i CANN-miljøet. Ifølge selskapet er 61 prosent eksterne utviklere – for første gang flere enn Huaweis egne.3 En annen rapport gjengir høyere tall fra Huawei: over 6 230 månedlig aktive utviklere, mer enn 60 millioner nedlastinger fra kodelagre og over halvparten av de aktive bidragene fra personer utenfor Ascend-organisasjonen.10

Kildene forklarer ikke forskjellen mellom utviklertallene, og nedlastings- og bidragstallene er ikke uavhengig bekreftet i det tilgjengelige materialet. Andelen eksterne utviklere og andelen eksterne bidrag må heller ikke forveksles.

Huawei omtaler CANN som Kinas mest livlige fellesskap for åpen kildekode. En annen omtale sier at selskapet har kalt det landets mest aktive siden juni.311 Kildene dokumenterer ingen uavhengig rangering etter sammenlignbare kriterier. Tallene bør derfor leses som Huaweis beskrivelse av økende deltakelse, ikke som et mål på hvor mye programvaren brukes i drift.

Hva får utviklerne tilgang til?

Kode når ny maskinvare kommer. En rapport beskriver en åpen kildekodeutgivelse fra dag én for Ascend 950.10 Tanken er at utviklere skal kunne undersøke og tilpasse programvaren samtidig som den nye maskinvaren blir tilgjengelig. Huawei beskriver CANN som en lagdelt stakk av komponenter, med grensesnitt for utvikling av operatorer, beregningsgrafer og styring på applikasjonsnivå. Fellesskapets kodelager viser blant annet operatorbiblioteker og grafmotorprosjekter.815

Flere måter å utvikle og finjustere på. Huawei sier at oppdateringer av Ascend C for Ascend 950-generasjonen gir støtte for programmeringsmodellene SIMD og SIMT samt Regbase-programmering.5 CANNBot presenteres som et sett med gjenbrukbare AI-agentferdigheter for utvikling av operatorer, flytting av modeller og optimalisering av inferens – det vil si kjøring av ferdigtrente modeller – på tvers av Ascend C, PyPTO, TileLang og Triton. En omtalt arbeidsflyt med CANNBot og CANNBench knytter sammen generering, evaluering, feiltilbakemelding og videre forbedring av operatorer.552 Verktøyene kan spare gjentakende arbeid, men tilgjengeligheten alene sier ikke hvordan de fungerer under produksjonskrav.

Veier inn fra kjente rammeverk. Huawei beskriver integrasjoner med PyTorch, TensorFlow, MindSpore og PaddlePaddle.8 Selskapet sier at Ascend har offisiell støtte som akselerator i PyTorch og fungerer med mer enn 90 tredjepartsprosjekter med åpen kildekode. Adapteren TorchNPU skal la PyTorch bruke Ascend-prosessorer.313 Dokumentasjonen for Triton-Ascend oppgir støtte for kompilering og ytelsesjustering av kjerner til Ascend 950, mens Huawei viser til samarbeid med blant andre vLLM og verl.24

Den avgjørende testen er bruk over tid

Nedlastinger, kodebidrag og støtte for rammeverk kan gjøre Ascend lettere å ta i bruk. De viser ikke alene at utviklerteam stadig vender tilbake til plattformen for å trene eller kjøre modeller i stor skala. Reuters skriver at Huawei venter bredere bruk av Ascend 950DT-systemer til modelltrening i 2027, samtidig som selskapsmateriale sier at Ascend 950-systemer allerede er tatt i kommersiell bruk.1 Et økosystem er i ferd med å ta form, ifølge Huawei. Om det gir varig, omfattende produksjonsbruk, gjenstår å se.