Huawei’s CANN groeit als ontwikkelaarsgemeenschap, maar gebruik in de praktijk blijft de echte test

Huawei wil dat CANN, de softwarelaag voor zijn Ascend-AI-processors, wordt gezien als een open platform waaraan ook ontwikkelaars buiten het bedrijf bouwen. De gemelde groei van de gemeenschap en het uitdijende aanbod aan tools passen bij dat verhaal. Ze geven alleen nog geen helder beeld van hoeveel projecten uitgroeien tot langdurig gebruik in productie.38

Wat zeggen de gemeenschapscijfers?

Huawei spreekt van meer dan 5.200 maandelijks actieve ontwikkelaars. Daarvan zou 61% niet bij Huawei werken: externe ontwikkelaars zijn volgens het bedrijf daarmee voor het eerst in de meerderheid.3 Een ander bericht schrijft aan Huawei hogere aantallen toe: meer dan 6.230 maandelijks actieve ontwikkelaars, ruim 60 miljoen repositorydownloads en meer dan de helft van de actieve bijdragen afkomstig van buiten de Ascend-organisatie.10

De beschikbare bronnen verklaren het verschil tussen de twee ontwikkelaarsaantallen niet en verifiëren de download- en bijdragecijfers niet onafhankelijk. Bovendien zijn het aandeel externe ontwikkelaars en hun aandeel in de bijdragen twee verschillende maatstaven.

Huawei noemt CANN de levendigste open-sourcegemeenschap van China. Een ander bericht meldt dat het bedrijf CANN sinds juni als de actiefste van het land omschrijft.311 Een onafhankelijk gecontroleerde ranglijst met vergelijkbare meetcriteria blijkt daar niet uit. De cijfers zijn dus vooral een indicatie van de deelname die Huawei rapporteert, niet van het aantal AI-systemen dat op CANN draait.

Wat heeft een ontwikkelaar eraan?

Code beschikbaar bij de komst van nieuwe hardware. Volgens een bericht is voor de Ascend 950 een Day-0-open-sourcerelease voorzien: ontwikkelaars krijgen dan vanaf het begin toegang tot de code, in plaats van pas na een latere software-uitgave.10 Huawei beschrijft CANN als een softwarestack met afzonderlijk te gebruiken onderdelen en interfaces voor onder meer AI-bewerkingen, rekengrafen en applicaties. In de communityrepository staan ook bibliotheken voor die bewerkingen en projecten voor de grafenengine.815

Meer hulpmiddelen om code aan te passen. Voor de Ascend 950-generatie heeft Huawei Ascend C naar eigen zeggen uitgebreid met SIMD- en SIMT-programmering en Regbase-programmering.5 CANNBot is bedoeld om terugkerend werk bij het ontwikkelen van AI-bewerkingen, het overzetten van modellen en het optimaliseren van inferentie te ondersteunen. Een beschreven werkwijze met CANNBench koppelt het genereren van zulke code aan evaluatie, foutmeldingen en een volgende verbeteringsronde.552 Dat kan ontwikkelwerk vereenvoudigen, maar de beschikbaarheid van tools zegt nog niets over hun prestaties in productie.

Aansluiting op vertrouwde frameworks. Huawei noemt koppelingen met PyTorch, TensorFlow, MindSpore en PaddlePaddle.8 Volgens het bedrijf wordt Ascend officieel ondersteund als acceleratorbackend voor PyTorch en werkt het samen met meer dan 90 externe open-sourceprojecten. De TorchNPU-adapter moet PyTorch toegang geven tot Ascend-processors.313 De documentatie van Triton-Ascend vermeldt ondersteuning voor de Ascend 950 bij het compileren en afstellen van kernels. Huawei wijst daarnaast op samenwerking met projecten als vLLM en verl.24

De test: blijft het bij ontwikkelactiviteit?

Veel downloads, bijdragen en frameworkkoppelingen kunnen de instap verlagen. Ze laten op zichzelf niet zien of teams hun modellen herhaaldelijk op Ascend trainen of aanbieden, en dat op grote schaal blijven doen. Reuters meldt dat Huawei verwacht dat systemen met de Ascend 950DT in 2027 breder voor modeltraining worden gebruikt. Volgens bedrijfsmateriaal zijn Ascend 950-systemen al wel commercieel in gebruik.1 Het ecosysteem krijgt volgens Huawei dus vorm; hoe duurzaam het gebruik in productie wordt, moet nog blijken.