Komunita Huawei CANN roste. Skutečnou zkouškou bude provoz modelů

Huawei nechce, aby vývojáři vnímali Ascend jen jako řadu procesorů pro umělou inteligenci. Sázkou je také CANN, softwarová vrstva, která umožňuje na těchto procesorech vyvíjet a spouštět AI úlohy. Firma ji představuje jako otevřenou platformu, na níž se podílejí i lidé mimo Huawei. Rostoucí komunita a širší nabídka nástrojů této ambici odpovídají; dostupné údaje ale neukazují, nakolik se zájem mění v dlouhodobý produkční provoz.38

Co říkají čísla o komunitě

Huawei uvádí více než 5 200 měsíčně aktivních vývojářů CANN. Vývojáři mimo firmu podle ní tvoří 61 % komunity a poprvé převážili nad jejími vlastními zaměstnanci.3 Jiná zpráva připisuje Huawei vyšší údaj — přes 6 230 měsíčně aktivních vývojářů — a dále více než 60 milionů stažení z repozitářů a více než polovinu aktivních příspěvků od lidí mimo organizaci Ascend.10

Podklady rozdíl mezi oběma počty vývojářů nevysvětlují a údaje o staženích ani příspěvcích nezávisle neověřují. Navíc podíl externích vývojářů není totéž co podíl externích příspěvků. Huawei označuje CANN za nejživější čínskou open-source komunitu; další zpráva uvádí, že ji firma od června popisuje jako nejaktivnější v zemi.311 Srovnatelné nezávislé hodnocení však dostupné zdroje nepředkládají.

Co z toho má vývojář Ascendu

Kód dostupný s příchodem hardwaru. Podle jedné ze zpráv má být software pro Ascend 950 uvolněn jako open source už v den dostupnosti nové generace, tedy v režimu „Day 0“.10 Vývojáři by tak mohli kód zkoumat a upravovat současně s nástupem hardwaru. Huawei popisuje CANN jako vrstvený systém s rozhraními pro tvorbu výpočetních operací, práci s výpočetními grafy a řízení aplikací; komunitní repozitář uvádí také knihovny operací a projekty grafového enginu.815

Více cest k tvorbě a ladění operací. Huawei uvádí, že pro generaci Ascend 950 rozšířil programování v Ascend C o přístupy SIMD, SIMT a Regbase.5 CANNBot má pomáhat s opakovanými úkoly při vývoji operací, převodu modelů a optimalizaci inferenčního provozu. Popsaný postup propojuje CANNBot s nástrojem CANNBench: po vytvoření operace následuje vyhodnocení, zpětná vazba k chybám a další úpravy.52 Příslib rychlejší práce ovšem není dokladem výkonu hotových aplikací v produkci.

Napojení na známé frameworky. Huawei popisuje integrace CANN s PyTorchem, TensorFlow, MindSpore a PaddlePaddle.8 Podle firmy má Ascend oficiální podporu jako akcelerační backend PyTorche a spolupracuje s více než 90 externími open-source projekty; adaptér TorchNPU umožňuje PyTorchi využívat procesory Ascend.313 Dokumentace Triton-Ascend uvádí podporu řady Ascend 950 pro kompilaci a ladění výpočetních jader. Huawei zmiňuje také spolupráci s projekty včetně vLLM a verl.24

Rozhodne opakované nasazení

Počet stažení, příspěvků a podporovaných frameworků vypovídá o dostupnosti ekosystému. Neříká však sám o sobě, zda na Ascendu týmy ve velkém a opakovaně trénují modely nebo na něm provozují inferenci. Podle Reuters Huawei očekává širší využití systémů Ascend 950DT k trénování modelů v roce 2027; firemní materiály zároveň uvádějí, že systémy Ascend 950 už vstoupily do komerčního provozu.1 Rozdíl mezi prvními komerčními nasazeními a širokým, trvalým využíváním je právě tím, co čísla o komunitě zatím neřeší.