Huawein Ascend CANN -yhteisö kasvaa yhtiön mukaan – varsinainen näyttö odottaa

Huawei haluaa, että sen Ascend-tekoälysuorittimille tarkoitettu CANN-ohjelmistokokonaisuus nähdään muuna kuin yhtiön omana kehitystyönä. Kasvava kehittäjäyhteisö ja laajeneva työkalutuki tukevat tätä tavoitetta. Saatavilla olevat luvut eivät kuitenkaan vielä kerro, kuinka suuri osa toiminnasta muuttuu pitkäaikaiseksi tuotantokäytöksi.38

Kasvua kuvaavat luvut eivät mittaa samaa asiaa

Huawein mukaan CANNilla on yli 5 200 kuukausittain aktiivista kehittäjää. Yhtiön ulkopuolisia kehittäjiä on sen mukaan 61 prosenttia kaikista kehittäjistä – ensimmäistä kertaa enemmän kuin Huawein omia.3 Toisessa, Huawein tietoihin perustuvassa raportissa kuukausittain aktiivisia kehittäjiä on yli 6 230, koodivarastojen latauksia yli 60 miljoonaa ja yli puolet aktiivisista kontribuutioista tulee Ascend-organisaation ulkopuolelta.10

Lähteet eivät selitä kehittäjämäärien eroa, eikä lataus- tai kontribuutiolukuja ole niissä riippumattomasti vahvistettu. Kehittäjien osuus ja kontribuutioiden osuus ovat myös eri mittareita. Huawei kutsuu CANNia Kiinan vilkkaimmaksi avoimen lähdekoodin yhteisöksi, ja toisen raportin mukaan yhtiö on kuvannut sitä maan aktiivisimmaksi kesäkuusta lähtien. Käytettävissä olevista lähteistä ei kuitenkaan löydy vertailukelpoista, riippumatonta rankingia.311

Mitä kehittäjä saa käytännössä?

Koodi käyttöön uuden laitteiston mukana. Raportin mukaan Ascend 950:n ohjelmistoa avataan lähdekoodina heti laitteiston julkaisun yhteydessä. Ajatuksena on, että kehittäjät voivat tutkia ja muokata ohjelmistoa ilman myöhempää julkaisua odottavaa viivettä.10 Huawei kuvaa CANNia kerroksittaiseksi, komponenteista koostuvaksi kokonaisuudeksi, jossa on rajapintoja esimerkiksi laskentaoperaatioiden kehittämiseen, laskentagraafeihin ja sovellustason hallintaan. Yhteisön koodivarastossa on myös operaatiokirjastoja ja graafimoottorihankkeita.815

Useampia reittejä kehittää ja hienosäätää laskentaa. Huawei kertoo lisänneensä Ascend 950 -sukupolven Ascend C -ohjelmointiin SIMD- ja SIMT-tuen sekä Regbase-ohjelmoinnin.5 CANNBot puolestaan esitellään uudelleenkäytettävänä tekoälyavusteisena työnkulkuna operaatiokehitykseen, mallien siirtämiseen ja päättelyn optimointiin esimerkiksi Ascend C:n, PyPTO:n, TileLangin ja Tritonin avulla. Kuvattu CANNBotin ja CANNBenchin työnkulku yhdistää operaation tuottamisen, arvioinnin, virhepalautteen ja uuden kehityskierroksen.552 Työkalujen saatavuus ei kuitenkaan yksin osoita niiden suorituskykyä tuotannossa.

Yhteys tuttuihin tekoälykehyksiin. Huawein mukaan CANN toimii PyTorchin, TensorFlow’n, MindSporen ja PaddlePaddlen kanssa.8 Yhtiö kertoo Ascendin olevan virallisesti tuettu PyTorchin kiihdytintaustajärjestelmä ja tukevan yli 90:tä kolmannen osapuolen avoimen lähdekoodin hanketta. TorchNPU-sovitin on tarkoitettu siihen, että PyTorch voi hyödyntää Ascend-suorittimia.313 Triton-Ascendin dokumentaatio puolestaan listaa Ascend 950:n tuen ydinlaskennan kääntämiseen ja hienosäätöön. Huawei kertoo myös yhteistyöstä muun muassa vLLM- ja verl-hankkeiden kanssa.24

Ratkaiseva koe on jatkuva käyttö

Lataukset, koodikontribuutiot ja yhteensopivuus voivat helpottaa Ascendin kokeilemista. Ne eivät vielä osoita, että kehittäjätiimit kouluttaisivat malleja tai tarjoaisivat niillä palveluja laajassa mittakaavassa toistuvasti. Reutersin mukaan Huawei odottaa Ascend 950DT -järjestelmien laajempaa käyttöä mallien koulutuksessa vuonna 2027, vaikka yhtiön materiaalien mukaan Ascend 950 -järjestelmiä on jo kaupallisessa käytössä.1 Ekosysteemin kasvusta on siis merkkejä, mutta sen pysyvän tuotantokäytön laajuus jää vielä avoimeksi.