Huawei-siruilla rakennettu 10 000 kortin tekoälyklusteri käynnistyi Shenzhenissä

Mitä Shenzhenissä rakennettiin?

Shenzhenissä on otettu käyttöön Kiinan ensimmäinen 10 000 laskentakortin tekoälyklusteri, joka on rakennettu kokonaan kotimaisista edistyneistä siruista ja muista teknologioista. Uusi vaihe tarjoaa 11 000 petaflopsia eli 11 000 biljardia liukulukulaskua sekunnissa. Kun mukaan lasketaan vuotta aiemmin käyttöön otettu 3 000 petaflopsin kokonaisuus, laitoksen yhteenlaskettu tekoälykapasiteetti on 14 000 petaflopsia. 711

Kyse ei ole vain suuresta määrästä laskentakortteja. Kiinan ilmoituksen mukaan järjestelmä on täyden pinon kotimainen kokonaisuus: sirut, palvelimet, verkkoyhteydet ja ohjelmistot on suunniteltu toimimaan kiinalaisessa teknologiaympäristössä. Hankkeen ytimessä on Huawein Ascend + CANN -ekosysteemi.

Millä tekniikalla klusteri toimii?

Klusterin laskenta perustuu Huawein Ascend 910C -tekoälykiihdyttimiin. Tekoälykiihdytin on siru, joka on suunniteltu erityisesti koneoppimisen tarvitsemaan matriisi- ja rinnakkaislaskentaan. Se ei ole aivan sama asia kuin tavallinen kuluttajan näytönohjain, vaikka GPU- ja AI-kiihdytin-termejä käytetään uutisoinnissa joskus rinnakkain.

CANN on Huawein ohjelmistoalusta, joka yhdistää Ascend-laitteiston tekoälymallien kehitystyökaluihin ja kirjastoihin. Tavoitteena on tarjota kiinalainen vaihtoehto Nvidian CUDA-ekosysteemille, jonka varaan suuri osa maailman tekoälyohjelmistoista on rakennettu.

Aiemmissa teknisissä kuvauksissa Ascend 910C:tä on kuvattu kaksisiruiseksi paketiksi, jossa kaksi laskentapiiriä yhdistetään samalle kiihdytinkortille. Huawei on ilmoittanut sirulle jopa 780 teraflopsin BF16-laskentatehon, mutta käytännön suorituskykyyn vaikuttavat myös muistijärjestelmä, virrankulutus, jäähdytys, verkkoyhteydet ja ohjelmistojen optimointi. 6

Miten Ascend 910C vertautuu Nvidian H100:aan?

DeepSeekin tutkijoiden raportoimissa testeissä Ascend 910C saavutti päättelytehtävissä noin 60 prosenttia Nvidian H100:n suorituskyvystä. Päättelyllä tarkoitetaan valmiin tekoälymallin käyttämistä esimerkiksi vastausten tuottamiseen; koulutus puolestaan tarkoittaa mallin painojen laskemista ja päivittämistä suurilla aineistoilla. 1113

Lukua ei pidä tulkita yleispäteväksi vertailuksi. Se koskee raportoitua, tiettyyn malliin ja työkuormaan liittyvää testiä. Se ei sellaisenaan kerro, miten 910C ja H100 vertautuvat mallien koulutuksessa, energiankulutuksessa, käyttövarmuudessa, ohjelmistotuessa tai kokonaiskustannuksissa.

Ascend 910C:n merkitys Kiinalle ei siksi riipu vain siitä, päihittääkö se H100:n. Jos riittävän suuri määrä hieman heikompia kiihdyttimiä voidaan yhdistää toimivaksi kokonaisuudeksi, niitä voidaan käyttää laajassa mittakaavassa ilman suoraa pääsyä Nvidian tehokkaimpiin tuotteisiin.

Miksi tuhansien korttien klusteri on tehokas?

Yksittäinen tekoälykiihdytin voi käsitellä vain osan valtavan mallin tarvitsemasta laskennasta. Klusterissa tuhannet kortit työskentelevät samanaikaisesti, jolloin työ voidaan jakaa usealla tavalla:

• mallin eri kerrokset voidaan sijoittaa eri korteille
• koulutusdata voidaan jakaa rinnakkaisiin osiin
• suuri määrä käyttäjien päättelypyyntöjä voidaan käsitellä yhtä aikaa
• laskentatehoa voidaan koota yhdeksi virtuaaliseksi resurssiksi suurelle mallille.

Pelkkä korttien lukumäärä ei kuitenkaan ratkaise kaikkea. Kiihdyttimien on vaihdettava tietoja nopeasti keskenään. Jos verkkoyhteydet tai ohjelmistot ovat liian hitaita, kortit joutuvat odottamaan toisiaan ja osa luvatusta laskentatehosta jää hyödyntämättä. Siksi suurissa tekoälyklustereissa verkkotekniikka, muistiväylät ja ohjelmistojen koordinointi ovat yhtä tärkeitä kuin itse sirut.

Kuinka laajasti järjestelmä on jo käytössä?

Shenzhenin aiempi 3 000 petaflopsin kapasiteetti oli raporttien mukaan varattu kokonaan ennen uuden 10 000 kortin vaiheen valmistumista. Lisäksi eräässä raportissa kerrottiin, että lähes 50 organisaatiota oli allekirjoittanut puitesopimuksen klusterin laskentatehon käytöstä ja kokonaisvarausaste oli 92 prosenttia. 111

Luvut viittaavat merkittävään kysyntään kotimaiselle laskentateholle. Ne eivät kuitenkaan osoita, että Huawein alusta olisi jo syrjäyttänyt Nvidian laajasti koko Kiinassa. Kiinalaiset teknologiayhtiöt ovat edelleen raportoidusti käyttäneet ulkomailla sijaitsevia datakeskuksia, joissa on Nvidian kehittyneitä siruja.

Mitä muita kiinalaisia sirukehityksen edistysaskeleita on raportoitu?

Huawei on ilmoittanut kehittävänsä uutta sirusuunnittelun menetelmää, jonka avulla yhtiö tavoittelee vuoteen 2031 mennessä transistoritiheyttä, joka vastaisi 1,4 nanometrin prosessia. Huawei ei kuitenkaan esittänyt riippumatonta suorituskykydataa, joten kyse on tällä hetkellä yhtiön tiekartasta ja tavoitteesta – ei tuotannossa todistetusta 1,4 nanometrin sirusta.

Reutersin mukaan myös Huawein Ascend 950PR -sirun asiakastestit ovat sujuneet myönteisesti. ByteDance ja Alibaba ovat lähteiden mukaan harkinneet tilauksia, ja sirun kerrottiin olevan aiempaa yhteensopivampi Nvidian CUDA-ohjelmistojärjestelmän kanssa.

Huawein kanssa samaan suuntaan liikkuu myös Alibaba, joka on ilmoittanut 10 000 kortin klusterista omilla T-Head-yksikkönsä kehittämillä Zhenwu-siruilla. Tämä kertoo siitä, että Kiina rakentaa useiden valmistajien kotimaista vaihtoehtoa eikä nojaa vain yhteen siruperheeseen. 5

Miksi hanke on Kiinalle strategisesti tärkeä?

Yhdysvallat asetti vuonna 2022 vientirajoituksia muun muassa Nvidian A100- ja H100-siruille ja tiukensi sääntöjä vuonna 2023. Rajoitukset koskivat kehittyneitä laskentasiruja sekä niiden valmistukseen liittyviä laitteita ja laajenivat myös tiettyihin Kiinaan suunniteltuihin tuotteisiin.

Shenzhenin klusteri on tähän tilanteeseen teollinen vastaus. Tavoitteena on korvata rajoitusten alaisia ulkomaisia kiihdyttimiä omalla kokonaisuudella, johon kuuluvat:

• tekoälysirut
• palvelin- ja klusterijärjestelmät
• nopeat verkkoyhteydet
• ohjelmistotyökalut ja kehittäjäekosysteemi.

Huawei on tässä keskeinen toimija, koska Ascend tarjoaa vaihtoehdon sekä yksittäisen sirun että kokonaisen datakeskusjärjestelmän tasolla. Shenzhenin hanke osoittaa, että Kiina pystyy kokoamaan kotimaisista komponenteista erittäin suuren tekoälykapasiteetin. Samalla H100-vertailun rajallisuus, ohjelmistojen kypsyydessä olevat erot ja joidenkin kiinalaisyritysten jatkuva ulkomainen laskentariippuvuus muistuttavat, ettei omavaraisuus ole vielä täydellinen. 712