TUCA ja TH1100 ovat Suxian Micron reitti grafiikasta fyysiseen tekoälyyn

Suxian Micro pyrkii siirtämään osaamisensa näyttögrafiikasta ja reunalaitteista fyysisen tekoälyn laskentaan. Tianjinissa järjestetyn julkaisun keskiössä olivat TUCA, yhtiön yhtenäinen heterogeenisen laskennan arkkitehtuuri, sekä Tianheng TH1100, GPGPU-järjestelmäpiiri, jota yhtiö kuvaa ensimmäiseksi reunalaitteiden AI-päättelyyn suunnatuksi piiriksi.

Julkistus kertoo ennen kaikkea tuote- ja alustastrategiasta. Riippumattomia, toistettavia suorituskykymittauksia on vielä rajallisesti. 4

Näyttöpiireistä AI-laskentaan

Suxian Micron aiemmat tuotteet selittävät, mistä suunnanmuutos alkaa. Yhtiön mukaan GC9002- ja GC9005-piirien toiminnallinen varmennus valmistui vuonna 2023: ensin mainittu suunnattiin vähän virtaa kuluttaviin ja jälkimmäinen suorituskykyisempiin IoT-näyttösovelluksiin. GC9005:ssä on kaksi 32-bittistä RISC-V-ydintä, grafiikkaydin, NPU sekä tuki enintään 3 840 × 2 160 pikselin näyttöulostulolle. 7

Kumppanijulkaisun mukaan GC9005 on grafiikkapainotteinen MPU, jossa on integroitu muisti, 2,5D-grafiikkakiihdytys, multimediaominaisuuksia ja syväoppimiskiihdytin esimerkiksi paikalliseen puheentunnistukseen ja kasvojen havaitsemiseen. 16

Yhtiön lähtökohta on siis, ettei AI-kiihdytystä rakenneta täysin erillisenä liiketoimintana. Sen sijaan grafiikka, visuaalinen vuorovaikutus ja reunajärjestelmien integrointi muodostavat pohjan, jolle AI-toimintoja lisätään.

Mitä "ensin renderöinti, sitten AI" tarkoittaa?

Suxian Micro kuvaa strategiaansa ilmaisulla render-first-then-AI. Sen mukaan fyysisen tekoälyn tuotteet — kuten robotit, älyajoneuvot ja teolliset reunalaitteet — tarvitsevat mallipäättelyn lisäksi reaaliaikaista visuaalista laskentaa ja nopeasti reagoivia heterogeenisiä järjestelmiä.

Yhtiö vertaa polkua Nvidian kehitykseen grafiikasta yleiskäyttöiseen GPU-laskentaan ja tekoälyyn: grafiikka luo ohjelmoitavan rinnakkaislaskennan ja kehittäjätyökalujen perustan, jonka päälle AI-työkuormia voidaan rakentaa. 4

Väite ei tarkoita, että renderöinti yksin ratkaisisi fyysisen tekoälyn ongelmat. Kyse on pikemminkin tuoteasemoinnista: käytännön järjestelmä tarvitsee samaan kokonaisuuteen havainnoinnin, visualisoinnin, ohjauksen, mallien käyttöönoton ja laiteintegraation — ei vain mahdollisimman suurta TOPS-lukua.

Kolme teknistä rakennuspalikkaa

Suxian Micro nostaa esiin kolme toisiinsa liittyvää teknologiaa. Niiden hyödyt ovat toistaiseksi yhtiön omia väitteitä, kunnes tarkempi dokumentaatio ja riippumattomat testit vahvistavat ne.

Koko pinon GPU-IP

Yhtiö kuvaa kehittävänsä pystysuunnassa integroitua kokonaisuutta GPU-IP:stä järjestelmäohjelmistoon ja kehitystyökaluihin. Sen verkkosivuilla on GC9000-sarjaa varten tuotevalinta-aineistoja, SDK-paketteja, piirien tukipaketteja, datalehtiä ja kehitystyökaluja, joten ohjelmistotuki on ollut osa aiempaakin tuotemallia. 3

Uuden AI-alustan tavoitteena on yhdistää laitteisto, kääntäjät, ajoaikainen ohjelmisto, ajurit, käyttöjärjestelmätuki, algoritmit ja käyttökohdekohtaiset ratkaisut. Mahdollinen etu olisi asiakkaan pienempi integrointi- ja siirtotyö, kun järjestelmä yhdistää grafiikkaa, koneäköä ja päättelyä. 4

Laskennan ja tallennuksen yhdistäminen piirillä

Yhtiö markkinoi myös piirinsisäistä laskennan ja tallennuksen yhdistämistä. Tavoitteena on vähentää datan siirtämistä laskentayksiköiden ja ulkoisen muistin välillä.

Muistiliikenne on reunapäättelyssä käytännön pullonkaula: se vaikuttaa viiveeseen, energiankulutukseen ja koko laitteen suunnitteluun. Suxian Micron mukaan ratkaisu lisää datan paikallisuutta tallennuksen ja laskennan välillä. 4

AI ROM

AI ROM tarkoittaa yhtiön esityksessä valittujen malliparametrien tai painojen sijoittamista piirin haihtumattomaan muistiin. Suxian Micron mukaan tämä voi pienentää tallennuskustannuksia ja sähkönkulutusta sekä parantaa token-tuottoa. 4

Ratkaisussa on myös selvä kompromissi: kiinteään piirimuistiin tallennetut painot voivat sopia tarkasti rajattuun käyttöönottoon, mutta niitä on yleensä hankalampi vaihtaa kuin ulkoisessa muistissa olevia malleja. Yhtiö ei ole julkaissut riittäviä teknisiä tietoja kapasiteetista, päivitysmekanismeista, tuetuista mallimuodoista tai suorituskykyhyödystä, jotta väitteitä voisi arvioida riippumattomasti.

TUCA on laitteiston yhteinen ohjelmistokerros

TUCA eli Thorsianway Unified Computing Architecture on Suxian Micron ehdotus yhteiseksi kerrokseksi GPGPU:ille, AI-kiihdyttimille ja muulle heterogeeniselle laskentalaitteistolle. Yhtiön mukaan se kattaa ketjun sovelluskehityksestä ja operaattorien käännöksestä ajoaikaiseen resurssienhallintaan ja laitteistosuoritukseen. 4

Käytännön tavoitteena on tarjota kehittäjille yhtenäisempi tapa ottaa malleja ja laskentatyökuormia käyttöön. Vaihtoehtona olisi rakentaa jokaiselle kiihdyttimelle erillinen matalan tason työkaluketju.

Tämä voi olla tärkeää erityisesti teollisuudessa, jossa asiakkaalla voi olla vahva sovellusalueen osaaminen mutta vähän omaa kokemusta kääntäjistä, ajoaikaisista järjestelmistä, mallien optimoinnista tai heterogeenisen laitteiston integroinnista.

Yhtiö kuvaa TUCA Playgroundin kehittäjille tarkoitetuksi ympäristöksi. Sen tehtäväksi esitetään sovellusten ja mallien tuonti alustalle, käännös ja käyttöönotto, suorituksen seuranta sekä resurssien hallinta. 4

TH1100: tiedossa olevat tiedot ja olennaiset aukot

Tianheng TH1100 on uuden tuoteperheen ensimmäinen piiri. Se on suunnattu fyysisen tekoälyn sovellusten reunapäättelyyn. Julkaisun näkyvin tekninen luku on 100 TOPS:n AI-laskentateho.

Suxian Micro liittää piiriin myös FP16-tuen, laskennan ja tallennuksen integroinnin sekä 35B-A3B-harvan MoE-kielimallin käyttöönoton. 4

Merkintä 35B-A3B viittaa yleensä malliin, jossa on noin 35 miljardia parametria yhteensä, mutta noin 3 miljardia parametria aktivoituu tokenia kohti. Tämä voi pienentää aktiivista laskentatarvetta samankokoiseen tiheään malliin verrattuna. Pelkkä mallimerkintä ei kuitenkaan kerro laitteen todellisesta läpimenosta, viiveestä, muistitarpeesta tai tehonkulutuksesta. 4

Puuttuvat tiedot ovat yhtä merkittäviä kuin ilmoitettu otsikkoluku. Julkisissa lanseeraustiedoissa ei ole kattavaa ja luotettavaa teknistä taulukkoa esimerkiksi ydinmäärästä, FP16-läpimenosta, muistikapasiteetista, muistiväylän kaistasta, tehonkulutusluokasta, kvantisointimenetelmästä, kontekstipituudesta, eräkoosta tai mitatuista tokeneista sekunnissa.

Siksi 100 TOPS:n lukua ei pidä pitää suorana vertailukohtana muihin kiihdyttimiin todellisissa työkuormissa, ennen kuin yhtiö julkaisee yksityiskohtaisen datalehden ja toistettavat testiasetukset. 4

TH1800 ja TH24K0 ovat tiekartan seuraavat askeleet

Suxian Micro on hahmotellut TH1800-piirin vuoden 2027 loppuun ja TH24K0:n vuoteen 2028. Molemmat on suunnattu suurempiin fyysisen tekoälyn ja kielimallilaskennan teholuokkiin. Yhtiö esittää ne askelina kohti vaativampaa GPU-kilpailua ja laajempia fyysisen tekoälyn järjestelmiä. 4

Tiekartta osoittaa kunnianhimoa, ei vielä toimitettua suorituskykyä. Arvioinnissa on syytä erottaa tulevaisuuden kilpailutavoitteet riippumattomasti mitatuista, markkinoilla olevista tuotteista.

Miksi Tianjin ja miksi koko pinon palvelutarjonta?

Tianjinin pääkonttorijulkistus esitetään muuna kuin pelkkänä osoitteenmuutoksena. Suxian Micron mukaan kaupallistaminen hyötyy läheisyydestä Pekingin, Tianjinin ja Hebein alueen valmistus-, auto-, robotiikka-, tutkimus- ja käyttöönottokumppaneihin. 4

Kaupallinen tarjous on näin laajempi kuin pelkkä prosessori: yhtiö painottaa piirien lisäksi algoritmeja, työkaluja, referenssisuunnitelmia ja käyttökohdekohtaista toimitusta asiakkaille, jotka haluavat AI-ominaisuuksia mutta joilla ei ole syvää AI-järjestelmäosaamista.

Samalla se esittää kotimaisesti hallitun teknologian ja saatavuuden vastauksena tuontipiirien saatavuusriskeihin ja toimitusketjun epävarmuuteen. 4

Johtopäätös

Suxian Micron vahvin erottautumistekijä ei toistaiseksi ole yksityiskohtaisesti dokumentoitu suorituskykyjohto. Se on yritys yhdistää reunagrafiikan kokemus, heterogeeninen ohjelmistokerros, muistiliikenteen huomioiva suunnittelu ja käyttöönoton palvelut fyysisen tekoälyn alustaksi.

TH1100:n 100 TOPS:n väite ja TUCA-julkistus tekevät strategiasta konkreettisen. Tianheng-tiekartta puolestaan kertoo, mihin yhtiö pyrkii seuraavaksi. Ratkaisevat kysymykset — todellinen päättelynopeus, muistikonfiguraatiot, energiatehokkuus, malliyhteensopivuus, kehittäjätyökalujen kypsyys ja tuotannollinen saatavuus — vaativat kuitenkin vielä tuotedokumentaatiota ja riippumatonta testausta. 4