Suxian Micro satsar på fysisk AI med TUCA och TH1100

Suxian Micro tar steget från grafik- och displayprocessorer för IoT och fordonsanvändning till hårdvara för fysisk AI, eller så kallad embodied intelligence. Vid lanseringen i Tianjin stod två delar i centrum: TUCA, en enhetlig arkitektur för heterogen beräkning, och Tianheng TH1100 – en GPGPU-SoC som bolaget beskriver som sin första krets för AI-inferens vid nätverkskanten.

Det viktiga här är främst en produkt- och plattformsstrategi. Det finns fortfarande begränsat med oberoende benchmarkdata som kan bekräfta prestandan i verkliga arbetslaster. 4

Från edge-grafik till AI-beräkning

Suxian Micros tidigare produkter visar var satsningen börjar. Bolaget uppger att GC9002 och GC9005 slutförde funktionsverifiering 2023, för lågströms- respektive mer högpresterande IoT-displayscenarier. Enligt bolagets material har GC9005 två 32-bitars RISC-V-kärnor, en grafikkärna, en NPU och stöd för bildutmatning upp till 3 840 × 2 160 pixlar. 7

En partnerbeskrivning betecknar GC9005 som en grafikfokuserad MPU med integrerat minne, 2,5D-grafikacceleration, multimediefunktioner och en djupinlärningsaccelerator för edge-uppgifter som lokal taligenkänning och ansiktsdetektering. 16

Bakgrunden förklarar bolagets nuvarande tes: AI-acceleration ska inte vara ett helt separat affärsområde, utan byggas ovanpå erfarenhet av grafik, visuell interaktion och integrerade edge-system.

Vad innebär ”rendering först, sedan AI”?

Suxian Micro beskriver sin väg som ”rendering först, sedan AI”. Resonemanget är att produkter för fysisk AI – exempelvis robotar, intelligenta fordon och industriella edge-enheter – behöver visualisering i realtid och responsiva heterogena system parallellt med modellinferens. I bolagets beskrivning ger grafiken grunden i programmerbar parallell beräkning och utvecklarverktyg, som AI-arbetslaster sedan kan läggas ovanpå. Bolaget jämför utvecklingen med Nvidias väg från grafik till generell GPU-beräkning och AI. 4

Det är inte samma sak som att rendering i sig löser fysisk AI. Det är snarare ett positioneringsargument: den som bygger fysiska system behöver en fungerande kedja för perception, visualisering, styrning, modelldistribution och enhetsintegration – inte bara en hög siffra för beräkningskapacitet.

Tre teknikområden som bolaget lyfter fram

Suxian Micro framhåller tre sammanhängande tekniker i sin AI-satsning. De påstådda fördelarna bör ses som leverantörens egna uppgifter tills de kan styrkas med detaljerad dokumentation och reproducerbara tester.

GPU-IP genom hela stacken

Bolaget beskriver en vertikalt utvecklad teknikstack som omfattar GPU-IP, systemprogramvara och verktyg. På företagets webbplats finns produktinformation, SDK:er, chip support packages, datablad och utvecklarverktyg för GC9000-serien, vilket visar att mjukvarustöd har varit en del av den tidigare produktstrategin. 3

För den nya AI-plattformen är målet att samordna hårdvara, kompilatorer, runtime-mjukvara, drivrutiner, operativsystemsstöd, algoritmer och lösningar för specifika användningsfall. Den möjliga vinsten är mindre integrations- och portningsarbete för kunder som bygger system kring grafik, maskinseende och inferens. 4

Beräknings- och minnesintegration i kretsen

Bolaget lyfter också fram en teknik som det kallar integrering av beräkning och lagring i själva kretsen. Syftet är att minska dataflytt mellan beräkningsenheter och externt minne. Minnestrafik är en praktisk flaskhals för inferens vid nätverkskanten, eftersom den påverkar fördröjning, energiförbrukning och systemdesign. Suxian Micro uppger att lösningen ökar närheten mellan lagring och beräkning. 4

AI ROM

AI ROM presenteras som ett sätt att lägga utvalda modellparametrar eller vikter i icke-flyktigt minne på kretsen. Suxian Micro uppger att det kan minska lagringskostnader och energiförbrukning samt förbättra tokenutmatningen. 4

Avvägningen är tydlig: fasta vikter i kretsens minne kan gynna ett avgränsat användningsfall, men är potentiellt mindre flexibla än modeller som ligger helt i utbytbart externt minne. Bolaget har inte offentliggjort tillräckliga tekniska detaljer för att oberoende bedöma kapacitet, uppdateringsmetoder, modellformat eller faktisk prestandavinst.

TUCA ska vara lagret mellan utvecklare och hårdvara

TUCA står för Thorsianway Unified Computing Architecture och är Suxian Micros föreslagna gemensamma lager för GPGPU, AI-acceleratorer och annan heterogen beräkningshårdvara. Bolaget uppger att arkitekturen täcker kedjan från applikationsutveckling och operator-kompilering till runtime-schemaläggning och exekvering i hårdvaran. 4

Det praktiska målet är att ge utvecklare en mer enhetlig väg för att distribuera modeller och beräkningslaster, i stället för att behöva sätta ihop separata verktygskedjor på låg nivå för varje accelerator. Det kan vara särskilt relevant i industrin, där kunderna kan ha stark domänkunskap men begränsad egen kompetens inom kompilatorer, runtime-miljöer, modelloptimering och heterogena system.

Suxian Micro beskriver även TUCA Playground som utvecklarnas gränssnitt till stacken. Tanken är att miljön ska stödja import av applikationer och modeller, kompilering och driftsättning, övervakning av körning samt resurshantering. 4

TH1100: det som är känt – och det som saknas

Tianheng TH1100 är den första kretsen i den nya serien och positioneras för edge-AI-inferens i tillämpningar inom fysisk AI. Den specifikation som lyfts fram i lanseringsrapporteringen är 100 TOPS AI-beräkningskapacitet. Suxian Micro kopplar också kretsen till FP16-stöd, sin integrerade beräknings- och minneslösning samt användning med en gles mixture-of-experts-språkmodell på 35B-A3B. 4

Beteckningen 35B-A3B brukar syfta på ungefär 35 miljarder parametrar totalt, där omkring 3 miljarder aktiveras per token. Det kan minska den aktiva beräkningen jämfört med en tät modell med lika många parametrar totalt. Men det säger i sig inget säkert om en viss enhets genomströmning, svarstid, minnesbehov eller effektförbrukning. 4

Det som saknas är minst lika betydelsefullt som den annonserade toppsiffran. Den offentliga lanseringsrapporteringen innehåller ingen tillförlitlig och fullständig specifikation för antal kärnor, FP16-genomströmning, minneskapacitet, minnesbandbredd, effektbudget, kvantiseringsmetod, kontextlängd, batchstorlek eller uppmätta tokens per sekund. Innan Suxian Micro publicerar ett detaljerat datablad och reproducerbara benchmarkkonfigurationer bör 100 TOPS inte användas som en direkt jämförelse med andra acceleratorer i verkliga arbetslaster. 4

Färdplanen: TH1800 och TH24K0

Suxian Micro har pekat ut TH1800 till före slutet av 2027 och TH24K0 till 2028. Båda är avsedda för större nivåer av beräkning för fysisk AI och språkmodeller. Bolaget presenterar dem som steg mot konkurrens i det högre GPU-segmentet och system för fysisk AI i större skala. 4

Planerna visar ambition, inte bevisad prestanda. Den som granskar färdplanen behöver skilja på framtida konkurrensmål och oberoende uppmätta resultat från levererad hårdvara.

Varför Tianjin och varför helhetserbjudandet är centralt

Lanseringen av huvudkontoret i Tianjin framställs som mer än ett adressbyte. Suxian Micros tes är att kommersialisering gynnas av närhet till tillverkning, fordonsindustri, robotik, forskning och implementeringspartner i regionen Peking–Tianjin–Hebei. 4

Det kommersiella erbjudandet är därför bredare än själva processorn. Bolaget betonar chip, algoritmer, verktyg, referensdesigner och leverans anpassad till olika användningsfall, för kunder som vill använda AI men inte har djup erfarenhet av AI-system. Suxian Micro beskriver också egenkontrollerad teknik och inhemsk försörjning som ett svar på tillgången till importerade chip och osäkerhet i leveranskedjor. 4

Slutsats

Suxian Micros tydligaste differentiering är ännu inte ett dokumenterat prestandaförsprång. Det är försöket att kombinera erfarenhet av edge-grafik, heterogen mjukvara, minnesmedveten konstruktion och implementeringstjänster i en plattform för fysisk AI.

TH1100:s uppgivna 100 TOPS och lanseringen av TUCA gör strategin mer konkret, medan Tianheng-färdplanen visar vart bolaget vill. De viktigaste frågorna – faktisk inferenshastighet, minneskonfiguration, energieffektivitet, modellkompatibilitet, utvecklarekosystemets mognad och tillgänglighet i produktion – kräver däremot produktdokumentation och oberoende tester för att kunna besvaras. 4