Suxian Micro satser på fysisk KI med TUCA og TH1100

Suxian Micro forsøker å flytte seg fra grafikk- og skjermprosessorer for IoT og bilbruk til maskinvare for fysisk KI – altså KI som skal oppfatte og handle i den virkelige verden, for eksempel i roboter, kjøretøy og industrielle systemer. Ved lanseringen i Tianjin sto to elementer sentralt: TUCA, en enhetlig arkitektur for heterogen databehandling, og Tianheng TH1100, en GPGPU-SoC som selskapet omtaler som sin første brikke for KI-inferens ved kanten. Foreløpig er dette først og fremst en produkt- og plattformstrategi; det finnes begrenset med uavhengige benchmarkresultater. 4

Fra skjermbrikker ved kanten til KI-beregning

Selskapets tidligere produkter forklarer utgangspunktet. Suxian Micro opplyser at GC9002 og GC9005 fullførte funksjonell verifisering i 2023, rettet mot henholdsvis strømgjerrige og mer ytelseskrevende IoT-scenarioer. Ifølge selskapets produktmateriale har GC9005 to 32-bits RISC-V-kjerner, grafikkjerne, NPU og støtte for skjermutgang på opptil 3840 × 2160 piksler. 7

En partnerbeskrivelse omtaler GC9005 som en grafikkorientert MPU med integrert minne, 2,5D-grafikkakselerasjon, multimediefunksjoner og en dyp læringsakselerator for oppgaver ved kanten, som lokal talegjenkjenning og ansiktsdeteksjon. 16

Det er bakgrunnen for selskapets nåværende tese: I stedet for å behandle KI-akselerasjon som et helt separat forretningsområde, vil Suxian Micro bygge videre på grafikk, visuell interaksjon og integrasjon av systemer ved kanten.

Hva betyr «render-first-then-AI»?

Suxian Micro beskriver strategien som «render-first-then-AI» – først rendering eller grafikkbehandling, deretter KI. Argumentet er at produkter for fysisk KI, inkludert roboter, intelligente kjøretøy og industrielle kant-enheter, trenger sanntids visuell databehandling og responsive heterogene systemer i tillegg til modellinferens. Selskapet mener grafikk skaper grunnlaget i form av programmerbar parallell databehandling og utviklerverktøy, som KI-arbeidslaster kan bygges oppå. Det sammenligner veien med Nvidias utvikling fra grafikk til generell GPU-databehandling og KI. 4

Dette er ikke et argument for at rendering alene løser utfordringene i fysisk KI. Det er en produktposisjonering: Kunder som bygger fysiske systemer trenger en fungerende helhet for persepsjon, visualisering, styring, modelldistribusjon og enhetsintegrasjon – ikke bare ett tall for maksimal regnekapasitet.

Tre teknologiske byggesteiner

Selskapet trekker frem tre sammenhengende teknologier i sin satsing på fysisk KI. De påståtte fordelene bør imidlertid behandles som leverandørpåstander inntil de underbygges med teknisk dokumentasjon og repeterbare tester.

Fullstendig GPU-IP-stakk

Suxian Micro beskriver en vertikalt utviklet stakk som omfatter GPU-IP, systemprogramvare og verktøy. På selskapets eksisterende nettsider finnes produktinformasjon, SDK-er, chip-støttepakker, datablad og utviklingsverktøy for GC9000-serien, noe som viser at programvarestøtte også har vært en del av den tidligere produktstrategien. 3

For den nye KI-plattformen er målet å samordne maskinvare, kompilatorer, kjøretidsprogramvare, drivere, operativsystemstøtte, algoritmer og løsningspakker for konkrete bruksområder. Den mulige fordelen er mindre integrasjons- og porteringsarbeid for kunder som skal bygge systemer rundt grafikk, maskinsyn og inferens. 4

Sammenkobling av beregning og lagring i brikken

Selskapet fremhever også «in-chip compute-storage fusion», altså tettere kobling mellom lagring og beregning inne i brikken. Hensikten er å redusere databevegelsen mellom beregningsenheter og eksternt minne. Minnetrafikk er en praktisk begrensning for inferens ved kanten fordi den påvirker forsinkelse, energiforbruk og systemutforming. Suxian Micro sier at tilnærmingen øker nærheten mellom data og beregning. 4

AI ROM

AI ROM presenteres som en metode for å plassere utvalgte modellparametere eller vekter i ikke-flyktig lagring på brikken. Suxian Micro hevder at dette kan redusere lagringskostnader og strømforbruk, samtidig som token-utgangen forbedres. 4

Avveiningen er relativt klar: Faste vekter i lagring på brikken kan være nyttig i en smalt definert utrulling, men er potensielt mindre fleksibelt enn modeller som ligger i eksternt minne og enkelt kan byttes ut. Selskapet har ikke offentliggjort nok detaljer til å vurdere kapasitet, oppdateringsmekanismer, støttede modellformater eller den reelle ytelseseffekten uavhengig.

TUCA skal samle programvarelaget

TUCA, forkortelse for Thorsianway Unified Computing Architecture, er Suxian Micros foreslåtte felleslag for GPGPU-er, KI-akseleratorer og annen heterogen maskinvare. Selskapet opplyser at arkitekturen dekker kjeden fra applikasjonsutvikling og operator-kompilering, via kjøretidsplanlegging, til maskinvareutførelse. 4

Det praktiske målet er å gi utviklere en mer samlet vei til å distribuere modeller og beregningsarbeidslaster, fremfor at de må sette sammen separate lavnivå-verktøykjeder for hver akselerator. Dette kan være viktig i industrien, der kunder kan ha høy domeneinnsikt, men begrenset intern kompetanse på kompilatorer, kjøretidsmiljøer, modelloptimalisering eller integrasjon av heterogene systemer.

Suxian Micro beskriver også TUCA Playground som utviklermiljøet for stakken. Det er ment å støtte innlasting av applikasjoner og modeller, kompilering og utrulling, observasjon av kjøring og ressursstyring. 4

TH1100: Det som er kjent – og det som fortsatt mangler

Tianheng TH1100 er den første brikken i den nye serien og posisjoneres for KI-inferens ved kanten i anvendelser innen fysisk KI. Hovedspesifikasjonen som er oppgitt i lanseringsomtalen, er 100 TOPS med KI-regnekraft. Suxian Micro knytter også brikken til FP16-støtte, sin integrerte beregnings- og lagringstilnærming og utrulling av en sparsom blanding-av-eksperter-språkmodell på 35B-A3B. 4

Betegnelsen 35B-A3B viser vanligvis til om lag 35 milliarder parametere totalt, hvor rundt 3 milliarder aktiveres per token. Det kan redusere den aktive beregningsmengden sammenlignet med en tett modell med samme samlede parameterantall. Men egenskapen alene sier ikke noe sikkert om en bestemt enhets gjennomstrømning, forsinkelse, minnebehov eller strømforbruk. 4

Det som mangler, er minst like viktig som overskriften. Offentlig lanseringsdekning gir ingen fullstendig og pålitelig spesifikasjonstabell for antall kjerner, FP16-gjennomstrømning, minnekapasitet, minnebåndbredde, strømramme, kvantiseringsmetode, kontekstlengde, batchstørrelse eller målt antall token per sekund. Inntil Suxian Micro publiserer detaljert datablad og reproduserbare benchmarkoppsett, bør 100-TOPS-tallet ikke brukes som en direkte sammenligning med andre akseleratorer i reelle arbeidslaster. 4

Veikartet: TH1800 og TH24K0

Suxian Micro har skissert TH1800 innen utgangen av 2027 og TH24K0 i 2028. Begge er rettet mot større nivåer av databehandling for fysisk KI og språkmodeller. Selskapet presenterer dem som steg mot konkurranse høyere oppe i GPU-markedet og mot større systemer for fysisk KI. 4

Planene viser ambisjon, ikke levert ytelse. De som vurderer veikartet, bør skille mellom fremtidige konkurransemål og uavhengig målt, kommersiell maskinvare.

Hvorfor Tianjin – og hvorfor hele stakken?

Lanseringen av hovedkontoret i Tianjin blir fremstilt som mer enn en adresseendring. Suxian Micros tese er at kommersialisering avhenger av nærhet til produksjon, bilindustri, robotikk, forskning og utrullingspartnere i Beijing–Tianjin–Hebei-regionen. 4

Det kommersielle tilbudet handler derfor om mer enn å selge en prosessor. Selskapet legger vekt på chipmaskinvare, algoritmer, verktøy, referansedesign og leveranse tilpasset konkrete bruksområder – særlig for kunder som ønsker KI-funksjoner, men ikke har dyp kompetanse på KI-systemer. Selskapet rammer også inn teknologi og leveranser som kontrolleres nasjonalt som et svar på tilgang til importerte brikker og usikkerhet i forsyningskjeden. 4

Konklusjon

Suxian Micros tydeligste særpreg er foreløpig ikke en fullt dokumentert ytelsesledelse. Det er forsøket på å kombinere erfaring fra kantgrafikk, heterogen programvare, minnebevisst design og utrullingstjenester i én plattform for fysisk KI.

TH1100s oppgitte 100 TOPS og lanseringen av TUCA gjør strategien mer konkret, mens Tianheng-veikartet viser hvilken retning selskapet ønsker å ta. De avgjørende spørsmålene – faktisk inferenshastighet, minnekonfigurasjon, energieffektivitet, modellkompatibilitet, modenhet for utviklere og produksjonstilgjengelighet – krever imidlertid produktdokumentasjon og uavhengig testing. 4