Suxian Micro vil bygge fysisk AI oven på grafik

Suxian Micro tager et strategisk spring fra grafik- og displayprocessorer til IoT og biler over mod hardware til fysisk AI, også kaldet embodied intelligence. Ved lanceringen i Tianjin stod to elementer centralt: TUCA, en samlet arkitektur til heterogen databehandling, og Tianheng TH1100, en GPGPU-SoC, som virksomheden beskriver som sin første chip til AI-inferens ved kanten.

Nyheden er først og fremmest vigtig som en produkt- og platformstrategi. Der findes fortsat kun begrænsede uafhængige benchmarkdata for den nye hardware. 4

Fra edge-display til AI-beregning

Suxian Micros tidligere produkter forklarer udgangspunktet. Virksomheden oplyser, at GC9002 og GC9005 gennemførte funktionsvalidering i 2023, målrettet henholdsvis strømbesparende og mere ydelseskrævende IoT-displayløsninger. Ifølge virksomhedens produktmateriale kombinerer GC9005 to 32-bit RISC-V-kerner, en grafikkerne, en NPU og understøttelse af skærmoutput op til 3.840 × 2.160. 7

En partneroplysning beskriver GC9005 som en grafikfokuseret MPU med integreret hukommelse, 2,5D-grafikacceleration, multimediefunktioner og en deep-learning-accelerator til edge-opgaver som lokal talegenkendelse og ansigtsdetektion. 16

Den baggrund er central for virksomhedens aktuelle idé: AI-acceleration skal ikke være en helt separat forretning, men bygges oven på erfaringen med grafik, visuel interaktion og integration af edge-systemer.

Hvad betyder »render først, derefter AI«?

Suxian Micro beskriver sin strategi som »render-first-then-AI«. Argumentet er, at produkter til fysisk AI – eksempelvis robotter, intelligente køretøjer og industrielle edge-enheder – både kræver visuel databehandling i realtid, responsiv heterogen beregning og modelinferens.

I virksomhedens fortælling giver grafik det programmerbare, parallelle beregningsgrundlag og udviklerværktøjerne, som AI-arbejdsbelastninger senere kan lægges ovenpå. Suxian Micro sammenligner vejen med Nvidias udvikling fra grafik til generel GPU-beregning og AI. 4

Det er ikke det samme som at hævde, at rendering alene løser opgaven med fysisk AI. Det er snarere en positionering: Kunder, der bygger fysiske intelligente systemer, har brug for en fungerende helhed til perception, visualisering, styring, modeludrulning og enhedsintegration – ikke kun et højt tal for teoretiske operationer pr. sekund.

Tre teknologiske byggesten

Suxian Micro fremhæver tre sammenhængende teknologier i sin AI-satsning. De lovede gevinster bør betragtes som leverandørpåstande, indtil de understøttes af detaljeret dokumentation og reproducerbare test.

GPU-IP i hele stakken

Suxian Micro beskriver en vertikalt udviklet stak, der dækker GPU-IP, systemsoftware og værktøjer. Virksomhedens eksisterende websted tilbyder produktvalg, SDK'er, chip-supportpakker, databladsmateriale og udviklingsværktøjer til GC9000-serien. Det viser, at softwaresupport også har været en del af dens hidtidige produktmodel. 3

For den nye AI-platform er målet ifølge virksomheden at samordne hardware, compilere, runtime-software, drivere, operativsystemunderstøttelse, algoritmer og løsninger til konkrete anvendelser. Den mulige fordel er mindre integrations- og portabilitetsarbejde for kunder, der bygger systemer omkring grafik, vision og inferens. 4

Sammenkobling af beregning og lager på chippen

Virksomheden fremhæver også »in-chip compute-storage fusion«, der skal mindske dataflytning mellem beregningsenheder og ekstern hukommelse. Hukommelsestrafik er en reel begrænsning for edge-inferens, fordi den påvirker latenstid, energiforbrug og systemdesign. Suxian Micro siger, at løsningen øger nærheden mellem dataopbevaring og beregning. 4

AI ROM

AI ROM præsenteres som en måde at placere udvalgte modelparametre eller vægte i ikke-flygtig lagring direkte på chippen. Suxian Micro siger, at det kan sænke lageromkostninger og strømforbrug og samtidig forbedre token-output. 4

Afvejningen er dog klar: Faste vægte i on-chip-lager kan være en fordel i en snævert defineret løsning, men er mindre fleksible end modeller, der ligger helt i ekstern hukommelse og let kan udskiftes. Virksomheden har ikke offentliggjort nok tekniske detaljer til selvstændigt at vurdere kapacitet, opdateringsmekanismer, understøttede modelformater eller den faktiske ydelsesgevinst.

TUCA skal binde software og hardware sammen

TUCA er en forkortelse for Thorsianway Unified Computing Architecture og er Suxian Micros bud på et fælles lag for GPGPU'er, AI-acceleratorer og heterogen hardware. Virksomheden oplyser, at arkitekturen dækker hele kæden fra applikationsudvikling og kompilering af operatorer til runtime-planlægning og hardwareudførelse. 4

Det praktiske mål er at give udviklere en mere samlet vej til at tage modeller og beregningsopgaver i brug, frem for at de skal samle særskilte lavniveauværktøjskæder for hver accelerator. Det kan være væsentligt i industrielle miljøer, hvor kunderne ofte har domænekendskab, men ikke nødvendigvis egne specialister i compilere, runtimes, modeloptimering eller heterogene systemer.

Suxian Micro beskriver desuden TUCA Playground som det udviklervendte miljø til stakken. Det skal efter planen understøtte onboarding af applikationer og modeller, kompilering og udrulning, overvågning af kørsel samt ressourcestyring. 4

TH1100: Det ved vi – og det ved vi ikke

Tianheng TH1100 er den første chip i den nye serie og er positioneret til AI-inferens ved kanten i anvendelser inden for fysisk AI. Den vigtigste offentliggjorte specifikation er 100 TOPS AI-regnekraft. Suxian Micro knytter også chippen til FP16-understøttelse, sin integrerede beregnings- og lagringstilgang samt udrulning af en sparsom mixture-of-experts-sprogmodel på 35B-A3B. 4

Betegnelsen 35B-A3B henviser typisk til omkring 35 milliarder parametre i alt, hvor cirka 3 milliarder aktiveres pr. token. Det kan reducere den aktive beregning sammenlignet med en tæt model med samme samlede parameterantal. Men det fortæller ikke i sig selv noget sikkert om en bestemt enheds throughput, latenstid, hukommelseskrav eller strømforbrug. 4

De manglende oplysninger er mindst lige så vigtige som overskriften med 100 TOPS. Offentlig lanceringdækning giver ikke en fuld og pålidelig specifikationstabel for TH1100's antal kerner, FP16-ydelse, hukommelseskapacitet, hukommelsesbåndbredde, strømforbrug, kvantiseringsmetode, kontekstlængde, batchstørrelse eller målte tokens pr. sekund.

Indtil Suxian Micro udgiver et detaljeret datablad og reproducerbare benchmarkkonfigurationer, bør de 100 TOPS ikke bruges som en direkte sammenligning med andre acceleratorer i reelle arbejdsbelastninger. 4

TH1800 og TH24K0 er næste skridt på køreplanen

Suxian Micro har skitseret TH1800 til udgangen af 2027 og TH24K0 til 2028. Begge sigter mod større niveauer af beregning til fysisk AI og sprogmodeller. Virksomheden fremstiller produkterne som skridt mod konkurrence i den øvre GPU-ende og mod større fysiske AI-systemer. 4

Det vidner om ambition, ikke dokumenteret ydelse. Når køreplanen vurderes, bør man skelne mellem fremtidige konkurrencemål og hardware, der er leveret og målt af uafhængige aktører.

Hvorfor Tianjin – og hvorfor en fuld platform?

Lanceringen af hovedkvarteret i Tianjin fremstilles som mere end en ny adresse. Suxian Micros tese er, at kommercialisering kræver nærhed til produktions-, bil-, robot-, forsknings- og implementeringspartnere i Beijing-Tianjin-Hebei-regionen. 4

Virksomhedens kommercielle tilbud går derfor videre end selve processoren. Den fremhæver chiphardware, algoritmer, værktøjer, referencedesign og levering til konkrete scenarier for kunder, der ønsker AI-funktioner uden nødvendigvis at have dyb erfaring med AI-systemer. Den peger også på indenlandsk kontrolleret teknologi og forsyning som et svar på usikkerhed om tilgængeligheden af importerede chips og forsyningskæder. 4

Konklusion: Platformen er den egentlige differentiering

Suxian Micros stærkeste differentiering er endnu ikke et fuldt dokumenteret forspring i ydelse. Det er forsøget på at samle erfaring med edge-grafik, heterogen software, hukommelsesbevidst design og implementeringstjenester i en platform til fysisk AI.

TH1100's påstand om 100 TOPS og lanceringen af TUCA gør strategien konkret, mens Tianheng-køreplanen viser, hvor virksomheden vil hen. De mest afgørende spørgsmål – faktisk inferenshastighed, hukommelseskonfiguration, energieffektivitet, modelkompatibilitet, udviklerplatformens modenhed og produktionsklar tilgængelighed – kræver dog produktdokumentation og uafhængige test, før de kan besvares. 4