Inspurs SD200 Ultra: Hvad kan supernoden – og hvad skal købere efterprøve?

Inspur Information præsenterede MetaBrain SD200 Ultra på AI-computerkonferencen AICC2026 som en supernode: et system, hvor mange AI-chips arbejder tæt sammen om blandt andet meget store modeller og AI-agenter, der er følsomme over for svartid. Samtidig lancerede virksomheden MetaBrain HC2000 med fokus på at producere flere tokens på tværs af opgaver. Ydelsestallene for begge systemer stammer fra Inspur og bør læses som producentens påstande. 31820

128 chips og plads til store modeller

SD200 Ultra bruger arkitekturen 3D Hyper Mesh til at forbinde 128 kinesisk fremstillede AI-acceleratorer. Inspur oplyser, at systemet har 8 TB acceleratorhukommelse med fælles adressering og 64 TB systemhukommelse. Ifølge virksomheden kan én maskine køre Kimi K3 med 2,8 billioner parametre og understøtte modeller på op til 10 billioner parametre. Det sidste er en påstand om, hvor stor en model systemet kan rumme – ikke et mål for, hvor hurtigt den vil køre. 317

For Kimi K3 angiver Inspur under 5,85 millisekunder pr. genereret token, svarende til cirka 170 tokens i sekundet for én bruger. Virksomheden kalder det fem gange hurtigere end et branchegennemsnit, men kilderne beskriver ikke testen godt nok til, at sammenligningen kan betragtes som en ensartet benchmark. Tiden pr. genereret token er heller ikke det samme som tiden til det første token eller til et helt svar. 13

Hvor skal hastigheden komme fra?

Ifølge Inspur skal fælles adressering og kommunikation, der giver adgang til hukommelse på tværs af chips, mindske behovet for at flytte data. Virksomheden oplyser, at en accelerator kan få direkte adgang til en andens hukommelse, at kommunikationsforsinkelsen kan komme ned på 0,69 mikrosekunder, og at tiden til den kollektive kommunikationsoperation AllReduce reduceres 3,5 gange. Det er mål for kommunikation mellem chips – ikke for brugerens samlede svartid. 217

Inspur siger også, at beregnings- og kommunikationsoperationer knyttet til KDA, Gated MLA og MoE er samlet i større operationer til Kimi K3. Ifølge virksomheden reducerer det antallet af operationer omtrent tidobbelt og forbedrer inferensydelsen mere end tredobbelt. Påstanden gælder denne optimerede arbejdsopgave og kan ikke uden videre overføres til andre modeller. 1719

Hvad bør en køber få bekræftet?

HC2000 har et andet formål end SD200 Ultra: høj samlet tokenproduktion. Systemet kombinerer et væskekølet rack, DirectCom 2.0 og inferenssoftwaren MCIS. Inspur hævder, at det giver ti gange så stor tokenproduktion ved samme investering. Det siger ikke, at HC2000 matcher SD200 Ultras oplyste hastighed for én bruger; påstanden kræver et klart sammenligningsgrundlag for opgave og omkostninger. 1820

Omtalen af SD200 Ultra beskriver acceleratorerne som kinesisk fremstillede, men navngiver ikke leverandøren. Før et køb bør man derfor bede om chipidentitet og oplysninger om softwareunderstøttelse – og teste egne modeller under reproducerbare forhold. Testen bør fastlægge talpræcision, kontekstlængde og antal samtidige brugere samt måle tid til første token, vedvarende tokengennemløb, strømforbrug og samlede omkostninger. Uden de oplysninger er lanceringstallene et usikkert grundlag for at forudsige ydelsen i egen drift. 1318