MetaBrain SD200 Ultra, cosa promette Inspur e cosa verificare prima dell’acquisto

Inspur Information ha presentato il MetaBrain SD200 Ultra alla conferenza AICC2026, dedicata al calcolo per l’intelligenza artificiale. È un supernodo pensato per modelli molto grandi e applicazioni con agenti AI sensibili ai tempi di risposta. Nella stessa occasione ha annunciato il MetaBrain HC2000, orientato invece ad aumentare la quantità complessiva di token prodotti nell’inferenza. In entrambi i casi, le cifre sulle prestazioni sono dichiarazioni del produttore, non risultati di benchmark indipendenti. 31820

Configurazione e prestazioni dichiarate

L’SD200 Ultra usa l’architettura 3D Hyper Mesh per collegare strettamente 128 acceleratori AI prodotti in Cina. Inspur indica 8 TB di memoria degli acceleratori con indirizzamento unificato e 64 TB di memoria di sistema. Secondo l’azienda, una singola macchina può eseguire Kimi K3, da 2.800 miliardi di parametri, e supportare modelli fino a 10.000 miliardi di parametri. Quest’ultimo numero riguarda la capacità dichiarata di ospitare un modello, non la velocità con cui verrebbe eseguito. 317

Con Kimi K3, Inspur riporta una latenza inferiore a 5,85 millisecondi per token generato, equivalente, secondo l’azienda, a circa 170 token al secondo per un singolo utente: un valore che definisce cinque volte superiore alla media del settore. Le fonti non specificano abbastanza condizioni di prova per considerare quel confronto un benchmark omogeneo. Inoltre, il tempo per generare un token non coincide né con l’attesa del primo token né con il tempo necessario a ricevere una risposta completa. 13

Perché la comunicazione tra chip conta

Secondo Inspur, l’indirizzamento unificato e la comunicazione basata sulla semantica della memoria limitano i trasferimenti di dati tra chip. La memoria simmetrica permette a un acceleratore di accedere direttamente alla memoria di un altro. L’azienda dichiara una latenza di comunicazione fino a 0,69 microsecondi e un tempo di comunicazione AllReduce ridotto di 3,5 volte. Sono misure relative alla comunicazione interna, non ai tempi di risposta percepiti da chi usa l’applicazione. 217

Per l’inferenza di Kimi K3, Inspur afferma inoltre di riunire operazioni legate a KDA, Gated MLA e MoE in operatori più grandi che combinano calcolo e comunicazione. Rivendica così una riduzione di circa dieci volte del numero di operatori e un miglioramento delle prestazioni di inferenza superiore a tre volte. È un risultato dichiarato per questo carico di lavoro, non un incremento garantito con altri modelli. 1719

SD200 Ultra o HC2000? Le verifiche per chi acquista

L’HC2000 risponde a un’esigenza diversa: produrre più token su carichi comparabili. Integra un rack raffreddato a liquido, l’architettura DirectCom 2.0 e il software di inferenza MCIS. Inspur sostiene che possa generare dieci volte più token a parità di investimento, ma per valutare il dato servono un sistema di riferimento, un carico di lavoro e un perimetro dei costi definiti. Non è una promessa di eguagliare la latenza per singolo utente attribuita all’SD200 Ultra. 1820

Le fonti descrivono gli acceleratori dell’SD200 Ultra come prodotti in Cina, senza identificarne il fornitore. Prima di acquistare uno dei due sistemi, è quindi opportuno chiedere a Inspur quale chip utilizzi e quali strumenti software supporti, oltre a prove riproducibili sui propri modelli. I test dovrebbero dichiarare precisione numerica, lunghezza del contesto e numero di richieste simultanee, misurando latenza del primo token, produzione sostenuta di token, consumi e costo complessivo. Senza queste condizioni, i numeri del lancio non bastano a prevedere le prestazioni in un’installazione reale. 1318