Huawei ha invece ottenuto un risultato storico. La combinazione tra Ascend 950DT e framework CANN ha garantito supporto completo al modello già al Day 0, cioè dal primo giorno di disponibilità. È la prima volta che una piattaforma non basata su CUDA raggiunge questo livello di prontezza per un modello di frontiera di tale scala .

I test indipendenti sull’Ascend 950PR hanno inoltre indicato una capacità di calcolo FP4 pari a 2,87 volte quella dell’Nvidia H20 e prestazioni nell’inferenza dei modelli Mixture of Experts fino a 1,96 volte superiori nei carichi di lavoro dedicati ai rollout di reinforcement learning . Il limite resta il picco prestazionale assoluto: i vincoli produttivi sulle fabbriche di semiconduttori continuano a penalizzare la capacità hardware complessiva rispetto alle soluzioni Nvidia più avanzate.

AMD, al contrario, è partita con il piede sbagliato. Al debutto la MI355X riusciva a eseguire soltanto la versione FP8; il checkpoint nativo FP4+FP8 non era utilizzabile. Sul carico 8K/1K, il risultato iniziale si fermava a 20,4 token al secondo per GPU e 2,4 token al secondo per utente . Il problema non sembrava essere soltanto il silicio: lo stack ROCm non era ancora stato ottimizzato per un modello MoE di queste dimensioni.

Il recupero di AMD: 110,5 volte più throughput in 26 giorni

La parte più sorprendente dell’analisi arriva dopo il lancio. In 26 giorni, il team AMD di SGLang, sotto la guida tecnica di HaiShaw, ha integrato 31 richieste di modifica dedicate alle prestazioni nel ramo amd/deepseek_v4 .

Gli interventi hanno interessato diversi livelli dello stack ROCm, molti dei quali non erano stati collaudati con un modello Mixture of Experts di questa scala. Il 20 maggio 2026, al giorno 26, la MI355X raggiungeva 2.256 token al secondo per GPU e 9,4 token al secondo per utente sullo stesso carico 8K/1K: un miglioramento di 110,5 volte rispetto al punto di partenza .

Non è aumentato soltanto il throughput complessivo. Anche la velocità percepita dal singolo utente è migliorata di 3,85 volte . È un risultato non comune: normalmente ottimizzare una piattaforma per servire più richieste contemporaneamente può peggiorare la latenza individuale. In questo caso, entrambe le metriche sono cresciute insieme.

A livelli di interattività comparabili, la MI355X del giorno 26 si colloca intorno a 1.411 token al secondo per GPU, in una fascia competitiva con Nvidia B200 . Resta però distante dal GB300 NVL72, che in condizioni favorevoli può arrivare a 11.474 token al secondo per GPU. La differenza principale è nella traiettoria: AMD è passata da un supporto praticamente inutilizzabile a una piattaforma d’inferenza concreta .

La classifica dopo 43 giorni

Il costo per milione di token chiarisce la dimensione economica del confronto. A bassa interattività, il GB300 NVL72 arriva a 0,064 dollari per milione di token, circa 4,5 volte meno della MI355X, che si attesta a 0,291 dollari .

Quando l’obiettivo è una maggiore velocità per utente e una concorrenza più contenuta, la situazione cambia. Nei punti di confronto tra B200 e MI355X, entrambe le piattaforme possono risultare competitive: a circa 23–24 utenti simultanei, i costi indicati sono nell’ordine di 1,22–1,45 dollari per milione di token .

I valori non sono quindi una classifica universale: dipendono dal carico, dal numero di utenti simultanei, dalla latenza desiderata e dalla configurazione software. Ma il quadro generale è netto: Nvidia mantiene il primato nelle prestazioni assolute e nell’economia dei grandi carichi, mentre AMD ha recuperato terreno soprattutto grazie all’ottimizzazione.

La vera svolta è nell’architettura di DeepSeek V4

I numeri delle GPU sarebbero molto meno significativi senza l’innovazione introdotta direttamente nel modello. Con l’attenzione Transformer tradizionale, i costi crescono rapidamente all’aumentare della lunghezza del contesto. A un milione di token, sia il calcolo sia la memoria necessaria per conservare la KV cache diventano un ostacolo decisivo.

DeepSeek V4 affronta il problema con un’architettura di attenzione ibrida che combina due meccanismi.

Compressed Sparse Attention (CSA) lavora a un livello relativamente fine. Circa quattro token vengono raggruppati in una singola voce KV appresa, con pesi dipendenti dai dati e finestre sovrapposte. Il modello seleziona poi soltanto le voci compresse più rilevanti per ogni query, grazie a un componente chiamato Lightning Indexer . Un ramo di sliding-window attention mantiene nel frattempo la precisione necessaria per le informazioni locali .

Heavily Compressed Attention (HCA) adotta una compressione molto più aggressiva: fino a 128 token vengono condensati in una sola voce KV. Il modello applica quindi un’attenzione densa sul flusso compresso, sacrificando parte della precisione nel recupero puntuale per ottenere una panoramica globale del contesto a costo marginale molto ridotto . L’HCA viene usata soprattutto nei primi livelli, mentre gli strati finali conservano maggiore precisione, fino all’attenzione completa nell’ultimo livello .

A un contesto di un milione di token, il confronto con DeepSeek V3.2 è particolarmente significativo:

• i FLOP di inferenza per token scendono al 27% del valore di V3.2, con una riduzione del 73% ;
• la memoria della KV cache scende a circa il 10%, con una riduzione approssimativa del 90% ;
• rispetto a una configurazione bfloat16 basata su GQA, l’impronta della cache è di circa il 2% .

Per il modello più piccolo V4 Flash, il consumo scende ulteriormente: circa il 10% dei FLOP e il 7% della KV cache rispetto a V3.2 .

Senza CSA e HCA, un modello Pro da 1,6 trilioni di parametri con un contesto da un milione di token sarebbe rimasto soprattutto un esperimento interessante, ma difficilmente erogabile su scala commerciale. Con questa architettura, diventa invece un prodotto che può essere servito su infrastrutture reali.

Cosa insegna davvero la sfida dei 43 giorni

I dati di SemiAnalysis raccontano tre storie contemporaneamente.

La prima riguarda Nvidia: il vantaggio di CUDA non è soltanto una questione di prestazioni teoriche. È la capacità di offrire supporto completo dal primo giorno, con librerie e framework già pronti per i modelli più recenti. Il GB300 NVL72 resta il riferimento per throughput e costo nei carichi più intensivi.

La seconda riguarda Huawei. L’ecosistema Ascend+CANN ha colmato il divario nella prontezza software al lancio, raggiungendo un risultato che in passato sembrava appannaggio quasi esclusivo di CUDA . Questo non elimina il divario nelle prestazioni hardware assolute, ma cambia il quadro competitivo in vista delle prossime generazioni.

La terza riguarda AMD. La MI355X dimostra che un’acceleratore può trasformarsi radicalmente quando il software viene adattato al modello giusto. Un miglioramento di 110,5 volte in 26 giorni è impressionante, ma evidenzia anche il problema: per ogni nuovo modello di frontiera, l’ecosistema ROCm ha ancora bisogno di un’intensa fase di messa a punto.

La conclusione più importante, però, riguarda gli architetti del modello. La combinazione CSA+HCA non si limita a rendere DeepSeek V4 più efficiente: amplia ciò che è economicamente possibile fare con un modello da 1,6 trilioni di parametri. Quando un contesto da un milione di token può essere gestito con costi dell’ordine di pochi centesimi per milione di token sull’hardware adatto, la domanda non è più soltanto «si può fare?». Diventa: «che cosa possiamo costruirci sopra?»

Huawei ha invece ottenuto un risultato storico. La combinazione tra Ascend 950DT e framework CANN ha garantito supporto completo al modello già al Day 0, cioè dal primo giorno di disponibilità. È la prima volta che una piattaforma non basata su CUDA raggiunge questo livello di prontezza per un modello di frontiera di tale scala .

I test indipendenti sull’Ascend 950PR hanno inoltre indicato una capacità di calcolo FP4 pari a 2,87 volte quella dell’Nvidia H20 e prestazioni nell’inferenza dei modelli Mixture of Experts fino a 1,96 volte superiori nei carichi di lavoro dedicati ai rollout di reinforcement learning . Il limite resta il picco prestazionale assoluto: i vincoli produttivi sulle fabbriche di semiconduttori continuano a penalizzare la capacità hardware complessiva rispetto alle soluzioni Nvidia più avanzate.

AMD, al contrario, è partita con il piede sbagliato. Al debutto la MI355X riusciva a eseguire soltanto la versione FP8; il checkpoint nativo FP4+FP8 non era utilizzabile. Sul carico 8K/1K, il risultato iniziale si fermava a 20,4 token al secondo per GPU e 2,4 token al secondo per utente . Il problema non sembrava essere soltanto il silicio: lo stack ROCm non era ancora stato ottimizzato per un modello MoE di queste dimensioni.

Il recupero di AMD: 110,5 volte più throughput in 26 giorni

La parte più sorprendente dell’analisi arriva dopo il lancio. In 26 giorni, il team AMD di SGLang, sotto la guida tecnica di HaiShaw, ha integrato 31 richieste di modifica dedicate alle prestazioni nel ramo amd/deepseek_v4 .

Gli interventi hanno interessato diversi livelli dello stack ROCm, molti dei quali non erano stati collaudati con un modello Mixture of Experts di questa scala. Il 20 maggio 2026, al giorno 26, la MI355X raggiungeva 2.256 token al secondo per GPU e 9,4 token al secondo per utente sullo stesso carico 8K/1K: un miglioramento di 110,5 volte rispetto al punto di partenza .

Non è aumentato soltanto il throughput complessivo. Anche la velocità percepita dal singolo utente è migliorata di 3,85 volte . È un risultato non comune: normalmente ottimizzare una piattaforma per servire più richieste contemporaneamente può peggiorare la latenza individuale. In questo caso, entrambe le metriche sono cresciute insieme.

A livelli di interattività comparabili, la MI355X del giorno 26 si colloca intorno a 1.411 token al secondo per GPU, in una fascia competitiva con Nvidia B200 . Resta però distante dal GB300 NVL72, che in condizioni favorevoli può arrivare a 11.474 token al secondo per GPU. La differenza principale è nella traiettoria: AMD è passata da un supporto praticamente inutilizzabile a una piattaforma d’inferenza concreta .

La classifica dopo 43 giorni

Il costo per milione di token chiarisce la dimensione economica del confronto. A bassa interattività, il GB300 NVL72 arriva a 0,064 dollari per milione di token, circa 4,5 volte meno della MI355X, che si attesta a 0,291 dollari .

Quando l’obiettivo è una maggiore velocità per utente e una concorrenza più contenuta, la situazione cambia. Nei punti di confronto tra B200 e MI355X, entrambe le piattaforme possono risultare competitive: a circa 23–24 utenti simultanei, i costi indicati sono nell’ordine di 1,22–1,45 dollari per milione di token .

I valori non sono quindi una classifica universale: dipendono dal carico, dal numero di utenti simultanei, dalla latenza desiderata e dalla configurazione software. Ma il quadro generale è netto: Nvidia mantiene il primato nelle prestazioni assolute e nell’economia dei grandi carichi, mentre AMD ha recuperato terreno soprattutto grazie all’ottimizzazione.

La vera svolta è nell’architettura di DeepSeek V4

I numeri delle GPU sarebbero molto meno significativi senza l’innovazione introdotta direttamente nel modello. Con l’attenzione Transformer tradizionale, i costi crescono rapidamente all’aumentare della lunghezza del contesto. A un milione di token, sia il calcolo sia la memoria necessaria per conservare la KV cache diventano un ostacolo decisivo.

DeepSeek V4 affronta il problema con un’architettura di attenzione ibrida che combina due meccanismi.

Compressed Sparse Attention (CSA) lavora a un livello relativamente fine. Circa quattro token vengono raggruppati in una singola voce KV appresa, con pesi dipendenti dai dati e finestre sovrapposte. Il modello seleziona poi soltanto le voci compresse più rilevanti per ogni query, grazie a un componente chiamato Lightning Indexer . Un ramo di sliding-window attention mantiene nel frattempo la precisione necessaria per le informazioni locali .

Heavily Compressed Attention (HCA) adotta una compressione molto più aggressiva: fino a 128 token vengono condensati in una sola voce KV. Il modello applica quindi un’attenzione densa sul flusso compresso, sacrificando parte della precisione nel recupero puntuale per ottenere una panoramica globale del contesto a costo marginale molto ridotto . L’HCA viene usata soprattutto nei primi livelli, mentre gli strati finali conservano maggiore precisione, fino all’attenzione completa nell’ultimo livello .

A un contesto di un milione di token, il confronto con DeepSeek V3.2 è particolarmente significativo:

• i FLOP di inferenza per token scendono al 27% del valore di V3.2, con una riduzione del 73% ;
• la memoria della KV cache scende a circa il 10%, con una riduzione approssimativa del 90% ;
• rispetto a una configurazione bfloat16 basata su GQA, l’impronta della cache è di circa il 2% .

Per il modello più piccolo V4 Flash, il consumo scende ulteriormente: circa il 10% dei FLOP e il 7% della KV cache rispetto a V3.2 .

Senza CSA e HCA, un modello Pro da 1,6 trilioni di parametri con un contesto da un milione di token sarebbe rimasto soprattutto un esperimento interessante, ma difficilmente erogabile su scala commerciale. Con questa architettura, diventa invece un prodotto che può essere servito su infrastrutture reali.

Cosa insegna davvero la sfida dei 43 giorni

I dati di SemiAnalysis raccontano tre storie contemporaneamente.

La prima riguarda Nvidia: il vantaggio di CUDA non è soltanto una questione di prestazioni teoriche. È la capacità di offrire supporto completo dal primo giorno, con librerie e framework già pronti per i modelli più recenti. Il GB300 NVL72 resta il riferimento per throughput e costo nei carichi più intensivi.

La seconda riguarda Huawei. L’ecosistema Ascend+CANN ha colmato il divario nella prontezza software al lancio, raggiungendo un risultato che in passato sembrava appannaggio quasi esclusivo di CUDA . Questo non elimina il divario nelle prestazioni hardware assolute, ma cambia il quadro competitivo in vista delle prossime generazioni.

La terza riguarda AMD. La MI355X dimostra che un’acceleratore può trasformarsi radicalmente quando il software viene adattato al modello giusto. Un miglioramento di 110,5 volte in 26 giorni è impressionante, ma evidenzia anche il problema: per ogni nuovo modello di frontiera, l’ecosistema ROCm ha ancora bisogno di un’intensa fase di messa a punto.

La conclusione più importante, però, riguarda gli architetti del modello. La combinazione CSA+HCA non si limita a rendere DeepSeek V4 più efficiente: amplia ciò che è economicamente possibile fare con un modello da 1,6 trilioni di parametri. Quando un contesto da un milione di token può essere gestito con costi dell’ordine di pochi centesimi per milione di token sull’hardware adatto, la domanda non è più soltanto «si può fare?». Diventa: «che cosa possiamo costruirci sopra?»