Nvidia punta ai token per megawatt: l’AI factory non si misura più solo in GPU

La disponibilità di elettricità sta diventando un vincolo per l’infrastruttura AI tanto quanto, e in alcuni casi più di, quanti acceleratori possano entrare in un rack. All’apertura dell’AI Infra Summit 2026, Nvidia ha proposto una metrica diversa per valutare un’AI factory: i token agentici per megawatt, cioè la quantità di inferenza utile che un impianto riesce a produrre restando entro il proprio limite di potenza. 23

Il messaggio illustrato a Santa Clara da Ian Buck, vicepresidente Nvidia per hyperscale e high-performance computing, non riguarda soltanto GPU più veloci. Per mantenere produttive le AI factory mentre l’energia diventa una risorsa limitante, secondo Nvidia occorre coordinare elaborazione, rete, software di inferenza, raffreddamento, controlli di potenza e interazione con la rete elettrica. 123

Il dato più concreto: la validazione Lambda di DSX MaxLPS

Il risultato più tangibile presentato arriva da Lambda, fornitore di cloud AI, con la prima validazione in ambiente di deployment di Nvidia DSX MaxLPS su server GPU HGX B200. Nvidia spiega che DSX MaxLPS monitora i consumi delle GPU e dei rack, quindi ridistribuisce il margine di potenza disponibile tra i nodi del cluster. 23

Nel cluster riportato, composto da cinque rack e 19 nodi, Lambda ha fatto funzionare 19 nodi con un budget energetico che normalmente ne sosterrebbe 16 alla massima potenza. Il throughput del cluster è così salito, secondo i dati comunicati, del 24%, da circa 4 a 5 milioni di token al secondo, mentre le prestazioni per watt sono migliorate del 23%. 23

Il punto non è teorico: la capacità di molti data center è frenata dalla potenza elettrica effettivamente disponibile sul sito. Quando i carichi di lavoro hanno profili di consumo variabili, sfruttare il margine inutilizzato può aumentare l’output utile senza richiedere un nuovo allacciamento elettrico o un budget di potenza superiore.

Vera Rubin: numeri da distinguere dai risultati sul campo

Nvidia ha anche delineato i possibili benefici per future installazioni Vera Rubin NVL72. L’azienda afferma che DSX MaxLPS potrebbe consentire fino al 40% di capacità GPU in più entro un determinato limite di potenza del sito e fino al 35% di throughput di token in più, a seconda delle condizioni di deployment. 23

Questi numeri vanno però letti diversamente rispetto alla validazione Lambda basata su Blackwell: le misurazioni Lambda sono risultati riportati in un deployment, mentre i dati su Vera Rubin sono proiezioni Nvidia per una piattaforma futura. 23

Un’AI factory che può reagire alla rete elettrica

Il secondo tema centrale è la flessibilità. Per Nvidia, un’AI factory dovrebbe poter rispondere alle condizioni della rete senza trattare tutti i carichi di lavoro come se avessero la stessa urgenza.

Presso l’AI factory Eos di Nvidia, la piattaforma Conductor di Emerald AI ha lavorato con Silicon Valley Power in un programma commerciale di carico flessibile. Nvidia riferisce che il sistema ha risposto a oltre 200 segnali della utility elettrica e, durante un evento dimostrativo, ha ridotto il consumo della struttura da 4 MW a 3 MW in meno di un minuto. Il risultato è stato ottenuto declassando le attività di calcolo flessibili e lasciando proseguire l’inferenza a priorità più alta. 23

Nvidia presenta il programma come un primo esempio delle capacità previste per DSX Flex. La società descrive DSX Flex come un sistema in grado di ricevere segnali di riduzione del carico, risposta alla domanda e prezzi dell’energia, applicando poi priorità ai workload: le attività rinviabili possono fermarsi e riprendere, mentre i servizi critici restano operativi. La dimostrazione presso Eos rappresenta un precedente commerciale su scala significativa, non un’installazione DSX Flex. 23

Per gli operatori soggetti a vincoli imposti dalle utility, la distinzione è importante: addestramento, elaborazioni batch e attività offline non richiedono necessariamente gli stessi tempi di risposta dell’inferenza in produzione. Trattare parte del calcolo come carico flessibile potrebbe consentire di partecipare a programmi della rete tutelando al contempo i workload a maggior valore.

La proposta Nvidia: una piattaforma completa, dal silicio alle operazioni

Gli annunci del summit mirano a presentare Nvidia non solo come fornitrice di componenti, ma come piattaforma per AI factory. Lo stack proposto comprende elaborazione Vera Rubin, rete scale-up NVLink, software di inferenza Dynamo, networking Ethernet e SuperNIC, componenti infrastrutturali BlueField, ottimizzazione della potenza a livello rack e gestione dei carichi consapevole delle condizioni di rete. 2

In questo quadro rientra anche Groq 3 LPX. Nvidia lo definisce un acceleratore per inferenza interattiva destinato a Vera Rubin, progettato per le esigenze di bassa latenza e ampio contesto dei sistemi agentici. 112 Le fonti fornite sostengono questo posizionamento, ma non verificano in modo indipendente affermazioni più specifiche su tempistiche di lancio, un confronto di 35 volte nel throughput per megawatt o prestazioni su modelli oltre i duemila miliardi di parametri.

Perché la strategia ha un peso economico

Il messaggio infrastrutturale arriva mentre il business data center di Nvidia continua a crescere rapidamente. Nel secondo trimestre dell’esercizio fiscale 2027, chiuso il 26 luglio 2026, Nvidia ha riportato ricavi per 96,2 miliardi di dollari, in aumento del 106% su base annua, inclusi 89,0 miliardi di dollari dalla divisione Data Center. 17 Per il terzo trimestre, la società ha indicato ricavi attesi di 108 miliardi di dollari, con una variazione possibile del 2% in più o in meno. 2830

Questo contesto aiuta a spiegare l’enfasi sulle operazioni su scala di fabbrica. Con l’aumento della capacità AI installata, le domande operative diventano sempre più concrete: come assicurarsi energia, come aumentare l’output entro limiti di potenza fissi e come mantenere attivi i servizi di inferenza durante eventi energetici o discontinuità operative.

In sintesi

La tesi di Nvidia non è che le prestazioni degli acceleratori abbiano smesso di contare. È che, per l’economia di un’AI factory, la sola prestazione di picco non basta più.

La metrica proposta — token convalidati per megawatt — collega le prestazioni hardware ai vincoli che contano nella produzione reale: potenza disponibile sul sito, eventi della rete, priorità dei carichi e continuità del servizio. Il +24% di throughput riportato da Lambda offre un primo dato osservato in deployment a sostegno di questa tesi; le più ampie promesse Nvidia su Vera Rubin e DSX restano invece una roadmap che dovrà essere verificata nelle installazioni dei clienti. 23