L'hardware: NVIDIA GB300 NVL72 by HPE

Vultr implementerà il sistema NVIDIA GB300 NVL72, realizzato da HPE, come cuore pulsante della sua infrastruttura AI di nuova generazione. Si tratta di un'architettura rack-scale che abbina GPU NVIDIA Blackwell Ultra e CPU NVIDIA Grace in un dominio NVLink a 72 GPU . I numeri parlano da soli:

• Prestazioni AI: Fino a 1.440 PFLOPS di prestazioni AI in FP4
• Memoria: 279 GB di memoria HBM3e per GPU (37 TB totali nel rack), con 8 TB/s di larghezza di banda per GPU
• Architettura: Ottimizzata per training di modelli AI su larga scala, fine-tuning e inferenza in tempo reale per modelli con oltre 1.000 miliardi di parametri
• Raffreddamento: Design completamente a liquido integrato nell'architettura AI factory di HPE

Il GB300 NVL72 viene descritto come il "nuovo cavallo di battaglia per inferenza/training", con un chiaro focus sul costo per token, segno della svolta del settore verso l'operatività dei modelli AI su larga scala per applicazioni in tempo reale . Secondo la scheda prodotto NVIDIA, offre 1,5x più FLOPS FP4 densi e 2x le prestazioni di attenzione rispetto alle GPU NVIDIA Blackwell .

Rete ad alta larghezza di banda: la spina dorsale dell'inferenza AI

Il networking ad alta larghezza di banda è un pilastro fondamentale dell'implementazione. I sistemi NVIDIA GB300 NVL72 sono interconnessi tramite NVIDIA Spectrum-X Ethernet networking, una struttura Ethernet lossless e ad alto rendimento progettata per eliminare i colli di bottiglia nei carichi di lavoro AI multi-nodo .

L'implementazione prevede interconnessioni 400GbE e 800GbE, ricetrasmettitori ottici, switch Ethernet NVIDIA Spectrum-X e SuperNIC . Senza questa struttura, scalare l'inferenza fino a volumi enterprise creerebbe ritardi e colli di bottiglia insostenibili. L'architettura di riferimento NVIDIA Enterprise per l'NVL72 AI Factory conferma che questa architettura di rete a doppio piano è progettata per alimentare data center enterprise per training e inferenza AI su scala massiccia, abilitando applicazioni in tempo reale e modelli da mille miliardi di parametri .

Cambiamento strategico: dal training all'inferenza

Sebbene l'infrastruttura supporti sia training che inferenza , l'annuncio sottolinea la crescente attenzione delle aziende verso l'inferenza AI (implementazione in produzione) insieme al training. Diversi segnali indicano questo cambiamento:

• Il GB300 NVL72 è costruito appositamente per "inferenza a scaling con test-time e attività di ragionamento AI"
• È esplicitamente posizionato con un focus sul costo per token, misurando il valore nell'output di inferenza piuttosto che nel throughput di training grezzo
• La comunicazione più ampia di HPE all'evento si è concentrata sul portare l'AI in produzione con sicurezza, governance, scala e sovranità

Il messaggio è chiaro: le aziende hanno superato la fase di sperimentazione e ora cercano infrastrutture ottimizzate per distribuire modelli AI su larga scala in ambienti di produzione.

Altre novità all'HPE Discover Las Vegas 2026

Oltre alla partnership con Vultr, HPE ha evidenziato diverse iniziative correlate:

• Spinta all'AI agentica: HPE ha annunciato un'iniziativa più ampia per portare l'AI agentica in produzione con NVIDIA, con particolare attenzione a sicurezza, governance, scala e sovranità
• Implementazioni clienti: S k y Co., Ltd. ha implementato HPE Private Cloud AI come parte del portfolio NVIDIA AI Computing by HPE
• Nubax in Argentina: L'azienda ha lanciato un modello AI-as-a-service basato sul consumo, offrendo previsioni della supply chain migliori del 62,5%, tempi di attesa ridotti del 35% e risparmi sui costi del 40%, grazie a NVIDIA AI Computing by HPE

Cosa significa per l'AI enterprise

La scelta di Vultr a favore di HPE e NVIDIA segna un punto di svolta importante. In quanto più grande hyperscaler privato, Vultr scommette che le aziende abbiano bisogno di un'infrastruttura in grado di gestire sia il training che l'inferenza in tempo reale su scala cloud. Combinando il calcolo rack-scale di NVIDIA con l'architettura factory di HPE, il raffreddamento a liquido e i servizi, Vultr si posiziona per servire la prossima ondata di carichi di lavoro AI enterprise, dal training dei modelli all'inferenza di produzione su modelli da mille miliardi di parametri.

L'hardware: NVIDIA GB300 NVL72 by HPE

Vultr implementerà il sistema NVIDIA GB300 NVL72, realizzato da HPE, come cuore pulsante della sua infrastruttura AI di nuova generazione. Si tratta di un'architettura rack-scale che abbina GPU NVIDIA Blackwell Ultra e CPU NVIDIA Grace in un dominio NVLink a 72 GPU . I numeri parlano da soli:

• Prestazioni AI: Fino a 1.440 PFLOPS di prestazioni AI in FP4
• Memoria: 279 GB di memoria HBM3e per GPU (37 TB totali nel rack), con 8 TB/s di larghezza di banda per GPU
• Architettura: Ottimizzata per training di modelli AI su larga scala, fine-tuning e inferenza in tempo reale per modelli con oltre 1.000 miliardi di parametri
• Raffreddamento: Design completamente a liquido integrato nell'architettura AI factory di HPE

Il GB300 NVL72 viene descritto come il "nuovo cavallo di battaglia per inferenza/training", con un chiaro focus sul costo per token, segno della svolta del settore verso l'operatività dei modelli AI su larga scala per applicazioni in tempo reale . Secondo la scheda prodotto NVIDIA, offre 1,5x più FLOPS FP4 densi e 2x le prestazioni di attenzione rispetto alle GPU NVIDIA Blackwell .

Rete ad alta larghezza di banda: la spina dorsale dell'inferenza AI

Il networking ad alta larghezza di banda è un pilastro fondamentale dell'implementazione. I sistemi NVIDIA GB300 NVL72 sono interconnessi tramite NVIDIA Spectrum-X Ethernet networking, una struttura Ethernet lossless e ad alto rendimento progettata per eliminare i colli di bottiglia nei carichi di lavoro AI multi-nodo .

L'implementazione prevede interconnessioni 400GbE e 800GbE, ricetrasmettitori ottici, switch Ethernet NVIDIA Spectrum-X e SuperNIC . Senza questa struttura, scalare l'inferenza fino a volumi enterprise creerebbe ritardi e colli di bottiglia insostenibili. L'architettura di riferimento NVIDIA Enterprise per l'NVL72 AI Factory conferma che questa architettura di rete a doppio piano è progettata per alimentare data center enterprise per training e inferenza AI su scala massiccia, abilitando applicazioni in tempo reale e modelli da mille miliardi di parametri .

Cambiamento strategico: dal training all'inferenza

Sebbene l'infrastruttura supporti sia training che inferenza , l'annuncio sottolinea la crescente attenzione delle aziende verso l'inferenza AI (implementazione in produzione) insieme al training. Diversi segnali indicano questo cambiamento:

• Il GB300 NVL72 è costruito appositamente per "inferenza a scaling con test-time e attività di ragionamento AI"
• È esplicitamente posizionato con un focus sul costo per token, misurando il valore nell'output di inferenza piuttosto che nel throughput di training grezzo
• La comunicazione più ampia di HPE all'evento si è concentrata sul portare l'AI in produzione con sicurezza, governance, scala e sovranità

Il messaggio è chiaro: le aziende hanno superato la fase di sperimentazione e ora cercano infrastrutture ottimizzate per distribuire modelli AI su larga scala in ambienti di produzione.

Altre novità all'HPE Discover Las Vegas 2026

Oltre alla partnership con Vultr, HPE ha evidenziato diverse iniziative correlate:

• Spinta all'AI agentica: HPE ha annunciato un'iniziativa più ampia per portare l'AI agentica in produzione con NVIDIA, con particolare attenzione a sicurezza, governance, scala e sovranità
• Implementazioni clienti: S k y Co., Ltd. ha implementato HPE Private Cloud AI come parte del portfolio NVIDIA AI Computing by HPE
• Nubax in Argentina: L'azienda ha lanciato un modello AI-as-a-service basato sul consumo, offrendo previsioni della supply chain migliori del 62,5%, tempi di attesa ridotti del 35% e risparmi sui costi del 40%, grazie a NVIDIA AI Computing by HPE

Cosa significa per l'AI enterprise

La scelta di Vultr a favore di HPE e NVIDIA segna un punto di svolta importante. In quanto più grande hyperscaler privato, Vultr scommette che le aziende abbiano bisogno di un'infrastruttura in grado di gestire sia il training che l'inferenza in tempo reale su scala cloud. Combinando il calcolo rack-scale di NVIDIA con l'architettura factory di HPE, il raffreddamento a liquido e i servizi, Vultr si posiziona per servire la prossima ondata di carichi di lavoro AI enterprise, dal training dei modelli all'inferenza di produzione su modelli da mille miliardi di parametri.