Un componente centrale della piattaforma è la nuova CPU Vera di Nvidia, che sostituisce la precedente CPU Grace nei futuri sistemi AI.

Il processore Vera è costruito con:

• 88 core Olympus personalizzati da Nvidia, compatibili con Arm
• Memoria LPDDR5X e larghezza di banda estremamente elevata
• Nvidia Scalable Coherency Fabric per un movimento efficiente dei dati tra sistemi
• Connettività NVLink-C2C per la comunicazione diretta ad alta velocità con le GPU

Invece di concentrarsi puramente sul calcolo generico, il chip è ottimizzato per alimentare i dati ai grandi acceleratori AI e coordinare i carichi di lavoro attraverso cluster di GPU massicci.

GPU Rubin e NVLink 6: costruiti per l'AI su scala rack

Sul lato GPU, l'architettura introduce la GPU Rubin, successore della generazione Blackwell.

I progressi chiave includono:

• Memoria ad alta larghezza di banda HBM4 per addestramento e inferenza AI
• Un nuovo Transformer Engine ottimizzato per i modelli AI moderni
• Networking NVLink 6, che offre fino a 3,6 TB/s di larghezza di banda GPU-to-GPU per GPU

Nvidia afferma che l'architettura Rubin raddoppia le prestazioni della precedente generazione Blackwell, consentendo modelli significativamente più grandi e sistemi di addestramento più rapidi.

A livello di rack, sistemi come il Vera Rubin NVL72 combinano:

• 72 GPU Rubin
• 36 CPU Vera
• ConnectX-9 SuperNIC
• BlueField-4 DPU

Questo design permette a centinaia di GPU di operare come un sistema AI unificato per l'addestramento e l'implementazione di modelli avanzati.

L'ecosistema dei semiconduttori di Taiwan è fondamentale

Huang ha sottolineato che nulla di questa scala sarebbe possibile senza l'ecosistema hardware e dei semiconduttori di Taiwan.

Il paese ospita molte delle aziende responsabili della produzione di chip, dell'assemblaggio di sistemi server e della costruzione di componenti di rete utilizzati nell'infrastruttura AI. Nvidia lavora a stretto contatto con questi partner e Huang aveva in programma incontri con il presidente di TSMC, C.C. Wei, durante la sua visita.

TSMC è particolarmente importante perché produce i chip avanzati utilizzati nella piattaforma. Nvidia ha confermato che il sistema Vera Rubin include sei nuovi chip prodotti da TSMC e che la piattaforma è già entrata in produzione.

Questo significa che Taiwan non è solo un fornitore: è la spina dorsale manifatturiera che permette a Nvidia di produrre i suoi sistemi AI su scala globale.

Il quadro generale: costruire l'infrastruttura per l'AI

Ciò che rende Vera Rubin potenzialmente il più grande ramp di Nvidia non è solo la sua tecnologia, ma il ruolo che gioca nella crescente economia dell'AI.

Invece di vendere acceleratori isolati, Nvidia sta ora fornendo fabbriche AI complete: rack di CPU, GPU, networking e software progettati per gestire enormi carichi di lavoro AI. Questo approccio aumenta drasticamente le dimensioni e la complessità di ogni sistema venduto.

Con provider cloud globali, imprese e laboratori di ricerca che costruiscono simultaneamente infrastrutture AI, Nvidia prevede che la domanda per queste piattaforme integrate crescerà rapidamente.

Se quella domanda si concretizzerà, Vera Rubin potrebbe rappresentare una delle più grandi implementazioni di sistemi di calcolo avanzato che l'industria abbia mai visto.

Un componente centrale della piattaforma è la nuova CPU Vera di Nvidia, che sostituisce la precedente CPU Grace nei futuri sistemi AI.

Il processore Vera è costruito con:

• 88 core Olympus personalizzati da Nvidia, compatibili con Arm
• Memoria LPDDR5X e larghezza di banda estremamente elevata
• Nvidia Scalable Coherency Fabric per un movimento efficiente dei dati tra sistemi
• Connettività NVLink-C2C per la comunicazione diretta ad alta velocità con le GPU

Invece di concentrarsi puramente sul calcolo generico, il chip è ottimizzato per alimentare i dati ai grandi acceleratori AI e coordinare i carichi di lavoro attraverso cluster di GPU massicci.

GPU Rubin e NVLink 6: costruiti per l'AI su scala rack

Sul lato GPU, l'architettura introduce la GPU Rubin, successore della generazione Blackwell.

I progressi chiave includono:

• Memoria ad alta larghezza di banda HBM4 per addestramento e inferenza AI
• Un nuovo Transformer Engine ottimizzato per i modelli AI moderni
• Networking NVLink 6, che offre fino a 3,6 TB/s di larghezza di banda GPU-to-GPU per GPU

Nvidia afferma che l'architettura Rubin raddoppia le prestazioni della precedente generazione Blackwell, consentendo modelli significativamente più grandi e sistemi di addestramento più rapidi.

A livello di rack, sistemi come il Vera Rubin NVL72 combinano:

• 72 GPU Rubin
• 36 CPU Vera
• ConnectX-9 SuperNIC
• BlueField-4 DPU

Questo design permette a centinaia di GPU di operare come un sistema AI unificato per l'addestramento e l'implementazione di modelli avanzati.

L'ecosistema dei semiconduttori di Taiwan è fondamentale

Huang ha sottolineato che nulla di questa scala sarebbe possibile senza l'ecosistema hardware e dei semiconduttori di Taiwan.

Il paese ospita molte delle aziende responsabili della produzione di chip, dell'assemblaggio di sistemi server e della costruzione di componenti di rete utilizzati nell'infrastruttura AI. Nvidia lavora a stretto contatto con questi partner e Huang aveva in programma incontri con il presidente di TSMC, C.C. Wei, durante la sua visita.

TSMC è particolarmente importante perché produce i chip avanzati utilizzati nella piattaforma. Nvidia ha confermato che il sistema Vera Rubin include sei nuovi chip prodotti da TSMC e che la piattaforma è già entrata in produzione.

Questo significa che Taiwan non è solo un fornitore: è la spina dorsale manifatturiera che permette a Nvidia di produrre i suoi sistemi AI su scala globale.

Il quadro generale: costruire l'infrastruttura per l'AI

Ciò che rende Vera Rubin potenzialmente il più grande ramp di Nvidia non è solo la sua tecnologia, ma il ruolo che gioca nella crescente economia dell'AI.

Invece di vendere acceleratori isolati, Nvidia sta ora fornendo fabbriche AI complete: rack di CPU, GPU, networking e software progettati per gestire enormi carichi di lavoro AI. Questo approccio aumenta drasticamente le dimensioni e la complessità di ogni sistema venduto.

Con provider cloud globali, imprese e laboratori di ricerca che costruiscono simultaneamente infrastrutture AI, Nvidia prevede che la domanda per queste piattaforme integrate crescerà rapidamente.

Se quella domanda si concretizzerà, Vera Rubin potrebbe rappresentare una delle più grandi implementazioni di sistemi di calcolo avanzato che l'industria abbia mai visto.