Server AI Nvidia più costosi di oltre il 15%: il nodo della memoria

La distinzione è importante per chi acquista infrastruttura AI. Un rack progettato per gestire grandi quantità di dati potrebbe subire un aumento diverso rispetto a una configurazione con meno memoria. Le informazioni disponibili non consentono quindi di calcolare il prezzo finale di ogni server Rubin o Blackwell.

Perché HBM e DRAM pesano sempre di più

Gli acceleratori AI hanno bisogno di memoria ad alta larghezza di banda per trasferire rapidamente i dati tra processore e memoria di lavoro. Nei sistemi più densi, alla HBM si aggiungono grandi quantità di memoria convenzionale, facendo della memoria una componente sempre più rilevante del costo complessivo.

Un’analisi citata nei report sulla piattaforma Vera Rubin stima che i semiconduttori di memoria possano rappresentare circa il 62% del costo di un superchip Vera Rubin. Si tratta però di una stima del costo dei componenti, non di un prezzo di vendita Nvidia confermato.

Morgan Stanley ha inoltre stimato in circa 2 milioni di dollari il costo della memoria contenuta in un rack Vera Rubin VR200 NVL72: circa il 435% in più rispetto al contenuto di memoria stimato per un rack GB300. Il dato aiuta a spiegare perché il prezzo di un sistema possa crescere in modo significativo anche se il rincaro effettivo varia da una configurazione all’altra.

Il confronto tra i rack Vera Rubin e Blackwell

Le stime disponibili prima delle spedizioni indicano un costo di circa 7,8 milioni di dollari per un rack Vera Rubin VR200 NVL72, contro circa 4 milioni di dollari per un rack Grace Blackwell GB300 NVL72.

Questi numeri vanno letti con cautela:

• sono stime di analisti e operatori del settore, non prezzi di listino pubblicati da Nvidia;
• il confronto riguarda il GB300, non specificamente il GB200;
• descrivono l’economia del sistema o dei suoi componenti e non rappresentano necessariamente il prezzo pagato da ogni cliente.

Per questo motivo, le informazioni pubbliche indicano la direzione del divario di costo, ma non offrono un confronto definitivo tra VR200 e GB200 né una tabella degli aumenti applicati cliente per cliente.

Il tempismo prima dei risultati del 26 agosto

La notizia è emersa a pochi giorni dalla pubblicazione dei risultati del secondo trimestre fiscale di Nvidia, prevista per il 26 agosto. Nel trimestre precedente l’azienda aveva registrato 81,6 miliardi di dollari di ricavi, di cui circa 75,2 miliardi dal comparto dei data center, con un margine lordo vicino al 75%.

Il tempismo rende il tema rilevante sia per gli investitori sia per i responsabili degli acquisti tecnologici. Prezzi dei server più elevati potrebbero aiutare Nvidia ad assorbire l’inflazione dei componenti, ma aumenterebbero anche il capitale necessario a cloud provider e aziende impegnati nella costruzione di grandi cluster AI. Le fonti disponibili non stabiliscono quale parte dell’aumento finirebbe nei margini di Nvidia.

Perché i grandi operatori potrebbero cercare alternative

Un aumento dei prezzi dei sistemi Nvidia potrebbe rafforzare l’interesse di Amazon, Microsoft, Google e Meta per chip progettati internamente o per acceleratori di altri fornitori. I chip proprietari consentono di ottimizzare l’hardware per carichi di lavoro specifici e possono offrire ai grandi acquirenti una maggiore diversificazione della fornitura e più potere negoziale.

Il vantaggio competitivo di Nvidia, però, non dipende soltanto dalle GPU. A rendere complessa la sostituzione contribuiscono soprattutto:

• CUDA, l’ambiente software ampiamente utilizzato dagli sviluppatori;
• NVLink, la tecnologia per collegare gli acceleratori ad alta velocità;
• l’integrazione tra hardware, software, networking e sistemi completi.

Una fonte di mercato stima che Nvidia controlli oltre l’80% del segmento degli acceleratori AI di fascia alta, anche se le quote variano a seconda di come viene definito il mercato.

Di conseguenza, un cliente può adottare gli acceleratori AMD della famiglia MI300 o il silicio sviluppato internamente da un cloud provider per determinati carichi di lavoro. Tuttavia, migrare applicazioni già ottimizzate per CUDA e riprogettare l’architettura dei sistemi può richiedere costi e tempi significativi. Le evidenze disponibili rendono plausibile una maggiore diversificazione, ma non dimostrano che AMD o i chip proprietari sostituiranno rapidamente Nvidia nei grandi data center AI.

Che cosa resta da verificare

Il rapporto di Bloomberg sostiene una conclusione circoscritta ma rilevante: alcuni grandi clienti Nvidia sarebbero stati informati di aumenti superiori al 15% in molti casi per i sistemi spediti all’inizio del prossimo anno, con variazioni legate alla generazione del chip e alla configurazione della memoria.

Non è invece pubblicamente dimostrato:

• che l’aumento sia uguale per tutti i sistemi;
• quali siano i prezzi esatti delle configurazioni Vera Rubin e Grace Blackwell;
• quali condizioni siano state applicate ai singoli clienti;
• quale sia il confronto verificato tra VR200 e GB200;
• che Nvidia o i clienti interessati abbiano confermato formalmente gli avvisi.

Reuters ha presentato la notizia come un’indiscrezione di Bloomberg e ha dichiarato di non aver potuto verificarla subito. Fino alla pubblicazione di dettagli da parte di Nvidia o dei clienti coinvolti, la lettura più prudente è che l’aumento dei costi della memoria stia mettendo sotto pressione l’economia dei server AI, mentre l’impatto commerciale preciso resta riservato.