Rubin Ultra mogelijk met minder geheugen door krappe HBM-voorraad

Nvidia onderzoekt naar verluidt versies van zijn AI-accelerator Rubin Ultra met minder high-bandwidth memory (HBM), het snelle geheugen dat dicht bij de processor zit. Berichten noemen prototypes met 192 GB of 256 GB HBM per GPU. Nvidia heeft de definitieve specificaties niet bekendgemaakt. 145

Dat zou een opvallende keuze zijn: de gemelde geheugencapaciteiten liggen onder de 288 GB van standaard Rubin en ver onder het oorspronkelijke doel van ongeveer 1 TB voor Rubin Ultra. Die cijfers gaan over ontwerpen en prototypes in verschillende stadia; het is dus geen bevestigde vergelijking tussen twee producten die al klaar zijn voor verkoop. 145

Welke geheugenconfiguraties onderzoekt Nvidia?

Volgens TrendForce is Nvidia verder gaan kijken dan het oorspronkelijke uitgangspunt van HBM4E-stapels met twaalf geheugenchips hoog. De alternatieven zijn HBM4E met acht lagen, HBM4 met twaalf lagen en HBM4 met acht lagen. De definitieve configuratie is nog niet vastgesteld. 2

Los daarvan melden bronnen dat Rubin Ultra-prototypes 192 GB of 256 GB HBM per GPU hebben. Sommige zouden HBM4 gebruiken in plaats van de nieuwere HBM4E. Die capaciteiten zijn dus geen bevestigde productspecificaties, maar gemelde testvarianten. 15

Hoe verhouden de cijfers zich tot elkaar?

Configuratie	Gemelde HBM-capaciteit per GPU	Wat erover is gemeld
Standaard Rubin	288 GB	Het vergelijkingspunt dat in berichtgeving over Rubin Ultra wordt genoemd. 1
Prototypes van Rubin Ultra	192–256 GB	Gemelde capaciteiten van testversies; geen definitieve productspecificatie. 5
Oorspronkelijk doel voor Rubin Ultra	Ongeveer 1 TB	De eerder beschreven ambitie voor het ontwerp. 4

Een Rubin Ultra-versie met 192 GB zou een derde minder geheugen hebben dan standaard Rubin. Ook 256 GB blijft onder de gemelde 288 GB. Beide cijfers liggen ver onder het oorspronkelijke doel van ongeveer 1 TB. Wel kunnen die eerdere ambitie en de recentere prototypeberichten op verschillende ontwerpuitgangspunten zijn gebaseerd. 145

Waarom kan de geheugentoevoer het ontwerp beïnvloeden?

TrendForce noemt beperkingen in de toelevering als reden om alternatieven te onderzoeken. Het verwacht dat het DRAM-aanbod in 2027 krap blijft en wijst ook op onzekerheid rond het kwalificeren van HBM4E-stapels met twaalf lagen. Andere geheugentypes of stapelhoogtes kunnen Nvidia meer opties geven als de nieuwste HBM niet tijdig in voldoende hoeveelheden beschikbaar is. 2

Minder HBM per accelerator zou de benodigde hoeveelheid geheugen voor één chip kunnen verlagen. Dat betekent echter niet automatisch dat de accelerator goedkoper wordt, dat Nvidia de prijs verlaagt of dat AI-cloudbedrijven hun kosten zien dalen. De beschikbare berichten geven geen definitieve chipprijs of prijs voor cloudgebruik. De uiteindelijke kosten hangen ook af van de verdere configuratie en de beschikbaarheid van onderdelen.

Wat kan minder geheugen betekenen voor AI-modellen?

De HBM-capaciteit bepaalt mede hoeveel modelgegevens en tijdelijke werkgegevens op één GPU passen. Bij minder geheugen kan het voor sommige grote of geheugenintensieve taken nodig zijn om het werk over meer accelerators te verdelen, of een andere manier van inzetten te kiezen. Meer GPU’s inzetten kan een deel van het voordeel van een lager geheugengebruik per GPU tenietdoen. 56

Dat is een mogelijke consequentie van de gemelde capaciteiten, geen gemeten prestatieresultaat voor een definitief Rubin Ultra-product. De berichtgeving geeft geen uitsluitsel over prestaties bij specifieke modellen of toepassingen.

Staat dit in verband met uitgestelde gamingkaarten?

Een apart bericht meldt dat Nvidia’s Rubin-gebaseerde RTX 60-gamingkaarten mogelijk pas in 2028 verschijnen, later dan de eerder verwachte periode aan het einde van 2027. Dat bericht baseert zich op een hardwaregerucht; Nvidia zegt niet in te gaan op geruchten of niet-aangekondigde producten. Er is geen bewijs dat de Rubin Ultra-geheugentests de mogelijke verschuiving hebben veroorzaakt. 18