AnswersPublished22 sources
Vera Rubin moet AI-agents goedkoper en energiezuiniger laten werken
Vera Rubin NVL72 is een vloeistofgekoeld racksysteem met 72 Rubin gpu’s, 36 Vera cpu’s, ConnectX 9 SuperNIC’s en BlueField 4 DPU’s. Nvidia claimt tot 30 keer meer agentische AI doorvoer per megawatt dan GB300 NVL72 en tot 35 keer lagere tokenkosten in de aangehaalde vergelijking.
Gepubliceerd doorBewerkt met GPT-5.6 LunaAfbeeldingen gegenereerd met GPT Image 1.5
Research answer
Key takeaways
- Vera Rubin NVL72 is een vloeistofgekoeld racksysteem met 72 Rubin gpu’s, 36 Vera cpu’s, ConnectX 9 SuperNIC’s en BlueField 4 DPU’s.
- Nvidia claimt tot 30 keer meer agentische AI doorvoer per megawatt dan GB300 NVL72 en tot 35 keer lagere tokenkosten in de aangehaalde vergelijking.
- De cijfers zijn gebaseerd op de SemiAnalysis AgentX benchmark met DeepSeek V4 Pro; ze zijn niet onafhankelijk of peer reviewed gevalideerd.
- De Vera cpu heeft 88 Olympus cores, 176 threads en tot 1,2 TB/s geheugenbandbreedte voor taken rond AI inferentie.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next generation Vera Rubin NVL72 platform, Vera CPU, Scale In networking, and partnerships, including the. Article summary: Nvidia’s announcement positions Vera Rubin as a rack scale, full stack “AI factory,” not merely a faster GPU generation: it combines custom GPUs, CPUs, scale up and scale out networking, DPUs, and power management softwa. Topic tags: general web, llm, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Nvidia presenteert Vera Rubin niet als alleen de volgende generatie gpu’s, maar als een complete, rackschaalige ‘AI-fabriek’. Het platform combineert eigen gpu’s en cpu’s met netwerkchips, dataprocessors, koeling en software voor energiebeheer. Het doel: meer nuttig werk van AI-agents leveren binnen dezelfde stroom- en capaciteitsgrenzen.
De opvallendste prestatiecijfers zijn wel Nvidia’s eigen claims uit een door het bedrijf aangehaalde benchmark. Ze vormen geen onafhankelijke, peer-reviewed validatie. 8
Wat is Vera Rubin NVL72?
Een Vera Rubin NVL72-rack bevat:
- 72 Rubin-gpu’s;
- 36 Vera-cpu’s;
- ConnectX-9 SuperNIC’s voor netwerkverkeer;
- BlueField-4-DPU’s voor onder meer data-, opslag- en beveiligingstaken;
- de zesde generatie NVLink-switching;
- vloeistofkoeling.
De 72 gpu’s moeten samen functioneren als één groot scale-up-domein: een nauw gekoppelde computer binnen één rack. Voor verbindingen tussen racks gebruikt het platform Quantum-X800 InfiniBand of Spectrum-X Ethernet. 3
6
Nvidia claimt grote efficiëntiewinst voor AI-agents
Volgens Nvidia levert Vera Rubin NVL72 bij agentische AI-workloads tot 30 keer meer doorvoer per megawatt dan GB300 NVL72. In dezelfde vergelijking zouden de tokenkosten tot 35 keer lager uitvallen. 8
9
Nvidia heeft daarnaast voor Rubin in bredere zin een tot tien keer lagere inferentietokenkost ten opzichte van Blackwell geclaimd. 11
Een agentische AI-toepassing werkt anders dan een eenvoudige chatbot die één antwoord genereert. Een agent kan herhaaldelijk redeneren, hulpmiddelen aanroepen, code uitvoeren, informatie ophalen en nieuwe modelrondes starten. Daardoor worden niet alleen gpu-rekenkracht, maar ook cpu-capaciteit, geheugenbandbreedte en de snelheid van de verbinding tussen onderdelen belangrijk.
AgentX en DeepSeek V4 Pro
De meting gebruikte de AgentX-workload van SemiAnalysis. Die benchmark speelt opgenomen, productieachtige programmeersessies met AI-agents opnieuw af, inclusief groeiende context, toolcalls en het starten van subagents. Nvidia draaide de test met DeepSeek V4 Pro als model. 8
9
Dat maakt de vergelijking relevanter voor interactieve, lange inferentietaken dan een test die uitsluitend naar theoretische gpu-flops kijkt. Tegelijk blijven de uitkomsten afhankelijk van de gekozen configuratie, het model, de contextlengte en de doelstelling voor reactiesnelheid.
Geen hard cijfer voor Hopper of kosten per miljoen tokens
De beschikbare bronnen onderbouwen de vergelijking met GB300, maar leveren geen rechtstreeks vergelijkbaar cijfer uit een primaire bron voor Hopper. Ook is er geen exact, onafhankelijk bevestigd dollarbedrag voor de kosten per één miljoen tokens beschikbaar.
Agentische workflows kunnen veel meer tokens gebruiken dan een eenmalige chatvraag, omdat ze uit meerdere redeneer- en toolrondes bestaan. De genoemde kostenclaims moeten daarom worden gelezen als workload- en configuratieafhankelijk, niet als een universele prijs voor AI-inferentie.
DSX MaxLPS: meer tokens uit elke megawatt
Nvidia koppelt Vera Rubin aan DSX, een ontwerp voor een volledige AI-fabriek. Dat strekt zich uit van chips en systemen tot software, datacentervoorzieningen en technologie van partners.
De software DSX MaxLPS moet de token-doorvoer per eenheid stroom maximaliseren. Het doel is dus niet simpelweg om hardware op het hoogste momentane vermogensniveau te laten draaien, maar om de beschikbare energie zo te verdelen dat er zo veel mogelijk bruikbare tokens uit komen. 12
15
Dat kan vooral relevant worden wanneer de beperkende factor niet langer de beschikbaarheid van accelerators is, maar de stroomaansluiting, warmteafvoer of koelcapaciteit van een datacenter.
Vera-cpu heeft 88 Olympus-cores
De Vera is Nvidia’s eigen Armv9.2-compatibele cpu voor infrastructuur rond AI-agents. De chip beschikt over 88 Olympus-cores en 176 Spatial Multithreading-threads. 2
10
Nvidia richt de processor op taken die rondom modelinferentie plaatsvinden, zoals:
- dataverwerking en ETL;
- orkestratie en taakplanning;
- retrieval en datatoegang;
- toolgebruik;
- het uitvoeren van code in een sandbox;
- simulatie.
De gedachte daarachter is dat de cpu niet langer slechts een bijrol speelt naast de gpu. Bij complexe agentische workflows moet de cpu veel gelijktijdige taken afhandelen zonder de accelerators onnodig te laten wachten.
Geheugen en interconnect
Vera gebruikt SOCAMM2 LPDDR5X-geheugen met tot 1,2 TB/s totale geheugenbandbreedte, oftewel tot 14 GB/s per core. De tweede generatie van Nvidia’s Scalable Coherency Fabric verbindt de 88 cores met de gedeelde L3-cache en het geheugensysteem. Nvidia noemt daarbij tot 3,4 TB/s bisection-bandbreedte en een unified L3-cache van 164 MB. 7
8
Vergeleken met Grace claimt Nvidia voor Vera 2,4 keer zoveel geheugenbandbreedte, drie keer zoveel geheugencapaciteit en twee keer zoveel NVLink-C2C-bandbreedte voor coherente communicatie tussen cpu en gpu. 1
Wat betekent ‘Scale-In’ in Nvidia’s netwerkverhaal?
Nvidia gebruikt drie verschillende netwerkniveaus:
- Scale-in of scale-up: NVLink 6 laat de 72 gpu’s samenwerken als één nauw gekoppelde computer. Nvidia specificeert 3,6 TB/s bidirectionele gpu-naar-gpu-bandbreedte per gpu en 260 TB/s op rackniveau.
3
- Scale-out: Quantum-X800 InfiniBand en Spectrum-X Ethernet verbinden meerdere racks tot grotere clusters.
- Offload van data en infrastructuur: ConnectX-9 en BlueField-4 nemen netwerk-, opslag-, beveiligings- en andere datapadfuncties over.
Scale-in vervangt scale-out dus niet. Het zorgt ervoor dat de accelerators binnen één rack zo nauw mogelijk samenwerken, terwijl scale-out de verbinding naar andere racks verzorgt. De SuperNIC’s en DPU’s moeten ondertussen voorkomen dat algemene infrastructuurtaken onnodig beslag leggen op de cpu’s en gpu’s.
SpaceXAI wil Vera inzetten voor Grok en mogelijk in de ruimte
Nvidia zegt dat SpaceXAI Vera-cpu’s zal inzetten voor de volgende generatie agentische AI-workloads. SpaceXAI wil bovendien de infrastructuur achter Grok uitbreiden met Vera Rubin terwijl het bedrijf mikt op reken capaciteit op gigawattschaal. 14
De samenwerking moet zich ook uitstrekken tot het geplande Starmind-project voor computergebruik in een baan om de aarde. Daarvoor zou Nvidia-hardware de basis vormen van een voor de ruimte geoptimaliseerde compute-payload. Het gaat om een geplande inzet, niet om bewijs dat er nu al een operationeel AI-datacenter in een baan om de aarde draait. 14
12
Waarom dit strategisch belangrijk is voor Nvidia
Als de efficiëntieclaims zich vertalen naar echte klantimplementaties, draait de belangrijkste winst niet alleen om hogere modelprestaties. Het gaat om meer bruikbaar agentwerk per schaarse megawatt, met mogelijk lagere kosten voor elektriciteit, koeling, netwerken en kapitaal per gegenereerde token.
Nvidia schuift daarmee zijn concurrentiegrens verder op. Het bedrijf verkoopt niet alleen gpu’s, maar ook eigen Arm-cpu’s, coherente cpu-gpu-systemen, rackschaalige switches, DPU’s en software voor het beheer van complete AI-fabrieken.
Die vergaande integratie kan Nvidia sterker maken tegenover concurrerende gpu- en cpu-leveranciers. Daar staat tegenover dat klanten zich ook sterker vastleggen op Nvidia’s architectuur en softwarestack. De grote vraag is daarom niet alleen of Vera Rubin sneller is, maar of Nvidia’s volledige platform in de praktijk werkelijk meer AI-werk uit iedere megawatt weet te halen.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Vera Rubin moet AI-agents goedkoper en energiezuiniger laten werken"?
Vera Rubin NVL72 is een vloeistofgekoeld racksysteem met 72 Rubin gpu’s, 36 Vera cpu’s, ConnectX 9 SuperNIC’s en BlueField 4 DPU’s.
What are the key points to validate first?
Vera Rubin NVL72 is een vloeistofgekoeld racksysteem met 72 Rubin gpu’s, 36 Vera cpu’s, ConnectX 9 SuperNIC’s en BlueField 4 DPU’s. Nvidia claimt tot 30 keer meer agentische AI doorvoer per megawatt dan GB300 NVL72 en tot 35 keer lagere tokenkosten in de aangehaalde vergelijking.
What should I do next in practice?
De cijfers zijn gebaseerd op de SemiAnalysis AgentX benchmark met DeepSeek V4 Pro; ze zijn niet onafhankelijk of peer reviewed gevalideerd.