AnswersPublished17 sources
NVIDIA hävdar 30 gånger högre agentisk AI-kapacitet per megawatt
NVIDIA uppger att Vera Rubin NVL72 nådde upp till 30 gånger högre genomströmning per megawatt och upp till 35 gånger lägre kostnad per token än GB300 NVL72 i SemiAnalysis AgentX med DeepSeek V4 Pro. Den direkta jämförelsen gäller Vera Rubin mot GB300 NVL72.
Publicerad avRedigerad med GPT-5.6 LunaBilder genererade med GPT Image 1.5
Research answer
Key takeaways
- NVIDIA uppger att Vera Rubin NVL72 nådde upp till 30 gånger högre genomströmning per megawatt och upp till 35 gånger lägre kostnad per token än GB300 NVL72 i SemiAnalysis AgentX med DeepSeek V4 Pro.
- Den direkta jämförelsen gäller Vera Rubin mot GB300 NVL72. NVIDIA säger separat att GB300 kan ge upp till 15 gånger högre genomströmning per megawatt än Hopper i DeepSeek V4 Pro.
- Plattformen kombinerar 72 Rubin GPU:er med 36 Vera CPU:er, medan BlueField 4 DPU:er tar hand om bland annat nätverk, säkerhet, orkestrering och dataflytt.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next-generation Vera Rubin NVL72 platform’s efficiency for agentic AI workloads—including its claimed inf. Article summary: NVIDIA’s headline claim is that Vera Rubin NVL72 can deliver up to 30× higher agentic-inference throughput per megawatt than GB300 NVL72 and reduce cost per token by up to 35×, based on its stated SemiAnalysis AgentX res. Topic tags: general, documentation, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
NVIDIA positionerar Vera Rubin NVL72 som en AI-infrastrukturplattform för arbetslaster där AI-agenter arbetar i flera steg: de genererar text, anropar verktyg, kör kod och bygger upp allt större kontext. I resultat som NVIDIA har publicerat uppges systemet ge upp till 30 gånger högre genomströmning per megawatt än GB300 NVL72 och sänka tokenkostnaden med upp till 35 gånger i ett AgentX-test med DeepSeek V4 Pro.
Det är stora siffror, men de bör läsas med viss försiktighet. Det underlag som finns här anger ingen konkret dollarkostnad per miljon token för Vera Rubin och visar inte heller någon oberoende, helt jämförbar verifiering av toppresultaten.
Vad NVIDIA faktiskt hävdar
NVIDIAs huvudbudskap är:
- Upp till 30 gånger högre agentisk AI-genomströmning per megawatt än med GB300 NVL72.
- Upp till 35 gånger lägre kostnad per token, vilket motsvarar samma faktor när kostnaden uttrycks per miljon token.
- Testet kördes med DeepSeek V4 Pro i arbetslasten SemiAnalysis AgentX.
AgentX är inte utformat som ett kort fråge- och svarstest. Arbetslasten återskapar kodningssessioner av produktionsliknande typ, med växande kontext, verktygsanrop och skapande av underagenter. 6
Det är en viktig skillnad. En agent kan först formulera ett svar, sedan granska resultatet, anropa ett externt verktyg, köra kod, skapa en ny uppgift och fortsätta resonera med betydligt mer kontext. Därför måste infrastrukturen hantera mer än modellens första svar. Belastningen ökar även på minne, nätverk, processorer och energiförsörjning – inte bara på själva GPU:n.
Inte en enkel 450 gånger-jämförelse med Hopper
Den direkta 30-gångerjämförelsen gäller Vera Rubin NVL72 mot GB300 NVL72, inte Vera Rubin mot Hopper. I sitt material om AgentX uppger NVIDIA separat att GB300 NVL72 ger upp till 15 gånger högre genomströmning per megawatt än ett H200-baserat Hopper-system med DeepSeek V4 Pro.
Det ger en bild av den påstådda utvecklingen mellan generationerna, men faktorerna ska inte multipliceras till ett enda påstående om 450 gånger högre prestanda. Det handlar om två separata jämförelser med formuleringen ”upp till”, och det tillgängliga materialet innehåller ingen gemensam tabell där Vera Rubin, GB300 och Hopper testas under identiska förhållanden.
Samma reservation gäller kostnaden. Underlaget stöder NVIDIAs påstående om en maximal minskning på 35 gånger jämfört med GB300, men anger inte något konkret pris i dollar per miljon token för Vera Rubin eller en specifik kostnadsjämförelse mellan Vera Rubin och Hopper.
Vad ingår i Vera Rubin NVL72?
NVL72 är ett rackskaligt system med 72 Rubin-GPU:er och 36 Vera-CPU:er, ConnectX-9 SuperNIC:er och BlueField-4-DPU:er. NVIDIA beskriver NVLink 6 som systemets interna uppkoppling, medan Quantum-X800 InfiniBand och Spectrum-X Ethernet används för att skala ut till fler system. 2
3
Tanken är att racket ska fungera som en tätt integrerad beräkningsenhet snarare än som en samling fristående acceleratorsservrar. Det är särskilt relevant för agentiska arbetslaster, där resultatet beror på att GPU:erna hela tiden får tillgång till data samtidigt som CPU-körning, nätverk och lagring samordnas.
Därför spelar Vera-CPU:n roll för AI-agenter
Vera är en 88-kärnig processor baserad på NVIDIA-designade Olympus-kärnor. Den använder Spatial Multithreading och LPDDR5X-minne med en minnesbandbredd på upp till 1,2 TB/s. NVIDIA uppger att Vera kan slutföra uppgifter upp till 1,8 gånger snabbare än x86-processorer i arbetslaster som bland annat omfattar agentisk AI, förstärkningsinlärning och databehandling. 1
5
Processorn är inte bara tänkt att köra ett vanligt värdoperativsystem. Vera ska hantera mycket av arbetet runt modellinferensen, bland annat:
- verktygsanvändning,
- kodkörning,
- sandboxning och orkestrering,
- databearbetning och analys,
- simulering och förstärkningsinlärning.
Genom att snabba upp dessa delar vill NVIDIA hålla GPU:erna fokuserade på inferens och minska flaskhalsarna i den övriga agentloopen. 1
5
9
BlueField-4: infrastrukturen som NVIDIA kallar ”Scale-In”
BlueField-4 är NVIDIAs särskilda komponent för infrastrukturhantering. DPU:n kombinerar en 64-kärnig Grace-CPU, LPDDR5X-minne och ConnectX-9-nätverk med anslutningar på upp till 800 Gb/s. 1
Enligt NVIDIA flyttar BlueField-4 funktioner som styrning, säkerhet, dataflytt och orkestrering från värdprocessorerna och GPU:erna. DPU:n blir därmed ett infrastrukturlager som ska bidra till isolerad, säker och förutsägbar drift i en storskalig AI-fabrik. 1
Det är grunden för NVIDIAs ”Scale-In”-beskrivning: effektiviteten avgörs inte enbart av GPU-kretsen. Den påverkas också av hur väl racket hanterar kommunikation, lagring, schemaläggning och säkerhet utan att acceleratorerna behöver använda kapacitet till dessa uppgifter.
Hur DSX MaxLPS passar in
DSX MaxLPS är programvara inom NVIDIAs bredare DSX-koncept för AI-fabriker – inte en separat Vera Rubin-GPU eller CPU. NVIDIA beskriver lösningen som en uppsättning tekniker för att maximera antalet token per megawatt inom en fast effektbudget. Den kombinerar vätskekylning med optimeringar i racket, så att operatörer kan köra fler GPU:er nära deras mest energieffektiva driftpunkter.
Det gör DSX MaxLPS relevant för 30-gångerpåståendet. Måttet redovisas på AI-fabriksnivå, där kylning, rackkonfiguration och infrastrukturprogramvara kan påverka hur många token som produceras per energienhet. Det tillgängliga underlaget visar däremot inte hur stor del av förbättringen som kommer från kisel, programvara, testkonfiguration eller kombinationen av allt detta.
SpaceXAI planerar Vera Rubin-utbyggnad
NVIDIA och SpaceXAI uppger att SpaceXAI planerar att använda Vera-CPU:er i nästa generation av agentiska AI-arbetslaster och bygga ut infrastrukturen bakom Grok med Vera Rubin. 4
5
Bolagen har även beskrivit planer på att skicka ett optimerat Vera Rubin NVL72-system till omloppsbana för en första Starmind AI-satellit. 4
Detta är planerade utplaceringar. Uppgifterna visar inte att ett satellitsystem baserat på NVL72 redan har skjutits upp eller tagits i drift.
Slutsatsen för AI-infrastrukturköpare
Vera Rubin NVL72 är intressant eftersom NVIDIA försöker mäta AI-infrastruktur utifrån hur agenter faktiskt arbetar: i långa, iterativa sessioner med stora mängder kontext, verktyg, kod och underagenter. För just den typen av arbetslast rapporterar NVIDIA upp till 30 gånger högre genomströmning per megawatt och upp till 35 gånger lägre tokenkostnad än GB300 NVL72.
För köpare och driftteam är den avgörande frågan därför inte om multipeln låter imponerande. Det viktiga är om resultatet håller för den egna modellen, svarstidsnivån, kontextlängden, samtidigheten, effektbudgeten och den totala kostnadsmodellen. Underlaget fastställer NVIDIAs påstående och beskriver arkitekturen bakom det – men ger ännu inget slutgiltigt, oberoende facit.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "NVIDIA hävdar 30 gånger högre agentisk AI-kapacitet per megawatt"?
NVIDIA uppger att Vera Rubin NVL72 nådde upp till 30 gånger högre genomströmning per megawatt och upp till 35 gånger lägre kostnad per token än GB300 NVL72 i SemiAnalysis AgentX med DeepSeek V4 Pro.
What are the key points to validate first?
NVIDIA uppger att Vera Rubin NVL72 nådde upp till 30 gånger högre genomströmning per megawatt och upp till 35 gånger lägre kostnad per token än GB300 NVL72 i SemiAnalysis AgentX med DeepSeek V4 Pro. Den direkta jämförelsen gäller Vera Rubin mot GB300 NVL72. NVIDIA säger separat att GB300 kan ge upp till 15 gånger högre genomströmning per megawatt än Hopper i DeepSeek V4 Pro.
What should I do next in practice?
Plattformen kombinerar 72 Rubin GPU:er med 36 Vera CPU:er, medan BlueField 4 DPU:er tar hand om bland annat nätverk, säkerhet, orkestrering och dataflytt.