AnswersPublished17 sources
NVIDIA hævder 30 gange højere agentisk AI-gennemstrømning med Vera Rubin
NVIDIA siger, at Vera Rubin NVL72 leverede op til 30 gange højere gennemstrømning for agentisk AI pr. Den direkte sammenligning er mellem Vera Rubin og GB300 NVL72.
Udgivet afRedigeret med GPT-5.6 LunaBilleder genereret med GPT Image 1.5
Research answer
Key takeaways
- NVIDIA siger, at Vera Rubin NVL72 leverede op til 30 gange højere gennemstrømning for agentisk AI pr.
- Den direkte sammenligning er mellem Vera Rubin og GB300 NVL72. NVIDIA oplyser separat, at GB300 kan levere op til 15 gange højere gennemstrømning pr.
- NVL72 kombinerer 72 Rubin GPU'er med 36 Vera CPU'er, mens BlueField 4 DPU'er håndterer blandt andet netværk, sikkerhed, orkestrering og dataflytning.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next-generation Vera Rubin NVL72 platform’s efficiency for agentic AI workloads—including its claimed inf. Article summary: NVIDIA’s headline claim is that Vera Rubin NVL72 can deliver up to 30× higher agentic-inference throughput per megawatt than GB300 NVL72 and reduce cost per token by up to 35×, based on its stated SemiAnalysis AgentX res. Topic tags: general, documentation, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
NVIDIA positionerer Vera Rubin NVL72 som en AI-infrastrukturplatform til arbejdsopgaver, hvor AI-agenter gentagne gange genererer tokens, kalder værktøjer, kører kode og opbygger stadig større kontekst. I resultater offentliggjort af NVIDIA leverede systemet op til 30 gange højere gennemstrømning pr. megawatt end GB300 NVL72 og reducerede tokenomkostningen med op til 35 gange i en AgentX-test med DeepSeek V4 Pro.
Det er markante påstande, men de bør læses med forbehold. Det tilgængelige materiale angiver ikke en konkret dollarpris pr. million tokens for Vera Rubin, og det dokumenterer heller ikke en uafhængig sammenligning, hvor alle systemer er testet på helt identiske vilkår.
Hvad hævder NVIDIA konkret?
NVIDIAs hovedtal er:
- Op til 30 gange højere gennemstrømning for agentisk AI pr. megawatt end GB300 NVL72.
- Op til 35 gange lavere tokenomkostning end GB300 NVL72 – også når omkostningen udtrykkes pr. million tokens.
- Test med DeepSeek V4 Pro på arbejdsbelastningen SemiAnalysis AgentX.
AgentX er ikke en traditionel test med et enkelt spørgsmål og ét svar. Den afspiller produktionslignende kodningssessioner, hvor konteksten vokser, agenter kalder værktøjer og opretter underagenter. 6
Det er en vigtig forskel. En agent kan først formulere et svar, derefter undersøge resultatet, kalde et eksternt værktøj, køre kode, oprette en ny opgave og fortsætte med en langt større kontekst. Derfor skal infrastrukturen håndtere mere end modellens første svar. Det lægger pres på hukommelse, netværk, CPU'er og strømforbrug – ikke kun på selve GPU'en.
Vera Rubin sammenlignet med Hopper
Den direkte 30-gange-sammenligning er mellem Vera Rubin NVL72 og GB300 NVL72 – ikke mellem Vera Rubin og Hopper. I relateret materiale om AgentX skriver NVIDIA separat, at GB300 NVL72 leverer op til 15 gange højere gennemstrømning pr. megawatt end et H200 Hopper-system med DeepSeek V4 Pro.
Det giver et billede af den mulige udvikling mellem generationerne, men tallene må ikke uden videre ganges sammen til en påstand om 450 gange højere ydelse. Der er tale om separate sammenligninger med formuleringen »op til«, og det tilgængelige materiale indeholder ikke én samlet testtabel, hvor Vera Rubin, GB300 og Hopper er målt under identiske forhold.
Den samme begrænsning gælder omkostningerne. Dokumentationen understøtter NVIDIAs påstand om en reduktion på op til 35 gange sammenlignet med GB300, men angiver ikke en konkret Vera Rubin-pris pr. million tokens eller et specifikt omkostningstal for Vera Rubin over for Hopper.
Hvad består Vera Rubin NVL72 af?
NVL72 er et system i rack-skala med 72 Rubin-GPU'er og 36 Vera-CPU'er samt ConnectX-9 SuperNIC'er og BlueField-4-DPU'er. NVIDIA beskriver NVLink 6 som forbindelsen mellem komponenterne i systemet, mens Quantum-X800 InfiniBand og Spectrum-X Ethernet bruges til at skalere ud til flere systemer. 2
3
Tanken er, at hele racket skal fungere som én tæt integreret computerplatform frem for som en samling uafhængige acceleratorservere. Det er særligt relevant for agentiske arbejdsbelastninger, hvor ydelsen afhænger af, om GPU'erne konstant får leveret data, samtidig med at CPU-kørsel, netværk og lagring koordineres.
Vera-CPU'en skal håndtere arbejdet omkring modellen
Vera er en 88-kernet CPU baseret på NVIDIA-designede Olympus-kerner. Den anvender Spatial Multithreading og LPDDR5X-hukommelse med op til 1,2 TB/s hukommelsesbåndbredde. NVIDIA siger, at Vera kan gennemføre opgaver op til 1,8 gange hurtigere end x86-CPU'er på arbejdsbelastninger som agentisk AI, reinforcement learning og databehandling. 1
5
CPU'en er ikke kun tænkt som vært for et almindeligt operativsystem. Vera skal også håndtere en stor del af arbejdet omkring modelinferens, blandt andet:
- Brug af værktøjer
- Kørsel af kode
- Sandboxing og orkestrering
- Databehandling og analyse
- Simulation og reinforcement learning
Ved at accelerere disse opgaver forsøger NVIDIA at holde GPU'erne fokuseret på inferens og samtidig mindske flaskehalse i resten af agentens arbejdsloop. 1
5
9
BlueField-4 og infrastrukturen »Scale-In«
BlueField-4 er NVIDIAs komponent til behandling af infrastruktur. DPU'en kombinerer en 64-kernet Grace-CPU, LPDDR5X-hukommelse og ConnectX-9-netværk med forbindelser på op til 800 Gb/s. 1
NVIDIA siger, at BlueField-4 flytter funktioner som styring, sikkerhed, dataflytning og orkestrering væk fra værts-CPU'er og GPU'er. På den måde fungerer DPU'en som et infrastrukturlag, der skal bidrage til isoleret, sikkert og forudsigeligt arbejde på tværs af en stor AI-fabrik. 1
Det er baggrunden for NVIDIAs »Scale-In«-tankegang: Effektiviteten afhænger ikke kun af GPU-chippen. Den afhænger også af, hvor effektivt racket håndterer kommunikation, lagring, planlægning og sikkerhed uden at bruge acceleratorernes kapacitet på disse opgaver.
Hvor passer DSX MaxLPS ind?
DSX MaxLPS er software i NVIDIAs bredere DSX-tilgang til AI-fabrikker – ikke en separat Vera Rubin-GPU eller CPU. NVIDIA beskriver det som en samling teknologier, der skal maksimere tokenydelsen pr. megawatt inden for et fast strømforbrug. Tilgangen kombinerer væskekøling med optimering i racket, så operatører kan køre flere GPU'er tættere på deres energieffektive driftspunkter.
Det gør DSX MaxLPS relevant for påstanden om højere effektivitet. Målet måles på AI-fabriksniveau, hvor køling, rackkonfiguration og infrastruktursoftware alle kan påvirke, hvor mange tokens der produceres pr. energienhed. Det tilgængelige materiale viser dog ikke, hvor stor en del af forbedringen der skyldes selve chipsene, softwarestakken, testopsætningen eller kombinationen af de tre.
SpaceXAI planlægger Vera Rubin i rummet
NVIDIA og SpaceXAI har oplyst, at SpaceXAI vil bruge Vera-CPU'er til næste generation af agentiske AI-arbejdsbelastninger og udvide infrastrukturen bag Grok med Vera Rubin. 4
5
Selskaberne har også beskrevet planer om at sende et optimeret Vera Rubin NVL72-system i kredsløb som grundlag for en første generation af Starmind AI-satellitter. 4
Der er tale om planlagte installationer. Udmeldingerne er ikke dokumentation for, at et orbitalt NVL72-baseret system allerede er opsendt eller taget i brug.
Konklusionen for virksomheder og datacenteroperatører
Vera Rubin NVL72 er interessant, fordi NVIDIA forsøger at måle AI-infrastruktur på den måde, agenter faktisk arbejder på: gennem lange, iterative sessioner med voksende kontekst, værktøjer, kode og underagenter. På denne type arbejdsbelastning rapporterer NVIDIA op til 30 gange højere gennemstrømning pr. megawatt og op til 35 gange lavere tokenomkostninger end GB300 NVL72.
For købere og infrastrukturteams er det afgørende spørgsmål derfor ikke, om multiplikatorerne lyder imponerende. Det er, om resultaterne holder med deres egen model, latenstærskel, kontekstlængde, samtidighed, strømramme og samlede omkostningsmodel. Det tilgængelige materiale dokumenterer NVIDIAs påstand og arkitekturen bag den – men ikke en endelig, uafhængig konklusion.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "NVIDIA hævder 30 gange højere agentisk AI-gennemstrømning med Vera Rubin"?
NVIDIA siger, at Vera Rubin NVL72 leverede op til 30 gange højere gennemstrømning for agentisk AI pr.
What are the key points to validate first?
NVIDIA siger, at Vera Rubin NVL72 leverede op til 30 gange højere gennemstrømning for agentisk AI pr. Den direkte sammenligning er mellem Vera Rubin og GB300 NVL72. NVIDIA oplyser separat, at GB300 kan levere op til 15 gange højere gennemstrømning pr.
What should I do next in practice?
NVL72 kombinerer 72 Rubin GPU'er med 36 Vera CPU'er, mens BlueField 4 DPU'er håndterer blandt andet netværk, sikkerhed, orkestrering og dataflytning.