Nvidia præsenterer Vera Rubin som langt mere end en hurtigere GPU. Platformen er designet som en komplet AI-fabrik, hvor GPU'er, CPU'er, netværk, databehandlingsenheder og software er udviklet til at fungere som ét samlet system.

Målet er især at gøre agentbaseret AI – systemer, der selv kan planlægge opgaver, kalde værktøjer, skrive og køre kode og gentage processen flere gange – billigere og mindre energikrævende at drive.

Vera Rubin NVL72 samler hele rack'et

Kernen er det væskekølede Vera Rubin NVL72-rack, som integrerer:

• 72 Rubin-GPU'er
• 36 Vera-CPU'er
• ConnectX-9 SuperNIC'er
• BlueField-4 DPU'er
• sjette generation af NVLink-switching

Systemet er konstrueret som ét tæt koblet 72-GPU-domæne. Uden for rack'et kan det forbindes til større klynger via Quantum-X800 InfiniBand eller Spectrum-X Ethernet. 36

Det er denne rack-skala-integration, Nvidia fremhæver som forskellen på Vera Rubin og en traditionel samling af enkeltstående acceleratorer. I stedet for kun at fokusere på GPU'ens rå beregningskraft forsøger virksomheden at optimere hele vejen fra strømforsyning og køling til hukommelse, CPU-opgaver og datatrafik.

Nvidia hævder 30 gange mere arbejde pr. megawatt

Ifølge Nvidia leverer Vera Rubin NVL72 op til 30 gange højere gennemløb pr. megawatt end GB300 NVL72 på agentbaserede arbejdsbelastninger. I den samme sammenligning hævder virksomheden op til 35 gange lavere tokenomkostning. 89

Nvidia har desuden tidligere oplyst, at Rubin-platformen generelt kan reducere omkostningen pr. inference-token med op til 10 gange sammenlignet med Blackwell. 11

Tallene bør dog læses med et vigtigt forbehold: De er Nvidias egne resultater fra en leverandørunderstøttet måling og er ikke det samme som en uafhængig, fagfællebedømt validering. Resultaterne afhænger også af model, kontekstlængde, målsat svartid, softwareopsætning og den konkrete arbejdsbelastning.

AgentX og DeepSeek V4 Pro

Målingen brugte AgentX, et benchmark fra SemiAnalysis, der afspiller produktionslignende sessioner med agentbaseret kodning. Testen bevarer blandt andet voksende kontekst, værktøjskald og oprettelse af underagenter. DeepSeek V4 Pro blev brugt som model i den fremhævede sammenligning. 89

Det er væsentligt, fordi agentbaseret AI belaster et datacenter anderledes end et enkelt spørgsmål-svar-forløb. En agent kan skulle hente data, skrive kode, køre koden, analysere resultatet og gentage processen. Derfor får CPU-arbejde, hukommelsesbåndbredde og forbindelsen mellem systemets komponenter større betydning end alene antallet af GPU-operationer.

Hvad med Hopper og pris pr. million tokens?

Det tilgængelige materiale dokumenterer sammenligningen med GB300, men indeholder ikke et direkte sammenligneligt tal fra en primær kilde for Hopper. Der er heller ikke oplyst en verificeret pris i dollar for én million tokens.

Nvidias overordnede pointe er, at agentbaserede arbejdsgange bruger betydeligt flere tokens end almindelig engangs-chat, fordi de involverer gentagen ræsonnering, værktøjsbrug og flere modelkald. De oplyste effektivitets- og omkostningstal bør derfor ikke opfattes som universelle priser for modeldrift. Der er ikke tilstrækkeligt belæg her til at angive en præcis Hopper-multiplikator eller en fast pris pr. million tokens.

DSX MaxLPS skal optimere arbejdet – ikke bare effekten

Nvidia beskriver DSX som en samlet reference for AI-fabrikker, der omfatter chips, systemer, software, faciliteter og partnerteknologi. En del af platformen er DSX MaxLPS, som skal maksimere antallet af genererede tokens pr. energienhed og dermed reducere tokenomkostningen. 1215

Det handler med andre ord ikke nødvendigvis om at køre hardwaren med maksimal øjeblikkelig effekt. I stedet skal strømmen fordeles, så hele AI-fabrikken producerer mest muligt nyttigt arbejde pr. megawatt.

Det kan få praktisk betydning i datacentre, hvor strømtilførsel og kølekapacitet er lige så store begrænsninger som adgangen til selve acceleratorerne. En bedre udnyttelse af den eksisterende energiramme kan gøre det muligt at håndtere flere agentopgaver uden en tilsvarende udvidelse af infrastrukturen.

Vera-CPU'en er bygget til opgaverne omkring modellen

Nvidia positionerer Vera som en specialdesignet CPU til AI-infrastruktur og agentbaserede arbejdsbelastninger. Den er kompatibel med Armv9.2 og har:

• 88 specialdesignede Olympus-kerner
• 176 tråde via Spatial Multithreading
• op til 1,2 TB/s samlet LPDDR5X-hukommelsesbåndbredde
• op til 14 GB/s pr. kerne
• 164 MB samlet L3-cache

CPU'en skal håndtere de opgaver, der omgiver selve modelberegningen: dataforberedelse, orkestrering, informationssøgning, værktøjskald, kørsel af kode i afskærmede miljøer og simulering. 210

Vera bruger SOCAMM2 LPDDR5X-hukommelse. Den anden generation af Nvidias Scalable Coherency Fabric forbinder kernerne, den delte L3-cache og hukommelsessystemet med op til 3,4 TB/s bisection-båndbredde. 78

Sammenlignet med Grace oplyser Nvidia 2,4 gange højere hukommelsesbåndbredde, tre gange større hukommelseskapacitet og dobbelt så høj NVLink-C2C-båndbredde til sammenhængende CPU-GPU-drift. 1

Scale-In er det interne netværkslag

Nvidias netværksarkitektur kan forstås som tre forskellige lag:

Scale-in eller scale-up

NVLink 6 får de 72 GPU'er i NVL72 til at fungere som en tæt koblet computer i rack-skala. Nvidia angiver 3,6 TB/s tovejsbåndbredde mellem GPU og GPU pr. GPU samt 260 TB/s på rack-niveau. 3

NVLink-C2C forbinder samtidig Vera-CPU'erne og GPU'erne med op til 1,8 TB/s sammenhængende båndbredde.

Scale-out

Når flere racks skal forbindes til en større klynge, bruges Quantum-X800 InfiniBand eller Spectrum-X Ethernet. Det er forbindelsen mellem racks og dermed det lag, der gør det muligt at udvide AI-fabrikken på tværs af mange systemer. 3

Aflastning af data og infrastruktur

ConnectX-9 SuperNIC'er og BlueField-4 DPU'er håndterer netværk, lagring, sikkerhed og andre funktioner i datapath'en. Dermed skal færre af disse opgaver belaste CPU'er og GPU'er direkte. 36

Scale-In er derfor ikke en erstatning for Nvidias øvrige netværksteknologier. Det er det interne, tætte forbindelseslag i rack'et, mens scale-out forbinder racks, og SuperNIC'er og DPU'er aflaster selve data- og infrastrukturfunktionerne.

SpaceXAI vil bruge Vera til Grok – og planlægger orbital computing

Nvidia oplyser, at SpaceXAI vil implementere Vera-CPU'er til kommende agentbaserede arbejdsbelastninger. SpaceXAI vil samtidig udvide infrastrukturen bag Grok på Vera Rubin-platformen, mens selskabet sigter mod datacenterkapacitet i gigawatt-skala. 14

Parterne planlægger også at føre arkitekturen videre til det kommende Starmind-projekt i kredsløb. Den første generation af Starmind-satellitten skal ifølge Nvidia baseres på et optimeret Vera Rubin NVL72-system. 1412

Det er vigtigt at skelne mellem plan og drift: Oplysningerne dokumenterer en planlagt anvendelse, ikke at der allerede findes et operativt AI-datacenter i kredsløb.

Hvad betyder det for Nvidia?

Hvis Nvidias målinger kan omsættes til kundernes faktiske installationer, er den vigtigste gevinst ikke nødvendigvis højere modelkvalitet, men mere nyttigt agentarbejde for den samme begrænsede mængde strøm.

Det kan potentielt sænke udgifterne til elektricitet, køling, netværk og hardware pr. genereret token. Samtidig udvider Nvidia sin konkurrenceflade fra GPU'er til:

• specialdesignede Arm-CPU'er
• sammenhængende CPU-GPU-systemer
• rack-skala-switching
• DPU'er og netværksaflastning
• software til drift af komplette AI-fabrikker

Den tætte integration kan styrke Nvidias position over for både andre GPU-producenter og etablerede CPU-leverandører. Til gengæld kan kunderne blive mere afhængige af Nvidias arkitektur, netværk og softwarelag. Vera Rubin er derfor ikke kun en ny produktgeneration, men også et forsøg på at gøre hele AI-datacentrets teknologistak til Nvidias domæne.

Nvidia præsenterer Vera Rubin som langt mere end en hurtigere GPU. Platformen er designet som en komplet AI-fabrik, hvor GPU'er, CPU'er, netværk, databehandlingsenheder og software er udviklet til at fungere som ét samlet system.

Målet er især at gøre agentbaseret AI – systemer, der selv kan planlægge opgaver, kalde værktøjer, skrive og køre kode og gentage processen flere gange – billigere og mindre energikrævende at drive.

Vera Rubin NVL72 samler hele rack'et

Kernen er det væskekølede Vera Rubin NVL72-rack, som integrerer:

• 72 Rubin-GPU'er
• 36 Vera-CPU'er
• ConnectX-9 SuperNIC'er
• BlueField-4 DPU'er
• sjette generation af NVLink-switching

Systemet er konstrueret som ét tæt koblet 72-GPU-domæne. Uden for rack'et kan det forbindes til større klynger via Quantum-X800 InfiniBand eller Spectrum-X Ethernet. 36

Det er denne rack-skala-integration, Nvidia fremhæver som forskellen på Vera Rubin og en traditionel samling af enkeltstående acceleratorer. I stedet for kun at fokusere på GPU'ens rå beregningskraft forsøger virksomheden at optimere hele vejen fra strømforsyning og køling til hukommelse, CPU-opgaver og datatrafik.

Nvidia hævder 30 gange mere arbejde pr. megawatt

Ifølge Nvidia leverer Vera Rubin NVL72 op til 30 gange højere gennemløb pr. megawatt end GB300 NVL72 på agentbaserede arbejdsbelastninger. I den samme sammenligning hævder virksomheden op til 35 gange lavere tokenomkostning. 89

Nvidia har desuden tidligere oplyst, at Rubin-platformen generelt kan reducere omkostningen pr. inference-token med op til 10 gange sammenlignet med Blackwell. 11

Tallene bør dog læses med et vigtigt forbehold: De er Nvidias egne resultater fra en leverandørunderstøttet måling og er ikke det samme som en uafhængig, fagfællebedømt validering. Resultaterne afhænger også af model, kontekstlængde, målsat svartid, softwareopsætning og den konkrete arbejdsbelastning.

AgentX og DeepSeek V4 Pro

Målingen brugte AgentX, et benchmark fra SemiAnalysis, der afspiller produktionslignende sessioner med agentbaseret kodning. Testen bevarer blandt andet voksende kontekst, værktøjskald og oprettelse af underagenter. DeepSeek V4 Pro blev brugt som model i den fremhævede sammenligning. 89

Det er væsentligt, fordi agentbaseret AI belaster et datacenter anderledes end et enkelt spørgsmål-svar-forløb. En agent kan skulle hente data, skrive kode, køre koden, analysere resultatet og gentage processen. Derfor får CPU-arbejde, hukommelsesbåndbredde og forbindelsen mellem systemets komponenter større betydning end alene antallet af GPU-operationer.

Hvad med Hopper og pris pr. million tokens?

Det tilgængelige materiale dokumenterer sammenligningen med GB300, men indeholder ikke et direkte sammenligneligt tal fra en primær kilde for Hopper. Der er heller ikke oplyst en verificeret pris i dollar for én million tokens.

Nvidias overordnede pointe er, at agentbaserede arbejdsgange bruger betydeligt flere tokens end almindelig engangs-chat, fordi de involverer gentagen ræsonnering, værktøjsbrug og flere modelkald. De oplyste effektivitets- og omkostningstal bør derfor ikke opfattes som universelle priser for modeldrift. Der er ikke tilstrækkeligt belæg her til at angive en præcis Hopper-multiplikator eller en fast pris pr. million tokens.

DSX MaxLPS skal optimere arbejdet – ikke bare effekten

Nvidia beskriver DSX som en samlet reference for AI-fabrikker, der omfatter chips, systemer, software, faciliteter og partnerteknologi. En del af platformen er DSX MaxLPS, som skal maksimere antallet af genererede tokens pr. energienhed og dermed reducere tokenomkostningen. 1215

Det handler med andre ord ikke nødvendigvis om at køre hardwaren med maksimal øjeblikkelig effekt. I stedet skal strømmen fordeles, så hele AI-fabrikken producerer mest muligt nyttigt arbejde pr. megawatt.

Det kan få praktisk betydning i datacentre, hvor strømtilførsel og kølekapacitet er lige så store begrænsninger som adgangen til selve acceleratorerne. En bedre udnyttelse af den eksisterende energiramme kan gøre det muligt at håndtere flere agentopgaver uden en tilsvarende udvidelse af infrastrukturen.

Vera-CPU'en er bygget til opgaverne omkring modellen

Nvidia positionerer Vera som en specialdesignet CPU til AI-infrastruktur og agentbaserede arbejdsbelastninger. Den er kompatibel med Armv9.2 og har:

• 88 specialdesignede Olympus-kerner
• 176 tråde via Spatial Multithreading
• op til 1,2 TB/s samlet LPDDR5X-hukommelsesbåndbredde
• op til 14 GB/s pr. kerne
• 164 MB samlet L3-cache

CPU'en skal håndtere de opgaver, der omgiver selve modelberegningen: dataforberedelse, orkestrering, informationssøgning, værktøjskald, kørsel af kode i afskærmede miljøer og simulering. 210

Vera bruger SOCAMM2 LPDDR5X-hukommelse. Den anden generation af Nvidias Scalable Coherency Fabric forbinder kernerne, den delte L3-cache og hukommelsessystemet med op til 3,4 TB/s bisection-båndbredde. 78

Sammenlignet med Grace oplyser Nvidia 2,4 gange højere hukommelsesbåndbredde, tre gange større hukommelseskapacitet og dobbelt så høj NVLink-C2C-båndbredde til sammenhængende CPU-GPU-drift. 1

Scale-In er det interne netværkslag

Nvidias netværksarkitektur kan forstås som tre forskellige lag:

Scale-in eller scale-up

NVLink 6 får de 72 GPU'er i NVL72 til at fungere som en tæt koblet computer i rack-skala. Nvidia angiver 3,6 TB/s tovejsbåndbredde mellem GPU og GPU pr. GPU samt 260 TB/s på rack-niveau. 3

NVLink-C2C forbinder samtidig Vera-CPU'erne og GPU'erne med op til 1,8 TB/s sammenhængende båndbredde.

Scale-out

Når flere racks skal forbindes til en større klynge, bruges Quantum-X800 InfiniBand eller Spectrum-X Ethernet. Det er forbindelsen mellem racks og dermed det lag, der gør det muligt at udvide AI-fabrikken på tværs af mange systemer. 3

Aflastning af data og infrastruktur

ConnectX-9 SuperNIC'er og BlueField-4 DPU'er håndterer netværk, lagring, sikkerhed og andre funktioner i datapath'en. Dermed skal færre af disse opgaver belaste CPU'er og GPU'er direkte. 36

Scale-In er derfor ikke en erstatning for Nvidias øvrige netværksteknologier. Det er det interne, tætte forbindelseslag i rack'et, mens scale-out forbinder racks, og SuperNIC'er og DPU'er aflaster selve data- og infrastrukturfunktionerne.

SpaceXAI vil bruge Vera til Grok – og planlægger orbital computing

Nvidia oplyser, at SpaceXAI vil implementere Vera-CPU'er til kommende agentbaserede arbejdsbelastninger. SpaceXAI vil samtidig udvide infrastrukturen bag Grok på Vera Rubin-platformen, mens selskabet sigter mod datacenterkapacitet i gigawatt-skala. 14

Parterne planlægger også at føre arkitekturen videre til det kommende Starmind-projekt i kredsløb. Den første generation af Starmind-satellitten skal ifølge Nvidia baseres på et optimeret Vera Rubin NVL72-system. 1412

Det er vigtigt at skelne mellem plan og drift: Oplysningerne dokumenterer en planlagt anvendelse, ikke at der allerede findes et operativt AI-datacenter i kredsløb.

Hvad betyder det for Nvidia?

Hvis Nvidias målinger kan omsættes til kundernes faktiske installationer, er den vigtigste gevinst ikke nødvendigvis højere modelkvalitet, men mere nyttigt agentarbejde for den samme begrænsede mængde strøm.

Det kan potentielt sænke udgifterne til elektricitet, køling, netværk og hardware pr. genereret token. Samtidig udvider Nvidia sin konkurrenceflade fra GPU'er til:

• specialdesignede Arm-CPU'er
• sammenhængende CPU-GPU-systemer
• rack-skala-switching
• DPU'er og netværksaflastning
• software til drift af komplette AI-fabrikker

Den tætte integration kan styrke Nvidias position over for både andre GPU-producenter og etablerede CPU-leverandører. Til gengæld kan kunderne blive mere afhængige af Nvidias arkitektur, netværk og softwarelag. Vera Rubin er derfor ikke kun en ny produktgeneration, men også et forsøg på at gøre hele AI-datacentrets teknologistak til Nvidias domæne.