Nvidia flytter fokus fra topydelse til tokens pr. megawatt

Strøm er ved at blive den afgørende flaskehals for AI-infrastruktur – ikke blot hvor mange acceleratorer der kan placeres i et rack. Det var Nvidias centrale budskab på åbningsdagen af AI Infra Summit 2026 i Santa Clara: En AI-fabrik bør måles på, hvor mange agentiske tokens pr. megawatt den producerer, altså hvor meget brugbart inferensarbejde den leverer inden for sin tilgængelige strømramme. 23

Ian Buck, Nvidias vicepræsident for hyperscale og højtydende databehandling, præsenterede strategien. Pointen rækker længere end hurtigere GPU'er: Compute, netværk, inferenssoftware, køling, strømstyring og samspillet med elnettet skal fungere som ét samlet system, hvis datacentret fortsat skal levere høj produktion under faste strømbegrænsninger. 123

Lambda-testen: 24 % flere tokens inden for samme strømramme

Det mest håndgribelige resultat kom fra AI-cloududbyderen Lambda, der gennemførte den første validering i et driftsmiljø af Nvidias DSX MaxLPS på HGX B200 GPU-servere. Ifølge Nvidia overvåger DSX MaxLPS strømforbruget på GPU- og rackniveau og fordeler ledig effektkapacitet mellem noderne. 23

I den rapporterede klynge med fem racks og 19 noder kørte Lambda 19 noder på et strømforbrug, der normalt ville være afsat til 16 noder ved fuld effekt. Det løftede ifølge de rapporterede målinger klyngens token-gennemløb med 24 %, fra omkring 4 mio. til 5 mio. tokens i sekundet. Samtidig steg ydelsen pr. watt med 23 %. 23

Det væsentlige er den praktiske anvendelse. Et datacenters kapacitet begrænses ofte af den strøm, som faktisk kan leveres på lokationen. Når arbejdsbelastninger har svingende strømprofiler, kan software, der udnytter ubrugt kapacitet, øge den nyttige produktion uden ny nettilslutning eller et større strømloft.

Vera Rubin-tal er fremskrivninger

Nvidia skitserede også potentielle gevinster for kommende Vera Rubin NVL72-installationer. Her siger selskabet, at DSX MaxLPS under de rette implementeringsforhold kan muliggøre op til 40 % mere GPU-kapacitet inden for samme strømramme på lokationen og op til 35 % højere token-gennemløb. 23

Tallene skal dog læses anderledes end Lambda-resultatet. Lambdas målinger er rapporterede resultater fra en faktisk validering på Blackwell-systemer. Tallene for Vera Rubin er Nvidias fremskrivninger for en kommende platform og mangler fortsat at blive bekræftet i kundernes drift. 23

Datacentret skal kunne reagere på elnettet

Det andet store tema var fleksibilitet. Nvidia argumenterer for, at en AI-fabrik bør kunne tilpasse sig forholdene i elnettet i stedet for at behandle alle opgaver som lige presserende.

På Nvidias Eos AI-fabrik arbejdede Emerald AI's Conductor-platform sammen med Silicon Valley Power i et kommercielt program for fleksibelt forbrug. Nvidia oplyser, at systemet reagerede på mere end 200 efterspørgselssignaler fra forsyningsselskabet og i en demonstreret hændelse reducerede anlæggets forbrug fra 4 MW til 3 MW på under et minut. Det skete ved at nedprioritere fleksibelt computerarbejde, mens inferens med højere prioritet fortsatte. 23

Nvidia fremhæver programmet som et tidligt eksempel på den funktionalitet, der er planlagt i DSX Flex. Ideen er, at platformen modtager signaler om lastreduktion, efterspørgselsrespons og elpriser og derefter anvender prioriteringer af arbejdsbelastninger. Opgaver, der kan udsættes, kan sættes på pause og genoptages, mens kritiske tjenester fortsætter. Demonstrationen på Eos var imidlertid et tidligere kommercielt bevis på konceptet – ikke en DSX Flex-installation. 23

Det er relevant for operatører med begrænsninger fra energiselskaber. Træning, batchkørsler og offline-opgaver behøver ikke nødvendigvis samme responstid som inferens i produktion. Hvis compute kan behandles som en fleksibel belastning, kan et datacenter deltage i netprogrammer og samtidig beskytte de vigtigste arbejdsbelastninger.

Nvidias bud på en samlet AI-fabriksplatform

Annonceringerne fremstiller Nvidia som mere end en leverandør af enkeltkomponenter. Selskabets foreslåede stak spænder over Vera Rubin-compute, NVLink-netværk til skalering, Dynamo-inferenssoftware, Ethernet- og SuperNIC-netværk, BlueField-infrastrukturkomponenter, strømoptimering på rackniveau og elnetbevidst drift af arbejdsbelastninger. 2

Groq 3 LPX indgår i den bredere positionering. Nvidia beskriver den som en interaktiv inferensaccelerator til Vera Rubin, udviklet til agentiske systemers krav om lav latenstid og store kontekstvinduer. 112 Kilderne understøtter den rolle, men dokumenterer ikke selvstændigt mere præcise påstande om lanceringstidspunkt, en sammenligning på 35 gange højere gennemløb pr. megawatt eller ydeevne for modeller med mere end to billioner parametre.

Derfor har strategien forretningsmæssig betydning

Budskabet kommer, mens Nvidias datacenterforretning fortsætter med at vokse kraftigt. I andet kvartal af regnskabsåret 2027, som sluttede 26. juli 2026, rapporterede Nvidia en omsætning på 96,2 mia. dollar – 106 % mere end året før. Datacenteromsætningen udgjorde 89,0 mia. dollar. 17 Selskabet forventede en omsætning på 108 mia. dollar, plus eller minus 2 %, i tredje kvartal. 2830

Den finansielle udvikling forklarer, hvorfor Nvidia lægger så stor vægt på drift i fabriksstørrelse. Når kunderne bygger mere AI-kapacitet, handler de praktiske spørgsmål i stigende grad om at sikre elektricitet, få mere output ud af faste strømgrænser og holde inferenstjenester i gang under energimæssige og driftsmæssige forstyrrelser.

Konklusionen

Nvidia siger ikke, at rå accelerator-ydelse er blevet uvigtig. Selskabets argument er, at maksimal ydelse alene ikke længere er nok til at sikre god økonomi i AI-fabrikker.

Målingen validerede tokens pr. megawatt kobler hardwareydelse til de begrænsninger, operatører møder i praksis: strøm på lokationen, hændelser i elnettet, prioritering af opgaver og systemtilgængelighed. Lambdas rapporterede løft på 24 % i gennemløb er et tidligt datapunkt fra drift. Nvidias bredere løfter om Vera Rubin og DSX er fortsat en køreplan, der skal bekræftes hos kunderne. 23