Nvidia vil måle KI-fabrikker i tokens per megawatt – ikke bare GPU-kraft

Strømtilgangen, snarere enn hvor mange akseleratorer som fysisk får plass i et rack, er i økende grad den praktiske begrensningen for KI-infrastruktur. Da Nvidia åpnet AI Infra Summit 2026 i Santa Clara, var selskapets hovedpoeng derfor at en KI-fabrikk bør vurderes etter agentiske tokens per megawatt: hvor mye nyttig inferensarbeid anlegget leverer innenfor en gitt strømramme. 23

Ian Buck, Nvidias visepresident for hyperskala- og høyytelsesberegning, la fram strategien. Budskapet handlet om langt mer enn GPU-ytelse: Datakraft, nettverk, programvare for inferens, kjøling, strømstyring og samspill med kraftnettet må fungere som ett system når elektrisitet blir en hard kapasitetsgrense. 123

Lambda-testen: 19 noder på strømmen til 16

Det mest konkrete resultatet kom fra KI-skyleverandøren Lambda, som gjennomførte den første valideringen av Nvidias DSX MaxLPS i et faktisk driftsmiljø, på HGX B200 GPU-servere. Ifølge Nvidia overvåker DSX MaxLPS strømforbruket på GPU- og racknivå, og fordeler ledig strømkapasitet mellom nodene i klyngen. 23

I den rapporterte klyngen med fem rack og 19 noder kunne Lambda kjøre 19 noder innenfor et strømbudsjett som normalt ville rommet 16 noder på full effekt. Token-gjennomstrømmingen økte dermed med rapporterte 24 prosent, fra rundt 4 millioner til 5 millioner tokens per sekund. Ytelse per watt forbedret seg med 23 prosent. 23

Dette er først og fremst relevant for driften av datasentre. Kapasiteten begrenses ofte av hvor mye strøm som faktisk kan leveres til tomten. Når arbeidslastene har varierende strømprofil, kan programvare som utnytter ubrukt effektmargin øke den nyttige produksjonen uten ny strømtilførsel eller et større strømbudsjett for anlegget.

Vera Rubin-tallene er anslag, ikke felterfaring

Nvidia presenterte også mulige gevinster for framtidige Vera Rubin NVL72-installasjoner. Selskapet oppga at DSX MaxLPS kan gi opptil 40 prosent mer GPU-kapasitet innenfor samme strømramme på et anlegg, og opptil 35 prosent høyere token-gjennomstrømming, avhengig av installasjonsforholdene. 23

Det er viktig å skille disse tallene fra Lambda-resultatet. Lambdas målinger er rapporterte resultater fra et driftsmiljø på Blackwell-baserte systemer. Tallene for Vera Rubin er Nvidias prognoser for en framtidig plattform og må fortsatt dokumenteres i kundeinstallasjoner. 23

KI-fabrikken som fleksibel last i kraftnettet

Det andre hovedtemaet var fleksibilitet: En KI-fabrikk bør kunne reagere på forhold i kraftnettet uten å behandle alle arbeidslaster som like tidskritiske.

Ved Nvidias Eos KI-fabrikk samarbeidet Emerald AIs Conductor-plattform med Silicon Valley Power i et kommersielt program for fleksibel last. Nvidia opplyser at systemet responderte på mer enn 200 signaler fra kraftselskapet. I en demonstrert hendelse reduserte anlegget forbruket fra 4 MW til 3 MW på under ett minutt. Det ble gjort ved å nedprioritere fleksibelt dataarbeid, mens inferens med høyere prioritet fortsatte. 23

Nvidia beskriver dette som et tidlig eksempel på funksjonaliteten som er planlagt i DSX Flex. Løsningen skal kunne ta imot signaler om lastreduksjon, etterspørselsrespons og strømpriser, og deretter styre arbeid etter prioritet. Utsettbare oppgaver kan settes på pause og gjenopptas, mens kritiske tjenester holdes i gang. Eos-demonstrasjonen var et kommersielt bevispunkt i stor skala, men ikke en DSX Flex-installasjon. 23

For operatører med begrensninger fra nettselskapene er forskjellen viktig: Ikke all trening, batchbehandling eller offline-arbeid trenger samme responstid som inferens i produksjon. Ved å behandle deler av datakraften som fleksibel last kan et anlegg delta i nettprogrammer uten å ofre de mest verdifulle arbeidslastene.

Fra komponentleverandør til KI-fabrikkplattform

Toppmøte-annonseringene framstilte Nvidia som en leverandør av en hel KI-fabrikkplattform, ikke bare av enkeltkomponenter. Selskapets foreslåtte stack omfatter Vera Rubin-datakraft, NVLink-nettverk for skalering opp, Dynamo-programvare for inferens, Ethernet- og SuperNIC-nettverk, BlueField-infrastrukturkomponenter, strømoptimalisering på racknivå og nettbevisst drift av arbeidslaster. 2

Groq 3 LPX inngår i denne bredere posisjoneringen. Nvidia beskriver den som en interaktiv inferensakselerator for Vera Rubin, rettet mot agentiske systemer med krav til lav forsinkelse og stor kontekst. 112 Kildematerialet underbygger denne rollen, men dokumenterer ikke uavhengig mer konkrete påstander om lanseringstidspunkt, en sammenligning på 35 ganger høyere gjennomstrømming per megawatt eller ytelse på modeller med mer enn to tusen milliarder parametere.

Hvorfor budskapet har forretningsmessig tyngde

Satsingen kommer samtidig som Nvidias datasentervirksomhet fortsetter å vokse. I andre kvartal av regnskapsåret 2027, som ble avsluttet 26. juli 2026, rapporterte selskapet inntekter på 96,2 milliarder dollar – opp 106 prosent fra året før. Datasenterinntektene var 89,0 milliarder dollar. 17 Nvidia guidet deretter for inntekter på 108 milliarder dollar, pluss eller minus 2 prosent, i tredje kvartal. 2830

Den finansielle vekten bidrar til å forklare hvorfor selskapet legger så stor vekt på drift i fabrikk-skala. Når kundene bygger ut mer KI-kapasitet, blir spørsmålene stadig mer konkrete: Hvordan sikrer man nok elektrisitet? Hvordan øker man produksjonen når strømrammen er fast? Og hvordan opprettholdes inferenstjenester gjennom strømrelaterte og operative forstyrrelser?

Kort fortalt

Nvidia hevder ikke at rå akseleratorytelse har mistet betydning. Selskapets poeng er at toppytelse alene ikke lenger er nok for økonomien i en KI-fabrikk.

Målet om validerte tokens per megawatt kobler maskinvareytelse til begrensningene operatørene faktisk møter: strømtilgang, hendelser i kraftnettet, prioritering av arbeidslaster og tilgjengelighet. Lambdas rapporterte throughput-løft på 24 prosent gir et tidlig datapunkt fra et driftsmiljø. Nvidias bredere løfter for Vera Rubin og DSX er fortsatt en plan som må bevises i kundeoperasjoner. 23