Nvidia: niet meer gpu’s, maar meer AI-werk per megawatt

De schaarse factor voor AI-infrastructuur is steeds vaker niet het aantal accelerators dat in een rack past, maar de beschikbare elektriciteit. Nvidia stelde op de openingsdag van de AI Infra Summit 2026 daarom een andere hoofdmaatstaf voor: agentische tokens per megawatt. Oftewel: hoeveel bruikbaar inferentiewerk een AI-fabriek levert binnen zijn stroomlimiet. 23

Ian Buck, Nvidia’s vicepresident voor hyperscale en high-performance computing, lichtte die strategie toe tijdens het evenement in Santa Clara. Zijn boodschap ging nadrukkelijk verder dan snellere gpu’s: een productieve AI-fabriek vereist samenhang tussen rekenkracht, netwerken, inferentiesoftware, koeling, vermogensregeling en de omgang met het elektriciteitsnet. 123

Lambda: 19 nodes binnen het stroombudget van 16

Het meest concrete resultaat kwam van AI-cloudprovider Lambda. Die valideerde Nvidia DSX MaxLPS voor het eerst in een inzetomgeving op Nvidia HGX B200-gpuservers. Volgens Nvidia bewaakt DSX MaxLPS het stroomverbruik op gpu- en rackniveau en verdeelt het ongebruikte vermogen opnieuw over de nodes in het cluster. 23

In het gemelde cluster van vijf racks en negentien nodes liet Lambda negentien nodes draaien binnen een stroombudget dat normaal genoeg is voor zestien nodes op vol vermogen. Dat resulteerde volgens de bedrijven in 24% meer tokendoorvoer: van ongeveer 4 miljoen naar 5 miljoen tokens per seconde. De prestaties per watt verbeterden met 23%. 23

Dat is vooral praktisch relevant. De capaciteit van een datacenter wordt vaak begrensd door de elektriciteit die op de locatie geleverd kan worden. Omdat workloads niet voortdurend hetzelfde stroomprofiel hebben, kan software die ongebruikte ruimte in het vermogensbudget benut de bruikbare output verhogen — zonder een zwaardere netaansluiting of een groter stroombudget voor de locatie.

Vera Rubin: beloften voor een toekomstig platform

Nvidia noemde ook mogelijke voordelen voor toekomstige Vera Rubin NVL72-opstellingen. DSX MaxLPS zou binnen hetzelfde stroombudget van een locatie tot 40% meer gpu-capaciteit en tot 35% hogere tokendoorvoer mogelijk kunnen maken, afhankelijk van de omstandigheden van de installatie. 23

Die cijfers vragen wel om een andere lezing dan de Lambda-uitkomst. De Lambda-metingen zijn gerapporteerde resultaten uit een inzetomgeving op Blackwell-systemen; de cijfers rond Vera Rubin zijn Nvidia-prognoses voor een toekomstig platform. 23

Een AI-fabriek die kan reageren op het stroomnet

De tweede pijler van Nvidia’s verhaal was flexibiliteit. Een AI-fabriek moet kunnen reageren op de toestand van het elektriciteitsnet, zonder alle workloads als even urgent te behandelen.

In Nvidia’s Eos AI-fabriek werkte het Conductor-platform van Emerald AI samen met Silicon Valley Power, de lokale energieleverancier, in een commercieel programma voor flexibele belasting. Nvidia meldde dat het systeem reageerde op meer dan 200 vraag-signalen van het energiebedrijf. Tijdens een getoonde gebeurtenis werd het verbruik van de faciliteit in minder dan een minuut teruggebracht van 4 MW naar 3 MW. Flexibel rekenwerk kreeg daarbij minder prioriteit, terwijl inferentie met hogere prioriteit bleef draaien. 23

Nvidia presenteerde dit als een vroeg voorbeeld van de functionaliteit die het voor DSX Flex voorziet. Het bedrijf beschrijft DSX Flex als een manier om signalen voor belastingverlaging, vraagrespons en stroomprijzen te ontvangen, en die te vertalen naar prioriteiten voor workloads. Uitstelbare taken kunnen dan worden gepauzeerd en hervat, terwijl kritieke diensten actief blijven. De demonstratie bij Eos was zelf een eerder commercieel bewijs op schaal, geen DSX Flex-installatie. 23

Voor datacenterexploitanten is dat onderscheid belangrijk. Niet elke trainingstaak, batchverwerking of offline klus heeft dezelfde responstijd nodig als inferentie voor een productiedienst. Rekencapaciteit als flexibele belasting behandelen kan deelname aan netprogramma’s mogelijk maken, terwijl bedrijfskritische workloads beschermd blijven.

Van chip tot dagelijkse operatie

De aankondigingen positioneren Nvidia nadrukkelijker als leverancier van een volledig AI-fabrieksplatform, en niet uitsluitend als leverancier van componenten. De voorgestelde stack omvat Vera Rubin-rekenkracht, NVLink-netwerken voor opschalen, Dynamo-inferentiesoftware, Ethernet- en SuperNIC-netwerken, BlueField-infrastructuurcomponenten, optimalisatie van rackvermogen en netbewuste aansturing van workloads. 2

Ook Groq 3 LPX past in die bredere positionering. Nvidia omschrijft die als een interactieve inferentieaccelerator voor Vera Rubin, bedoeld voor de eisen rond lage vertraging en grote contextvensters van agentische systemen. 112 Het beschikbare bronmateriaal ondersteunt die rol, maar onderbouwt niet zelfstandig specifiekere uitspraken over een releasedatum, een vergelijking van 35 keer meer doorvoer per megawatt of prestaties bij modellen met meer dan twee biljoen parameters.

Waarom dit ook zakelijk gewicht heeft

De infrastructuurboodschap komt terwijl Nvidia’s datacenteractiviteiten sterk blijven groeien. Over het tweede kwartaal van boekjaar 2027, dat eindigde op 26 juli 2026, rapporteerde Nvidia een omzet van 96,2 miljard dollar: 106% meer dan een jaar eerder. Daarvan kwam 89,0 miljard dollar uit de Data Center-divisie. 17 Voor het derde kwartaal verwachtte het bedrijf 108 miljard dollar omzet, met een marge van 2% naar boven of beneden. 2830

Die financiële schaal helpt verklaren waarom Nvidia de nadruk legt op fabrieksbrede bedrijfsvoering. Naarmate klanten meer AI-capaciteit inzetten, verschuift de vraag van alleen snelle hardware naar voldoende elektriciteit, meer output binnen vaste stroomgrenzen en continuïteit van inferentiediensten tijdens verstoringen in stroomvoorziening of bedrijfsvoering.

De kern: piekprestaties alleen zijn niet genoeg

Nvidia betoogt niet dat ruwe acceleratorprestaties er niet meer toe doen. Het punt is dat piekprestaties op zichzelf onvoldoende zijn voor de economie van AI-fabrieken.

De voorgestelde maatstaf — gevalideerde tokens per megawatt — koppelt hardwareprestaties aan de beperkingen waarmee exploitanten in de praktijk te maken hebben: beschikbare stroom op locatie, gebeurtenissen op het elektriciteitsnet, workloadprioriteit en systeembeschikbaarheid. De door Lambda gemelde winst van 24% in doorvoer is een eerste praktijkgegeven dat deze visie ondersteunt. De bredere claims van Nvidia rond Vera Rubin en DSX moeten nog worden bevestigd in klantomgevingen. 23