Nvidia siirtää AI-tehtaiden huomion GPU-määrästä tokeneihin megawattia kohti

AI-infrastruktuurin rajoite ei ole enää vain se, kuinka monta kiihdytintä palvelintelineeseen mahtuu. Yhä useammin ratkaiseva tekijä on sähköteho, jonka datakeskus todella saa käyttöönsä.

Nvidia nosti AI Infra Summitin avauspäivänä keskeiseksi mittariksi agenttiset tokenit megawattia kohti: kuinka paljon hyödyllistä inferenssityötä AI-tehdas tuottaa käytettävissä olevalla sähköteholla. Tokenilla tarkoitetaan tässä kielimallin käsittelemää tai tuottamaa tekstin osaa. 23

Nvidian hyperscale- ja suurteholaskennasta vastaava varatoimitusjohtaja Ian Buck esitteli linjauksen Santa Clarassa. Viesti oli, ettei GPU:n suorituskyky yksin ratkaise AI-tehtaan tuottavuutta. Laskennan, verkkojen, inferenssiohjelmistojen, jäähdytyksen, tehonhallinnan ja sähköverkon operoinnin on toimittava yhdessä. 123

Lambda antoi ensimmäisen käytännön mittapisteen

Konkreettisin tulos tuli AI-pilvipalveluyhtiö Lambdalta, joka validoi Nvidian DSX MaxLPS -järjestelmää käyttöympäristössä HGX B200 -GPU-palvelimilla. Nvidian mukaan DSX MaxLPS seuraa GPU- ja telinetason sähkönkulutusta sekä jakaa käyttämätöntä tehovaraa uudelleen klusterin solmujen välillä. 23

Viiden telineen ja 19 solmun klusterissa Lambda käytti 19 solmua tehorajassa, johon normaalisti mahtuisi 16 täydellä teholla toimivaa solmua. Raportoitu tokenisuorituskyky kasvoi 24 %, noin 4 miljoonasta noin 5 miljoonaan tokeniin sekunnissa. Samalla suorituskyky wattia kohti parani 23 %. 23

Tulos on kiinnostava ennen kaikkea käytännön kannalta. Datakeskuksen kapasiteettia rajoittaa usein tontille toimitettava sähköteho. Jos työkuormien tehonkulutus vaihtelee, käyttämättömän tehovaran tehokas hyödyntäminen voi kasvattaa tuotantoa ilman uutta sähköliittymää tai suurempaa kokonaistehobudjettia.

Vera Rubinista esitetyt luvut ovat ennusteita

Nvidia kuvasi myös mahdollisia hyötyjä tuleville Vera Rubin NVL72 -kokoonpanoille. Yhtiön arvion mukaan DSX MaxLPS voisi mahdollistaa tietyssä kohteen tehorajassa jopa 40 % enemmän GPU-kapasiteettia ja jopa 35 % suuremman tokenisuorituskyvyn. Toteutuvat tulokset riippuvat käyttöympäristöstä. 23

Lukuja on syytä tulkita eri tavalla kuin Lambdan mittausta. Lambdan Blackwell-pohjaisesta ympäristöstä kertomat luvut ovat raportoitua käyttöympäristön validointia, kun taas Vera Rubin -luvut ovat Nvidian ennusteita tulevalle alustalle. 23

AI-tehdas voi joustaa sähköverkon tarpeiden mukaan

Toinen Nvidian pääteema oli joustavuus. Kaikkien datakeskuksen tehtävien ei tarvitse olla yhtä kiireellisiä, joten AI-tehtaan pitäisi pystyä reagoimaan sähköverkon tilanteeseen ilman, että tärkeimmät palvelut keskeytyvät.

Nvidian Eos AI -tehtaassa Emerald AI:n Conductor-alusta toimi Silicon Valley Powerin kaupallisessa joustavan kuorman ohjelmassa. Nvidian mukaan järjestelmä reagoi yli 200 sähköyhtiön kysyntäsignaaliin. Esittelytilanteessa laitoksen kulutus laski alle minuutissa 4 megawatista 3 megawattiin: joustavaa laskentaa siirrettiin alemmalle prioriteetille, mutta korkeamman prioriteetin inferenssi jatkui. 23

Nvidia kuvasi ohjelmaa varhaiseksi esimerkiksi ominaisuuksista, joita suunnitteilla oleva DSX Flex on tarkoitettu tarjoamaan. Yhtiön mukaan DSX Flex vastaanottaisi kuormanpudotus-, kysyntäjousto- ja sähkönhintasignaaleja ja soveltaisi työkuormien prioriteetteja. Siirrettävät tehtävät voisivat keskeytyä ja jatkua myöhemmin, kun kriittiset palvelut pysyvät käynnissä. Eosin demonstraatio ei kuitenkaan ollut DSX Flex -asennus, vaan sitä edeltävä kaupallisen mittakaavan näyttö. 23

Tällainen toimintamalli voi olla merkittävä datakeskusoperaattoreille. Mallikoulutuksen, eräajojen ja muiden viiveen sietävien tehtävien aikavaatimukset poikkeavat tuotannossa olevasta inferenssistä. Kun laskentaa voidaan käsitellä joustavana kuormana, datakeskus voi osallistua sähköverkon ohjelmiin samalla, kun arvokkaimmat työkuormat suojataan.

Nvidian tavoite on koko AI-tehtaan alusta

Summitin julkistukset asemoivat Nvidiaa GPU-toimittajaa laajemmaksi AI-tehdasalustan tarjoajaksi. Yhtiön ehdottama kokonaisuus kattaa Vera Rubin -laskennan, NVLink-skaalausverkon, Dynamo-inferenssiohjelmiston, Ethernet- ja SuperNIC-verkot, BlueField-infrastruktuurikomponentit, telinetason tehonoptimoinnin sekä sähköverkon tilanteen huomioivan työkuormien hallinnan. 2

Groq 3 LPX liittyy tähän kokonaisuuteen interaktiivisena inferenssikiihdyttimenä Vera Rubin -alustalle. Nvidian mukaan se on suunniteltu agenttisten järjestelmien pienen viiveen ja laajan kontekstin tarpeisiin. 112 Toimitettu lähdeaineisto tukee tätä roolia, mutta ei vahvista itsenäisesti tarkempia väitteitä julkaisuajankohdasta, 35-kertaisesta suorituskyvystä megawattia kohti tai yli kahden biljoonan parametrin mallien suorituskyvystä.

Miksi sähkötehokkuus on Nvidialle liiketoimintakysymys

Nvidian datakeskusliiketoiminta kasvaa edelleen nopeasti. Heinäkuun 26. päivänä 2026 päättyneellä tilikauden 2027 toisella neljänneksellä yhtiön liikevaihto oli 96,2 miljardia dollaria, 106 % enemmän kuin vuotta aiemmin. Datakeskusliiketoiminnan osuus oli 89,0 miljardia dollaria. 17 Nvidia ohjeisti seuraavan neljänneksen liikevaihdoksi 108 miljardia dollaria, vaihteluvälillä plus tai miinus 2 %. 2830

Taloudellinen mittakaava auttaa ymmärtämään, miksi yhtiö painottaa tehdastason operointia. AI-kapasiteetin kasvaessa keskeisiä kysymyksiä ovat sähkön saatavuus, tuotoksen kasvattaminen kiinteissä tehorajoissa sekä inferenssipalvelujen jatkuvuus sähkö- ja käyttötilanteiden häiriöissä.

Johtopäätös

Nvidia ei väitä, että kiihdyttimien raakasuorituskyvyllä ei enää olisi merkitystä. Sen viesti on, ettei huippusuorituskyky yksin riitä AI-tehtaan taloudellisuuden mittariksi.

Agenttisten tokenien määrä megawattia kohti yhdistää laitteiston suorituskyvyn niihin rajoitteisiin, joiden kanssa datakeskusoperaattorit käytännössä toimivat: kohteen sähkötehoon, sähköverkon kysyntätilanteisiin, työkuormien prioriteetteihin ja järjestelmän käytettävyyteen. Lambdan raportoima 24 prosentin suorituskykylisäys tarjoaa varhaisen käyttöympäristössä saadun mittapisteen. Nvidian laajemmat Vera Rubin- ja DSX-lupaukset ovat puolestaan tiekartta, joka tarvitsee vielä vahvistusta asiakasympäristöistä. 23