Nvidia: AI továrny už nemají honit jen výkon, ale tokeny na megawatt

Výkon GPU zůstává důležitý, ale pro provozovatele velkých AI datových center přestává být jedinou rozhodující veličinou. Čím dál častěji narážejí na limit dostupné elektřiny. Nvidia proto na úvodním dni AI Infra Summitu 2026 prosazovala jinou metriku: agentní tokeny na megawatt – tedy kolik užitečné inferenční práce dokáže AI továrna dodat v rámci daného energetického limitu. 23

Ian Buck, viceprezident Nvidie pro hyperscale a vysoce výkonné výpočty, v Santa Claře představil tento přístup jako problém celé infrastruktury. Nejde jen o akcelerátory, ale o souhru výpočetních systémů, sítí, inferenčního softwaru, chlazení, řízení napájení i spolupráce s elektrickou sítí. 123

Lambda: 19 uzlů v rozpočtu pro 16

Nejkonkrétnější čísla přinesla validace od cloudového poskytovatele AI infrastruktury Lambda. Ta jako první ověřovala Nvidia DSX MaxLPS v nasazeném prostředí na GPU serverech HGX B200. Podle Nvidie software sleduje odběr GPU i celých racků a volnou výkonovou rezervu přerozděluje mezi uzly clusteru. 23

V clusteru o pěti racích a 19 uzlech Lambda provozovala 19 uzlů v energetickém rozpočtu, který by jinak vystačil na 16 uzlů běžících naplno. Uváděná propustnost clusteru se tím zvýšila o 24 %: přibližně ze 4 milionů na 5 milionů tokenů za sekundu. Výkon na watt vzrostl o 23 %. 23

Podstatné je, že nejde jen o laboratorní ukazatel. Datové centrum často neomezuje místo pro další servery, ale kapacita elektrické přípojky. Jestliže mají pracovní zátěže proměnlivý odběr, může řízení nevyužité energetické rezervy zvýšit reálný výstup bez navyšování příkonu lokality či budování nové infrastruktury.

Vera Rubin: slib pro budoucí platformu, ne hotový výsledek

Nvidia zároveň nastínila, co by DSX MaxLPS mohl přinést budoucím systémům Vera Rubin NVL72. Hovoří až o 40 % vyšší GPU kapacitě ve stejném energetickém rámci lokality a až o 35 % vyšší propustnosti tokenů. Tyto hodnoty ale závisí na konkrétní konfiguraci a podmínkách nasazení. 23

Je důležité tyto údaje rozlišovat: výsledky Lambdy jsou firmou uváděnou validací v nasazeném prostředí na systémech Blackwell. Čísla pro Vera Rubin jsou naopak projekce pro připravovanou platformu, které teprve musí potvrdit provoz u zákazníků. 23

Datové centrum jako flexibilní odběrné místo

Druhou velkou částí prezentace byla reakce AI továren na stav elektrické sítě. Nvidia předvedla ve své AI továrně Eos komerční program flexibilní zátěže s platformou Conductor od Emerald AI a s dodavatelem Silicon Valley Power.

Systém podle Nvidie reagoval na více než 200 signálů energetické společnosti. Při ukázkové události dokázal během méně než jedné minuty snížit odběr areálu ze 4 MW na 3 MW. Dosáhl toho omezením méně prioritních a odložitelných výpočtů, zatímco inference s vyšší prioritou pokračovala. 23

Nvidia tento program označuje za raný praktický příklad schopností, které má nabídnout DSX Flex. Ten má přijímat signály k omezení odběru, signály programů řízení poptávky i informace o cenách energie a podle priorit rozhodovat, které úlohy lze pozastavit a následně obnovit. Demonstrace v Eos nebyla instalací DSX Flex, ale dřívějším důkazem funkčnosti konceptu v komerčním měřítku. 23

Pro operátory je rozdíl mezi úlohami zásadní. Produkční inference, například obsluha uživatelů AI služby, typicky nesnese výpadek. Naproti tomu dávkové zpracování, některé trénovací úlohy nebo offline výpočty mohou na omezený čas počkat. Právě toto rozlišení má umožnit, aby datové centrum pomohlo síti v době špičky, aniž by ohrozilo nejcennější služby.

Od čipu až k provozu celé továrny

Oznámení zapadají do širší snahy Nvidie prezentovat se nikoli jako výrobce samostatných GPU, ale jako dodavatel platformy pro AI továrny. Navrhovaný celek zahrnuje výpočetní platformu Vera Rubin, škálovací propojení NVLink, inferenční software Dynamo, sítě Ethernet a SuperNIC, infrastrukturní prvky BlueField, optimalizaci napájení na úrovni racků i řízení úloh s ohledem na síťové podmínky. 2

Součástí této pozice je také Groq 3 LPX. Nvidia jej popisuje jako akcelerátor interaktivní inference pro Vera Rubin, zaměřený na nízkou latenci a práci s rozsáhlým kontextem v agentních systémech. 112 Dodané podklady však samostatně nepotvrzují konkrétnější tvrzení o termínu uvedení, srovnání „35× vyšší propustnost na megawatt“ ani výkonu na modelech s více než dvěma biliony parametrů.

Proč má tato změna metriky obchodní význam

Důraz na provoz AI továren přichází ve chvíli, kdy datacentrový byznys Nvidie dál prudce roste. Ve druhém čtvrtletí fiskálního roku 2027, které skončilo 26. července 2026, firma vykázala tržby 96,2 miliardy dolarů, meziročně o 106 % více. Z toho 89,0 miliardy dolarů připadlo na segment Data Center. Pro třetí čtvrtletí Nvidia očekávala tržby 108 miliard dolarů s odchylkou plus minus 2 %. 172830

S růstem instalované AI kapacity proto sílí i provozní otázky: kde vzít energii, jak ze stávajícího příkonu získat více užitečné práce a jak udržet inferenční služby v chodu při energetických i provozních omezeních.

Co si z toho odnést

Nvidia netvrdí, že hrubý výkon akcelerátorů přestal rozhodovat. Její teze zní, že pro ekonomiku AI továren už samotný špičkový výkon nestačí.

Metrika ověřených tokenů na megawatt propojuje výkon hardwaru s každodenními limity provozu: dostupným příkonem, zásahy elektrické sítě, prioritami úloh a dostupností služeb. Lambda poskytla první provozní datový bod – uváděné zvýšení propustnosti o 24 %. Širší sliby Nvidie kolem Vera Rubin a platformy DSX zatím zůstávají plánem, který bude nutné ověřit v reálných zákaznických provozech. 23