Nvidia переводить AI-фабрики на новий показник: токени на мегават, а не лише кількість GPU

Для інфраструктури штучного інтелекту дедалі важливішим обмеженням стає не кількість прискорювачів, які можна встановити в стійку, а доступна електрична потужність. На старті AI Infra Summit 2026 компанія Nvidia запропонувала інший головний показник для AI-фабрики: кількість агентних токенів на мегават — тобто обсяг корисної роботи з інференсу, який майданчик виконує у межах свого енергетичного ліміту. 23

Цю стратегію на події в Санта-Кларі представив віцепрезидент Nvidia із гіпермасштабних і високопродуктивних обчислень Ієн Бак. Основна теза ширша за швидкодію GPU: продуктивність AI-фабрики залежить від узгодженої роботи обчислень, мереж, ПЗ для інференсу, охолодження, керування живленням і взаємодії з електромережею. 123

Перевірка на практиці: результати Lambda з DSX MaxLPS

Найконкретніші дані оприлюднив хмарний AI-провайдер Lambda. Компанія провела першу валідацію Nvidia DSX MaxLPS у середовищі розгортання на GPU-серверах HGX B200. За описом Nvidia, DSX MaxLPS відстежує споживання енергії на рівні GPU та стійок, а потім розподіляє вивільнений запас потужності між вузлами кластера. 23

У кластері з п’яти стійок і 19 вузлів Lambda змогла експлуатувати 19 вузлів у межах енергобюджету, який зазвичай вистачив би на 16 вузлів із повною потужністю. Компанія повідомила про зростання пропускної здатності кластера за токенами на 24% — приблизно з 4 млн до 5 млн токенів за секунду — та поліпшення продуктивності на ват на 23%. 23

Цінність такого результату — передусім операційна. Потужність дата-центру часто обмежується тим, скільки електроенергії реально підведено до майданчика. Якщо навантаження мають нерівномірний профіль споживання, використання невикористаного запасу може збільшити корисний випуск без нового підключення до мережі чи розширення енергобюджету об’єкта.

Vera Rubin: перспективні оцінки, а не експлуатаційний результат

Nvidia також окреслила потенційні переваги для майбутніх інсталяцій Vera Rubin NVL72. За оцінкою компанії, DSX MaxLPS може забезпечити до 40% більше GPU-ємності у межах заданого енергетичного ліміту майданчика та до 35% вищу пропускну здатність за токенами — залежно від умов конкретного розгортання. 23

Ці цифри слід відокремлювати від даних Lambda. Вимірювання Lambda є заявленим результатом валідації на системах Blackwell, тоді як показники для Vera Rubin — прогнози Nvidia щодо майбутньої платформи. 23

AI-фабрика як гнучкий споживач електроенергії

Другий великий напрям анонсів — здатність AI-фабрики реагувати на стан електромережі, не ставлячи всі обчислювальні завдання в один пріоритетний ряд.

На AI-фабриці Nvidia Eos платформа Conductor від Emerald AI працювала разом із Silicon Valley Power у комерційній програмі гнучкого навантаження. Nvidia повідомила, що система відреагувала на понад 200 сигналів від енергокомпанії та в одному з продемонстрованих епізодів менш ніж за хвилину знизила споживання об’єкта з 4 МВт до 3 МВт. Це стало можливим завдяки зниженню пріоритету гнучких обчислювальних задач, тоді як важливіші інференс-навантаження продовжили роботу. 23

Nvidia назвала цю програму раннім прикладом можливостей, які планує реалізувати в DSX Flex. Компанія описує DSX Flex як механізм для отримання сигналів про скидання навантаження, участь у програмах керування попитом і ціни на електроенергію. Далі система застосовує пріоритети до робочих задач: те, що можна відкласти, призупиняється й відновлюється, а критичні сервіси залишаються активними. Демонстрація на Eos була комерційним доказом підходу, а не інсталяцією DSX Flex. 23

Для операторів це практичне розмежування має значення. Навчання моделей, пакетна обробка чи офлайнові завдання не завжди вимагають такої самої швидкості реакції, як робочий інференс. Отже, частину обчислень можна перетворити на гнучке навантаження для електромережі, не жертвуючи критичними сервісами.

Ставка на повний технологічний стек

Анонси на саміті подають Nvidia не лише як постачальника компонентів, а як провайдера платформи для AI-фабрик. До запропонованого стеку входять обчислення Vera Rubin, мережа масштабування NVLink, ПЗ для інференсу Dynamo, Ethernet і SuperNIC, інфраструктурні компоненти BlueField, оптимізація живлення на рівні стійок та операційне керування навантаженням з урахуванням стану мережі. 2

У цій ширшій стратегії Nvidia також згадала Groq 3 LPX. Компанія позиціонує його як інтерактивний прискорювач інференсу для Vera Rubin, розрахований на низьку затримку та великі контекстні вікна, потрібні агентним системам. 112 Надані джерела підтверджують саме таке позиціонування, але не дають незалежного підтвердження конкретних тверджень про терміни випуску, порівняння «у 35 разів більше пропускної здатності на мегават» або роботу з моделями понад 2 трлн параметрів.

Чому це важливо для бізнесу Nvidia

Інфраструктурна стратегія виходить на тлі стрімкого зростання дата-центрового бізнесу Nvidia. У другому кварталі 2027 фінансового року, що завершився 26 липня 2026 року, компанія повідомила про виторг $96,2 млрд — на 106% більше, ніж роком раніше. На сегмент Data Center припало $89,0 млрд. 17 Прогноз Nvidia на третій квартал — $108 млрд виторгу, з допустимим відхиленням 2%. 2830

Цей фінансовий масштаб пояснює, чому компанія акцентує саме на роботі «на рівні фабрики». У міру розгортання дедалі більших AI-потужностей ключовими стають уже не тільки закупівлі прискорювачів, а й доступ до електроенергії, зростання виробітку в межах фіксованого ліміту та безперервність інференс-сервісів за енергетичних і операційних збоїв.

Висновок

Nvidia не стверджує, що пікова швидкодія прискорювачів перестала бути важливою. Її теза інша: для економіки AI-фабрики однієї лише пікової продуктивності вже недостатньо.

Запропонований показник — перевірені токени на мегават — поєднує можливості обладнання з реальними обмеженнями операторів: потужністю майданчика, подіями в енергомережі, пріоритетністю задач і доступністю систем. Заявлене Lambda підвищення пропускної здатності на 24% є раннім практичним аргументом на користь цієї ідеї. Водночас ширші обіцянки Nvidia щодо Vera Rubin і DSX залишаються дорожньою картою, яку ще належить перевірити в експлуатації у замовників. 23