NVIDIA: для ИИ-фабрик важнее токены на мегаватт, а не просто больше GPU

Эпоха, когда возможности ИИ-кластера определялись главным образом числом GPU в стойке, подходит к пределу. Всё чаще узким местом становится доступная электрическая мощность. На стартовом дне AI Infra Summit 2026 NVIDIA предложила смотреть на ИИ-фабрики через другую метрику: сколько агентных токенов на мегаватт они реально выдают. Иными словами, важна не одна лишь скорость чипов, а объём полезной инференс-работы, получаемый в рамках заданного энергобюджета. 23

Эту стратегию на конференции в Санта-Кларе представил вице-президент NVIDIA по гипермасштабным и высокопроизводительным вычислениям Иэн Бак. Его тезис выходит далеко за пределы характеристик GPU: для эффективной ИИ-фабрики должны работать согласованно вычисления, сеть, ПО для инференса, охлаждение, управление питанием и взаимодействие с энергосистемой. 123

Проверка на практике: результаты Lambda с DSX MaxLPS

Самый предметный результат представил облачный провайдер ИИ-инфраструктуры Lambda. Компания провела первую проверку NVIDIA DSX MaxLPS в среде развертывания на серверах NVIDIA HGX B200. По описанию NVIDIA, система отслеживает потребление GPU и стоек, а затем перераспределяет незадействованный запас мощности между узлами кластера. 23

В кластере из пяти стоек и 19 узлов Lambda смогла эксплуатировать все 19 узлов в энергобюджете, которого обычно хватает на 16 узлов при полной мощности. Заявленный итог — рост токенной пропускной способности кластера на 24%, примерно с 4 млн до 5 млн токенов в секунду, а также рост производительности на ватт на 23%. 23

Смысл здесь вполне прикладной. Мощность, подведённая к площадке дата-центра, нередко ограничивает масштабирование сильнее, чем свободное место или число доступных серверов. Если профили энергопотребления рабочих нагрузок меняются во времени, программное использование высвобождающегося резерва может увеличить полезную отдачу без расширения электроснабжения и без увеличения общего лимита мощности объекта.

Vera Rubin: это пока расчётные оценки, а не результаты эксплуатации

NVIDIA также обозначила потенциальный эффект для будущих систем Vera Rubin NVL72. По оценке компании, DSX MaxLPS сможет дать до 40% больше GPU-мощностей в рамках того же лимита мощности площадки и до 35% больше токенной производительности — в зависимости от условий конкретного развертывания. 23

Однако эти цифры важно не смешивать с данными Lambda. Измерения Lambda относятся к развернутой системе на базе Blackwell; показатели Vera Rubin — это прогнозы NVIDIA для будущей платформы. 23

ИИ-фабрика как управляемая нагрузка для энергосети

Второй ключевой темой стала гибкость. NVIDIA считает, что ИИ-фабрика должна уметь реагировать на состояние энергосети, не относясь к каждой вычислительной задаче как к одинаково срочной.

На ИИ-фабрике NVIDIA Eos платформа Conductor компании Emerald AI работала с Silicon Valley Power в рамках коммерческой программы гибкой нагрузки. NVIDIA сообщила, что система обработала более 200 сигналов от энергокомпании и в одном из показательных случаев снизила потребление объекта с 4 до 3 МВт менее чем за минуту. Для этого она понижала приоритет гибких вычислительных задач, сохраняя выполнение более приоритетного инференса. 23

Этот опыт NVIDIA называет ранним примером возможностей, которые планируется реализовать в DSX Flex. По описанию компании, DSX Flex будет получать сигналы на сброс нагрузки, участие в программах управления спросом и изменения цен на электроэнергию, а затем применять приоритеты задач: отложенные работы можно приостановить и продолжить позднее, не затрагивая критичные сервисы. Демонстрация на Eos была коммерческим подтверждением подхода, но не внедрением DSX Flex как такового. 23

Для операторов это принципиально: обучение моделей, пакетные расчёты и офлайн-обработка далеко не всегда требуют той же скорости отклика, что и рабочий инференс. Превращение части вычислений в гибкую нагрузку может позволить дата-центру участвовать в программах энергосети, не жертвуя самыми ценными задачами.

Ставка на полный стек — от кремния до эксплуатации

Анонсы саммита показывают, что NVIDIA стремится выступать уже не просто поставщиком компонентов, а платформой для ИИ-фабрики целиком. Предлагаемый стек включает вычисления Vera Rubin, масштабируемую сеть NVLink, ПО для инференса Dynamo, Ethernet- и SuperNIC-сети, инфраструктурные компоненты BlueField, оптимизацию питания на уровне стоек и управление задачами с учётом состояния энергосети. 2

В эту же картину NVIDIA вписывает Groq 3 LPX — ускоритель интерактивного инференса для Vera Rubin, рассчитанный на низкие задержки и большой контекст, востребованные агентными системами. 112 Предоставленные источники подтверждают именно такое позиционирование, но не дают независимого подтверждения более детальным заявлениям о сроках выпуска, сравнении «в 35 раз больше производительности на мегаватт» или работе с моделями свыше двух триллионов параметров.

Почему это важно для бизнеса NVIDIA

Инфраструктурная стратегия звучит на фоне продолжающегося роста бизнеса NVIDIA. Во втором квартале 2027 финансового года, завершившемся 26 июля 2026 года, компания отчиталась о выручке в $96,2 млрд — на 106% больше год к году. Из этой суммы $89,0 млрд пришлись на сегмент Data Center. Прогноз выручки на третий квартал — $108 млрд с возможным отклонением в 2%. 172830

Этот масштаб объясняет акцент на уровне «фабрики», а не отдельного сервера. По мере ввода новых ИИ-мощностей важнейшими вопросами становятся получение электроэнергии, рост выпуска в неизменном лимите мощности и устойчивость инференс-сервисов при сетевых или операционных сбоях.

Главное

NVIDIA не утверждает, что пиковая производительность ускорителей перестала иметь значение. Её аргумент другой: одной пиковой производительности уже недостаточно для экономики ИИ-фабрики.

Метрика «подтверждённые токены на мегаватт» связывает характеристики оборудования с реальными ограничениями операторов: доступной мощностью площадки, событиями в энергосети, приоритетами рабочих нагрузок и доступностью системы. Заявленный прирост Lambda на 24% — ранний измеренный аргумент в пользу этого подхода. Более широкие обещания NVIDIA для Vera Rubin и DSX пока остаются дорожной картой, которую ещё предстоит проверить в клиентских внедрениях. 23