Бенчмарк берет за основу реальные «траектории» действий агентов-разработчиков из публичных репозиториев на 12+ языках программирования. Он требует от системы не просто генерировать ответы, а выдерживать многоходовые цепочки: последовательные вызовы языковой модели, обращения к инструментам (с эмулируемой задержкой CPU) и работу с постоянно растущим контекстным окном .

Ключевая метрика здесь — количество параллельно работающих агентов, которых инфраструктура может обслуживать с соблюдением строгих соглашений об уровне сервиса (SLO). В опубликованных тестах замерялись жесткие лимиты: скорость выдачи не ниже 20 или 60 токенов в секунду при задержке первого токена не более 10 секунд . Итоговая производительность нормируется на один ускоритель и на мегаватт потребляемой энергии .

Результаты Nvidia: 20X и 61 тысяча агентов

Тесты проводились на одной из самых требовательных современных моделей — DeepSeek V4 Pro (большая смесь экспертов, MoE), которая как раз и лежит в основе самых мощных агентных систем .

Результаты Nvidia впечатляют:

• Абсолютное лидерство: Конфигурация Nvidia GB300 NVL72 (Blackwell Ultra) показала наивысшую производительность среди всех протестированных платформ при любых уровнях SLO .
• Энергоэффективность как оружие: По сравнению с предыдущим поколением Nvidia HGX H200 (архитектура Hopper) новая система способна обслуживать до 20 раз больше агентов на мегаватт — и при нормативе 20 токенов/с, и при более жестких 60 токенов/с .
• Абсолютные цифры: Согласно данным из социальных сетей Artificial Analysis, на самом легком уровне SLO (20 токенов/с, 10 с задержки первого токена) стоечная система GB300 в дезагрегированной конфигурации достигла отметки в 61 340 параллельных агентов .

Как это вписывается в большую стратегию Nvidia

Запуск AgentPerf и победа в нем — не случайность, а просчитанная демонстрация готовности Nvidia к новой волне «агентных фабрик». Стратегия компании прослеживается сразу по нескольким направлениям.

Тотальная кооптимизация «железа» и софта. 20-кратный отрыв от Hopper Nvidia объясняет не просто сменой кристалла, а слаженной работой всех звеньев платформы: объединение 72 GPU через NVLink в единую фабрику, специальные CUDA-ядра, которые перекрывают вычисления и передачу данных для MoE-моделей, и новые оптимизации в TensorRT LLM (WideEP, DeepEP, DeepGEMM) .

Доминирование в бенчмарках. AgentPerf для Nvidia — лишь новый фронт в череде побед. Архитектура Blackwell Ultra уже установила рекорды в MLPerf Inference v5.1 (в 1.4 раза быстрее обрабатывает DeepSeek-R1 по сравнению с предшественником) и заняла первые места во всех семи тестах MLPerf Training v5.1 .

Доказательства от экосистемы. Партнеры Nvidia — такие как Together AI (на чьей инфраструктуре работают агенты в IDE Cursor) и DeepInfra (поддерживающая «ИИ-сотрудников» от Pam.ai) — уже запустили агентные рабочие нагрузки на Blackwell Ultra. Это подчеркивает, что платформа готова к реальной коммерческой эксплуатации, а не только к лабораторным тестам .

Взгляд в будущее. В блоге компания не упускает шанс упомянуть, что следующее поколение архитектуры, Vera Rubin (уже запущенное в производство), станет новым шагом для наращивания агентных ИИ-мощностей . Как отмечают технические обзоры, ожидается рост вычислительной мощности до 50 PFLOPS в формате NVFP4 и улучшенная аппаратная поддержка вызовов инструментов .

Бенчмарк берет за основу реальные «траектории» действий агентов-разработчиков из публичных репозиториев на 12+ языках программирования. Он требует от системы не просто генерировать ответы, а выдерживать многоходовые цепочки: последовательные вызовы языковой модели, обращения к инструментам (с эмулируемой задержкой CPU) и работу с постоянно растущим контекстным окном .

Ключевая метрика здесь — количество параллельно работающих агентов, которых инфраструктура может обслуживать с соблюдением строгих соглашений об уровне сервиса (SLO). В опубликованных тестах замерялись жесткие лимиты: скорость выдачи не ниже 20 или 60 токенов в секунду при задержке первого токена не более 10 секунд . Итоговая производительность нормируется на один ускоритель и на мегаватт потребляемой энергии .

Результаты Nvidia: 20X и 61 тысяча агентов

Тесты проводились на одной из самых требовательных современных моделей — DeepSeek V4 Pro (большая смесь экспертов, MoE), которая как раз и лежит в основе самых мощных агентных систем .

Результаты Nvidia впечатляют:

• Абсолютное лидерство: Конфигурация Nvidia GB300 NVL72 (Blackwell Ultra) показала наивысшую производительность среди всех протестированных платформ при любых уровнях SLO .
• Энергоэффективность как оружие: По сравнению с предыдущим поколением Nvidia HGX H200 (архитектура Hopper) новая система способна обслуживать до 20 раз больше агентов на мегаватт — и при нормативе 20 токенов/с, и при более жестких 60 токенов/с .
• Абсолютные цифры: Согласно данным из социальных сетей Artificial Analysis, на самом легком уровне SLO (20 токенов/с, 10 с задержки первого токена) стоечная система GB300 в дезагрегированной конфигурации достигла отметки в 61 340 параллельных агентов .

Как это вписывается в большую стратегию Nvidia

Запуск AgentPerf и победа в нем — не случайность, а просчитанная демонстрация готовности Nvidia к новой волне «агентных фабрик». Стратегия компании прослеживается сразу по нескольким направлениям.

Тотальная кооптимизация «железа» и софта. 20-кратный отрыв от Hopper Nvidia объясняет не просто сменой кристалла, а слаженной работой всех звеньев платформы: объединение 72 GPU через NVLink в единую фабрику, специальные CUDA-ядра, которые перекрывают вычисления и передачу данных для MoE-моделей, и новые оптимизации в TensorRT LLM (WideEP, DeepEP, DeepGEMM) .

Доминирование в бенчмарках. AgentPerf для Nvidia — лишь новый фронт в череде побед. Архитектура Blackwell Ultra уже установила рекорды в MLPerf Inference v5.1 (в 1.4 раза быстрее обрабатывает DeepSeek-R1 по сравнению с предшественником) и заняла первые места во всех семи тестах MLPerf Training v5.1 .

Доказательства от экосистемы. Партнеры Nvidia — такие как Together AI (на чьей инфраструктуре работают агенты в IDE Cursor) и DeepInfra (поддерживающая «ИИ-сотрудников» от Pam.ai) — уже запустили агентные рабочие нагрузки на Blackwell Ultra. Это подчеркивает, что платформа готова к реальной коммерческой эксплуатации, а не только к лабораторным тестам .

Взгляд в будущее. В блоге компания не упускает шанс упомянуть, что следующее поколение архитектуры, Vera Rubin (уже запущенное в производство), станет новым шагом для наращивания агентных ИИ-мощностей . Как отмечают технические обзоры, ожидается рост вычислительной мощности до 50 PFLOPS в формате NVFP4 и улучшенная аппаратная поддержка вызовов инструментов .