ОтветыОпубликовано16 источники
MLPerf Inference v6.1: почему для ИИ-инференса теперь важны не только GPU, но и софт, масштаб и агенты
AMD показала крупнейшую совокупную производительность в конфигурации из 512 ускорителей Instinct MI355X, а NVIDIA впервые представила предварительные результаты Vera Rubin — до 3,7 раза выше пропускной способности GB3... В раунде участвовали рекордные 30 организаций; опубликовано 486 результатов для дата центров и п...
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- AMD показала крупнейшую совокупную производительность в конфигурации из 512 ускорителей Instinct MI355X, а NVIDIA впервые представила предварительные результаты Vera Rubin — до 3,7 раза выше пропускной способности GB3...
- В раунде участвовали рекордные 30 организаций; опубликовано 486 результатов для дата центров и периферийных устройств.
- Для покупателей инфраструктуры всё важнее не только скорость GPU, но и зрелость ПО, воспроизводимость результатов, задержки, масштабирование, энергопотребление и стоимость полезного вывода.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What were the key results and broader implications of MLCommons’ MLPerf Inference v6.1 benchmarks, including AMD’s record-setting MI355X per. Article summary: MLPerf Inference v6.1 showed a more competitive and more deployment-oriented inference market: AMD set aggregate-scale records, NVIDIA demonstrated its next platform while retaining strong Blackwell results, Intel broade. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
MLPerf Inference v6.1 — это уже не просто таблица самых быстрых чипов. Новый раунд бенчмарка показывает, как меняется рынок обслуживания ИИ-моделей: на первый план выходят масштаб кластера, программные оптимизации, сетевое взаимодействие и сценарии, близкие к реальным приложениям с RAG и ИИ-агентами.
Главные сигналы раунда — крупномасштабная заявка AMD на Instinct MI355X, первые предварительные данные NVIDIA Vera Rubin, более широкое представительство доступных решений Intel и новые испытания для многоэтапных ИИ-нагрузок. Практическая единица сравнения теперь — не один GPU, а доступная система инференса, работающая с нужной моделью при заданных требованиях к задержке.
AMD: рекорд на 512 GPU — важен масштаб, а не только чип
Самый заметный результат AMD представила компания Crusoe: её конфигурация из 512 ускорителей Instinct MI355X показала наибольшую совокупную пропускную способность по токенам среди результатов MLPerf Inference v6.1. 5 Это демонстрация не только возможностей самих ускорителей, но и качества распределённого инференса, сети и системной интеграции в очень крупном развертывании.
Но такой результат не стоит трактовать как универсальный вердикт о лидерстве платформы. Кластер из 512 GPU нельзя напрямую сопоставлять с одной стойкой или меньшей конфигурацией без поправки на число ускорителей, модель, сценарий теста и требования к качеству обслуживания. Для большой ИИ-фабрики суммарная производительность может быть главным показателем; в конкретном проекте важнее могут оказаться производительность на один ускоритель, плотность в стойке, энергопотребление, доступность оборудования и сложность эксплуатации.
Почему прогресс ROCm имеет стратегическое значение
История AMD — это также история программного обеспечения. Компания сообщила о росте производительности на тех же MI355X по сравнению с предыдущим циклом MLPerf, связывая его с оптимизациями ROCm. Вывод здесь простой: компиляторы, ядра, рантаймы моделей и ПО для распределённого обслуживания способны заметно увеличить полезную ёмкость уже установленного парка ускорителей — без покупки нового оборудования.
AMD также заявила о шестинедельном цикле выпусков ROCm. Если этот темп будет приносить стабильные и пригодные для внедрения улучшения, скорость развития ПО станет важной частью расчёта стоимости одного токена. Однако результаты MLPerf необходимо проверять на собственном наборе моделей, вариантах квантизации, фреймворках, профиле трафика и целевых задержках: прирост в бенчмарке не переносится в продакшен автоматически и в полном объёме.
NVIDIA: Vera Rubin показала потенциал следующей платформы
NVIDIA Vera Rubin NVL72 впервые появилась в MLPerf Inference в категории предварительных систем. NVIDIA сообщила о пропускной способности до 3,7 раза выше, чем у GB300 NVL72, в тесте Qwen3-VL; кроме того, заявка на 288 GPU GB300 NVL72 в четырёх стойках достигла 99% эффективности масштабирования. 2
Ключевая оговорка — доступность. Предварительные результаты помогают оценить направление развития архитектуры и зрелость ПО, но их нельзя автоматически использовать как прямое сравнение для закупки с системами, которые уже доступны на рынке. В таких заявках к тому же использовались кластеры разного размера, поэтому информативнее сравнивать показатели на GPU или иные нормализованные метрики, а не только общую производительность системы. 8
Для ближайших внедрений центральное место по-прежнему занимают Blackwell и Blackwell Ultra. Например, CoreWeave сообщила о лучших среди облачных провайдеров результатах в нескольких конфигурациях Blackwell и Blackwell Ultra на нагрузках Qwen3-VL, DeepSeek-R1 и GPT-OSS-120B. 4 Практический вывод здесь не в выборе единственного «победителя», а в сегментации: экстремальная совокупная производительность кластера, обслуживание на уровне стойки, мультимодальный инференс и интерактивные задержки могут благоприятствовать разным конфигурациям.
Intel расширила спектр представленных систем для инференса
Заявки Intel сделали бенчмарк более показательным и для CPU, и для профессиональных GPU уровня рабочих станций. Узел с четырьмя Arc Pro B70 объединил 128 ГБ видеопамяти и представил результаты для Llama, GPT-OSS-120B, Whisper и нового сквозного теста RAG. Intel также сообщила о программном приросте производительности той же конфигурации Arc Pro B70 относительно прошлого раунда. 3
Это не означает, что Arc Pro становится прямой заменой гипермасштабным кластерам ускорителей. Зато MLPerf лучше отражает интерес организаций, которым нужны более компактные, недорогие или гибкие варианты развертывания — особенно если решающими факторами становятся объём памяти, локальный инференс либо уже имеющаяся серверная инфраструктура.
Новые тесты RAG и агентного ИИ приближают MLPerf к реальным внедрениям
MLCommons сообщила о рекордных 30 организациях-участниках и 486 результатах для дата-центров и периферийных устройств в v6.1. В набор вошли сквозной тест RAG для дата-центров и Edge Agentic Inference — бенчмарк агентного инференса на периферийных устройствах. Это отражает переход от одиночного запроса к многоэтапным ИИ-приложениям. 9
Это расширение существенно, потому что агентные нагрузки создают узкие места, которые не всегда видны в обычном тесте максимальной генерации токенов: многоходовые диалоги, вызов инструментов, накладные расходы оркестрации и скорость отклика между шагами. По описанию MLCommons, edge-бенчмарк отражает сложные многоходовые задачи, включая агентное программирование. 9
Это всё ещё контролируемые испытания, а не полная модель работы живого сервиса. Но они заметно приближают оценку к нагрузкам, которые команды уже пытаются выводить в эксплуатацию.
Что может изменить переход к MLPerf Endpoints
MLCommons также представила MLPerf Endpoints как возможное направление дальнейшего развития. Важное различие — между периодическими заявками на бенчмарк и наблюдаемой производительностью работающих конечных точек обслуживания моделей. Зрелая программа, ориентированная на endpoints, могла бы сильнее учитывать поведение под нагрузкой, стабильность задержек, доступность и повторяемость эксплуатации, а не только пиковый результат в фиксированном прогоне.
Пока это стоит считать формирующимся направлением измерений, а не утверждённой заменой действующему процессу подачи результатов. Тем не менее v6.1 хорошо показывает, почему такой подход может быть полезен: качество развертывания определяется далеко не одной максимальной скоростью генерации токенов.
Главный вывод для покупателей: сравнивайте стек, а не заголовок
MLPerf v6.1 убедительно показывает, что конкуренцию в ИИ-инференсе определяют три взаимосвязанных фактора: возможности ускорителя, развитие программного обеспечения и системная интеграция. Крупная заявка AMD MI355X подчёркивает роль масштаба; превью NVIDIA Vera Rubin указывает на следующий этап производительности, тогда как Blackwell обслуживает текущие внедрения; Intel Arc Pro B70 расширяет спектр представленного оборудования; а новые тесты MLCommons признают, что RAG и агенты предъявляют особые требования к производительности.
Оценку платформы стоит начинать с нагрузки и эксплуатационных целей: модели, длины контекста, параллелизма, целевого SLO по задержке, энергетического лимита, масштаба развертывания и стоимости полезного результата. Затем нужно сравнивать системы при равном масштабе и одинаковом статусе доступности. Такой подход намного полезнее, чем попытка считать любой отдельный заголовок MLPerf универсальным ответом.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «MLPerf Inference v6.1: почему для ИИ-инференса теперь важны не только GPU, но и софт, масштаб и агенты»?
AMD показала крупнейшую совокупную производительность в конфигурации из 512 ускорителей Instinct MI355X, а NVIDIA впервые представила предварительные результаты Vera Rubin — до 3,7 раза выше пропускной способности GB3...
Какие ключевые моменты необходимо проверить в первую очередь?
AMD показала крупнейшую совокупную производительность в конфигурации из 512 ускорителей Instinct MI355X, а NVIDIA впервые представила предварительные результаты Vera Rubin — до 3,7 раза выше пропускной способности GB3... В раунде участвовали рекордные 30 организаций; опубликовано 486 результатов для дата центров и периферийных устройств.
Что мне делать дальше на практике?
Для покупателей инфраструктуры всё важнее не только скорость GPU, но и зрелость ПО, воспроизводимость результатов, задержки, масштабирование, энергопотребление и стоимость полезного вывода.