Что на самом деле показали тесты чипа OpenAI Jalapeño

Главный вывод из первых подробных тестов OpenAI довольно конкретен: специализированный чип Jalapeño может запускать большие языковые модели с меньшим энергопотреблением и меньшей задержкой, чем именно те системы Nvidia GB200 и GB300, с которыми его сравнивали. На публичном бенчмарке InferenceX от SemiAnalysis OpenAI сообщила о 1,5–1,9 раза большей производительности на ватт и о снижении сквозной задержки в 1,7–3,6 раза для трех моделей с открытыми весами.

Для компании, которая обрабатывает огромный поток AI‑запросов, это важный результат. Но он не доказывает, что Jalapeño окажется более быстрым или дешевым универсальным заменителем GPU. Тестирование было узким, сам чип предназначен только для инференса, а исходные показатели в основном получены OpenAI на инженерных образцах. 14

Какие результаты показал Jalapeño

OpenAI сравнила Jalapeño с системами Nvidia GB200 и GB300 на InferenceX — тесте, который оценивает полный процесс обслуживания AI‑запроса, а не только пиковую вычислительную мощность. Показатели эффективности нормировались с использованием опубликованных значений энергопотребления ускорителей.

По заявлению компании, Jalapeño обеспечил:

• в 1,5–1,9 раза больше AI‑работы на ватт при пиковой пропускной способности;
• в 1,7–3,6 раза меньшую сквозную задержку;
• в 2,1–4,1 раза более высокую производительность на выбранных режимах для высокоинтерактивных нагрузок. 4

Наибольший разрыв по задержке в представленных результатах пришелся на DeepSeek R1 670B: Jalapeño обработал запрос за 1,65 секунды против 5,99 секунды у системы на базе GB300. 1112

Это относительные результаты конкретного бенчмарка, а не обещание, что ответы в ChatGPT автоматически станут в 3,6 раза быстрее или что цены API снизятся во столько же. Реальная скорость зависит от модели, серверного ПО, пакетной обработки запросов, сети, длины контекста, объема ответа и выбранного баланса между задержкой и пропускной способностью.

Какие модели и условия проверяли

В тестах участвовали три публичные модели с открытыми весами:

Модель	Система Nvidia для сравнения	Результат Jalapeño по данным OpenAI
GPT‑OSS 120B	GB200	примерно в 1,9 раза больше работы на ватт; 1,03 с против 1,80 с сквозной задержки
DeepSeek R1 670B	GB300	примерно в 1,7 раза больше работы на ватт; 1,65 с против 5,99 с задержки
Kimi K2.5 1T	GB300	примерно в 1,5 раза больше работы на ватт; 1,56 с против 5,31 с задержки

Эти значения взяты из опубликованных сводок тестов, а не из полностью независимо воспроизведенного набора измерений. 61112

Нагрузка была номинально односессионной: 8 000 входных токенов и 1 000 выходных. Такой формат удобен для контролируемого сравнения, но не отражает весь спектр реального использования. Он не отвечает на вопросы о многошаговых диалогах, вызовах инструментов, агентских сценариях, ответах переменной длины, пакетной обработке и запросах с очень длинным контекстом. 813

Кроме того, измерялась конкретная комбинация аппаратного и программного обеспечения. Обновления компиляторов, ядер, квантования, планировщика, архитектуры модели или программного стека Nvidia способны заметно изменить разрыв между системами.

Что представляет собой система Jalapeño

Jalapeño — специализированная интегральная схема, или ASIC, которую OpenAI разработала совместно с Broadcom для инференса больших языковых моделей. В отличие от универсального GPU, она оптимизирована под выполнение уже обученной модели и генерацию ответа. 15

Заявленные характеристики системы уровня стойки включают:

• 128 ускорительных чипов в одной системе;
• около 1,7 экзафлопса вычислений в формате 4‑бит;
• примерно 27 ТБ памяти с высокой пропускной способностью;
• 700 Вт на чип против опубликованных значений 1 200 Вт для GB200 и 1 400 Вт для GB300. 121419

Сообщается, что версия B0 использует вычислительный кристалл размером с фотошаблон, изготовленный по техпроцессу TSMC N3P, и обеспечивает 13,4 петафлопса вычислений MXFP4 на одном кристалле. 18

Архитектура Jalapeño рассчитана не на отдельный ускоритель, а на комплексную систему: память, межсоединения, сеть и обмен данными между стойками имеют такое же значение, как и сами вычислительные блоки. Это особенно важно для очень крупных моделей, которым требуется распределять один запрос между множеством чипов. 1819

Как быстро разработали чип и какую роль сыграл ИИ

По имеющимся данным, OpenAI и Broadcom прошли путь от концепции до tape‑out — передачи готового проекта микросхемы в производство — примерно за девять месяцев. Для высокопроизводительного специализированного чипа это необычно короткий срок. 720

ИИ действительно использовался как инструмент в инженерном процессе. Однако это не означает, что модель самостоятельно спроектировала и изготовила процессор. В разработке по‑прежнему участвовали специалисты по архитектуре и схемотехнике, Broadcom, производственные партнеры и команды, отвечавшие за интеграцию системы. 713

Более точная формулировка такова: OpenAI использовала собственное понимание нагрузок языковых моделей и AI‑инструменты в инженерном цикле, чтобы совместно спроектировать аппаратную и программную платформу под узкую задачу. Такая специализация способна повысить эффективность, но одновременно делает чип менее гибким по сравнению с программируемым GPU.

Почему Jalapeño работает только на инференс и почему это важно

Jalapeño создан для запуска уже обученных моделей, а не для обучения новых передовых систем. Поэтому OpenAI по‑прежнему потребуются программируемые ускорители, прежде всего GPU, для обучения, исследований, экспериментов и задач, которые плохо укладываются в фиксированную архитектуру инференс‑ASIC. 813

Именно здесь нужно осторожно трактовать заголовки о том, что Jalapeño «победил Nvidia». Специализированный чип может опережать протестированные конфигурации Nvidia по отдельным показателям инференса, тогда как оборудование Nvidia остается необходимым в других частях вычислительной инфраструктуры OpenAI.

Иными словами, ASIC может превосходно справляться с предсказуемой и массовой задачей, не заменяя универсальную платформу для обучения моделей и быстрых изменений программного стека.

Чего эти тесты не доказывают

Результаты следует читать как «лучше в этих заявленных тестах», а не как «лучшая AI‑система в целом». Важны несколько ограничений:

• использовалась фиксированная, сравнительно простая односессионная нагрузка, а не весь спектр производственного трафика; 1112
• опубликованные показатели были получены OpenAI на инженерных образцах; SemiAnalysis, по имеющимся сообщениям, проверила запуски в лаборатории OpenAI, однако исходные цифры предоставила сама OpenAI; 214
• эффективность нормировалась по опубликованным значениям мощности чипов, что удобно для сопоставления, но не заменяет полного анализа затрат и энергопотребления дата‑центра; 11
• результаты могут измениться после обновлений компиляторов, ядер, среды выполнения, квантования, пакетной обработки, сети и программного обеспечения Nvidia;
• сравнение не показало, как Jalapeño выглядит на фоне всех новых и будущих ускорителей, включая продукты Nvidia после поколения Blackwell, а также последние системы Google, Amazon, Microsoft, AMD и других поставщиков. 238

Поэтому на основании этих данных нельзя утверждать, что OpenAI гарантированно сократит расходы на 50%, снизит цены API или немедленно откажется от Nvidia. Доказательства поддерживают заявления о скорости и энергоэффективности в заданных условиях, но не более широкие коммерческие выводы.

Когда OpenAI начнет использовать Jalapeño

OpenAI планирует начать развертывание Jalapeño в собственной инфраструктуре к концу 2026 года. Массовое производство и более широкое внедрение ожидаются в 2027‑м. Долгосрочный план предусматривает дата‑центры гига‑ваттного масштаба совместно с Microsoft и другими инфраструктурными партнерами, а также несколько поколений чипов. 16

Jalapeño предназначен прежде всего для внутренних потребностей OpenAI, а не для продажи как стандартный процессор. Поэтому внешним компаниям не стоит ожидать возможности купить этот чип или арендовать публичную облачную инстанцию Jalapeño на основании нынешних заявлений. 16

Внутреннее использование дает OpenAI возможность оптимизировать чип под собственные модели, ядра и серверные системы. Одновременно компании не придется создавать полноценные каналы продаж, экосистему поддержки и совместимость для сторонних клиентов. Это стратегическая интерпретация модели развертывания; подтвержденный факт — план внутреннего использования, а не внешних продаж. 16

Место Jalapeño в стратегии OpenAI и гонке AI‑чипов

Jalapeño лучше рассматривать как один элемент более широкой вычислительной стратегии OpenAI. Компания сочетает облачные мощности Microsoft и других партнеров, GPU уровня Nvidia для обучения и гибких нагрузок и собственные чипы для стабильного инференса, где специализация может дать экономический эффект. В описании вычислительного портфеля OpenAI также фигурируют AWS, AMD, Broadcom, Cerebras, CoreWeave, Oracle, SB Energy и SoftBank.

Такой подход отражает общий поворот отрасли к вертикальной интеграции. Google развивает TPU, Amazon — Trainium и Inferentia, Microsoft — Maia, AMD конкурирует с универсальными AI‑GPU, а Nvidia продолжает поставлять широко программируемые системы. Anthropic также движется к более специализированной инфраструктуре через облачные партнерства, хотя приведенные результаты не позволяют напрямую сравнить ее системы с Jalapeño.

Ближайший стратегический эффект поэтому заключается не в полном вытеснении Nvidia. Jalapeño может дать OpenAI больше контроля над стоимостью и задержкой инференса, поставками и собственной аппаратной дорожной картой. При этом Nvidia останется важной для обучения и исследовательских задач, а чип OpenAI станет специализированным инструментом для предсказуемых высокообъемных нагрузок, которые занимают значительную часть ее инфраструктуры. 813