ОтветыОпубликовано25 источники
Jalapeño против Nvidia Blackwell: OpenAI добилась преимущества в инференсе, но о замене GPU речи пока нет
По данным OpenAI, Jalapeño обеспечил в 1,5–1,9 раза больше AI работы на ватт и в 1,7–3,6 раза меньшую сквозную задержку, чем системы Nvidia GB200 и GB300, в тестах на трех языковых моделях. Jalapeño — специализированный ASIC для инференса, разработанный совместно с Broadcom.
ОпубликовалОтредактировано с помощью GPT-5.6 LunaИзображения созданы с помощью GPT Image 1.5
Ответ на исследование
Ключевые выводы
- По данным OpenAI, Jalapeño обеспечил в 1,5–1,9 раза больше AI работы на ватт и в 1,7–3,6 раза меньшую сквозную задержку, чем системы Nvidia GB200 и GB300, в тестах на трех языковых моделях.
- Jalapeño — специализированный ASIC для инференса, разработанный совместно с Broadcom.
- Сравнение нельзя считать полностью равным: Jalapeño использует память HBM4, которой нет в протестированных системах Blackwell.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What are the reported performance results, power and cost-efficiency benefits, testing details and caveats, deployment timeline, development. Article summary: OpenAI reports that Jalapeño—a Broadcom co-developed, inference-focused ASIC—beats Nvidia’s Blackwell GB200/GB300 systems on the tested LLM-serving workloads for work per watt and latency. It is a meaningful proof point . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Первые опубликованные результаты OpenAI по Jalapeño выглядят впечатляюще, но это не универсальная победа над Nvidia. Компания утверждает, что ее специализированный чип для инференса превзошел системы на базе Nvidia GB200 и GB300 по объему AI-работы на ватт и времени ответа в ряде тестов обслуживания больших языковых моделей. 5
7
Для рынка AI-инфраструктуры это важный сигнал: по мере роста числа запросов к моделям стоимость электричества, охлаждения и распределения энергии становится почти столь же существенной, как цена самих ускорителей. Но Jalapeño создавался под конкретную задачу — запуск уже обученных моделей, — и не является универсальной заменой GPU Nvidia. Кроме того, у опубликованного сравнения есть существенные ограничения.
Для чего предназначен Jalapeño
Jalapeño — специализированная интегральная схема, или ASIC, которую OpenAI разработала совместно с Broadcom для инференса больших языковых моделей. Инференс — это этап, на котором обученная модель генерирует ответ пользователю; обучение модели происходит отдельно и требует иной аппаратной гибкости. 6
19
Специализированный ASIC жертвует универсальностью ради эффективности на предсказуемых и массовых сценариях. В отличие от него, GPU Nvidia рассчитаны на гораздо более широкий круг задач: обучение, дообучение, инференс, эксперименты с архитектурами и алгоритмами. Jalapeño же оптимизирован под требования OpenAI к обслуживанию запросов и под ее программно-аппаратный стек. 5
6
Именно поэтому результат следует трактовать как преимущество в определенном классе нагрузок, а не как превосходство во всех вычислительных задачах.
Что показали тесты
OpenAI сравнила Jalapeño с системами на базе Nvidia GB200 и GB300 на трех общедоступных моделях: GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T от Moonshot AI. По данным компании, на пиковом уровне пропускной способности Jalapeño обеспечил в 1,5–1,9 раза больше AI-работы на ватт, а сквозная задержка оказалась в 1,7–3,6 раза ниже. 5
7
13
Отдельные результаты показывают, насколько сильно менялись показатели в зависимости от модели:
- На GPT-OSS 120B Jalapeño достиг 85 448 смешанных токенов в секунду на киловатт против 44 960 у системы GB200 — примерно в 1,9 раза больше. Сквозная задержка составила 1,03 секунды против 1,80 секунды.
7
- На DeepSeek R1 670B показатель Jalapeño достиг 19 641 смешанного токена в секунду на киловатт против 11 781 у GB300 — примерно в 1,7 раза больше. Задержка составила 1,65 секунды против 5,99 секунды.
- На Kimi K2.5 1T Jalapeño показал 18 195 смешанных токенов в секунду на киловатт против 11 862 у GB300, то есть примерно в 1,5 раза больше работы на единицу энергии.
На интерактивных сценариях, где важнее быстрый ответ на отдельный запрос, чем максимальная суммарная пропускная способность, OpenAI заявила о еще большем преимуществе — от 2,1 до 4,1 раза. 4
13
Почему мощность имеет значение
Номинальная мощность Jalapeño составляет 700 Вт. Для сравнения, у ускорителей в протестированных системах GB200 и GB300 заявлены показатели 1 200 и 1 400 Вт соответственно. OpenAI утверждает, что в проведенных тестах устойчивое потребление Jalapeño оставалось на уровне 550 Вт или ниже. 6
12
13
Меньшая мощность самого ускорителя не означает автоматического пропорционального снижения совокупных расходов дата-центра. В итоговую стоимость входят память, серверы, сеть, охлаждение, электропитание, программное обеспечение и обслуживание. Однако способность обслуживать больше запросов при меньшем потреблении может снизить нагрузку на энергосистему и охлаждение. Для OpenAI, рассчитывающей работать в очень большом масштабе, именно это и является главным экономическим аргументом в пользу собственного кремния. 5
Насколько честно сравнение с Blackwell
Тестирование проводилось с помощью общедоступного бенчмарка InferenceX от SemiAnalysis. Измерялась сквозная работа системы обслуживания моделей на разных режимах, а не только теоретические характеристики отдельного чипа. Это делает результаты ближе к реальным эксплуатационным сценариям. 7
Тем не менее опубликованные цифры остаются результатами, представленными самой OpenAI. Независимого воспроизведения вендорно-нейтральной стороной пока нет, поэтому их следует считать важным, но предварительным свидетельством. 4
5
Есть и аппаратное ограничение. Jalapeño использует память HBM4, тогда как протестированные системы GB200 и GB300 — нет. SemiAnalysis назвала такое сравнение неполным и не вполне корректным именно по этой причине. 5
Для обслуживания крупных моделей пропускная способность и объем памяти имеют критическое значение. Платформа Nvidia Rubin также использует HBM4, поэтому она может стать более показательным сравнением для Jalapeño с точки зрения поколения памяти. Победа над GB200 и GB300 сама по себе не доказывает, что Jalapeño окажется быстрее Rubin. 5
17
Наконец, сравниваются специализированный инференсный ASIC и более универсальные системы. GPU Nvidia можно использовать для обучения, дообучения и инференса, а также адаптировать к меняющимся архитектурам моделей. ASIC раскрывает преимущество только тогда, когда целевая нагрузка достаточно стабильна и масштабна, чтобы оправдать узкую специализацию. 5
20
Когда OpenAI начнет использовать чип
OpenAI планирует начать развертывание Jalapeño в собственной вычислительной инфраструктуре в очень небольших объемах к концу 2026 года. Более заметное расширение ожидается в 2027 году. 11
33
Компания рассматривает платформу как многопоколенческую: по ее заявлениям, чипы второго и третьего поколения уже находятся в разработке. Broadcom описывает дорожную карту, рассчитанную на развертывание мощностей гигаваттного масштаба совместно с Microsoft и другими партнерами по дата-центрам. 3
11
30
Стратегия OpenAI заключается в вертикальной совместной разработке — согласовании моделей, инференсного ПО, памяти, сетевого оборудования, серверных систем и самого кремния. Такой подход может дать более жесткий контроль над задержкой и стоимостью обслуживания моделей, но одновременно сделает оборудование менее универсальным, чем массовые GPU. 3
6
33
Быстрый переход от разработки к тестовым образцам выглядит заметно, однако успешный tape-out еще не означает стабильного серийного производства. Реальный эффект будут определять выход годных чипов, интеграция в серверы, зрелость программного обеспечения, доступность поставок и способность платформы поддерживать будущие модели. Доступные данные подтверждают планы развертывания, но пока не показывают, какого производственного масштаба удастся достичь. 30
33
Почему Nvidia не исчезнет из инфраструктуры OpenAI
OpenAI заявила, что продолжит использовать Nvidia для обучения моделей и в качестве вычислительного партнера. 4
11
Такое разделение задач вполне логично. Обучение передовых моделей требует систем, способных работать с меняющимися архитектурами, алгоритмами и экспериментальными режимами. GPU Nvidia также опираются на экосистему CUDA, а сама компания поставляет не только ускорители, но и сетевые решения и готовые дата-центровые платформы. 5
Поэтому Jalapeño лучше воспринимать как точечную стратегию замещения. OpenAI может перевести на него повторяющиеся и предсказуемые инференсные нагрузки, для которых она контролирует модели, ПО и инфраструктуру. Nvidia при этом останется важна для обучения, исследований, итераций моделей и задач, где гибкость важнее энергоэффективности узкоспециализированного чипа. 4
5
В чем позиция Nvidia и Дженсена Хуанга
Позиция главы Nvidia Дженсена Хуанга сводится не к тому, что ASIC не способен выиграть отдельный инференсный тест. Главный аргумент Nvidia — клиенты покупают не только вычислительный кристалл, а гибкую платформу полного цикла. Один и тот же GPU может обучать и дообучать модели, запускать инференс и адаптироваться к изменениям программного стека. Эту универсальность дополняют CUDA, сетевые технологии и готовые системные решения Nvidia. 5
Для заказчиков с разнообразными и быстро меняющимися нагрузками это может быть важнее, чем преимущество ASIC в узком бенчмарке. Кроме того, непосредственный коммерческий эффект Jalapeño пока ограничен масштабом: на первом этапе чип будет использоваться во внутренней инфраструктуре OpenAI, а не продаваться как широко доступная альтернатива Nvidia. 1
4
Что это меняет на рынке AI-чипов
Аналитики рассматривают Jalapeño как доказательство того, что ASIC, разработанный крупным облачным оператором под собственные задачи, способен сравняться с GPU класса Blackwell или превзойти их по эффективности инференса. Это может усилить давление на Nvidia в быстрорастущем сегменте обслуживания моделей и дать крупным заказчикам возможность снизить зависимость от одного поставщика. 17
32
OpenAI не единственная компания, идущая по этому пути. Собственные AI-чипы также разрабатывают или используют Google, AWS и Meta, что указывает на более широкий переход к специализированной инфраструктуре. 5
Вероятнее всего, рынок разделится, а не переживет мгновенное исчезновение GPU:
- Кастомные ASIC могут стать привлекательными для стабильных и массовых инференсных нагрузок, которыми крупная технологическая платформа полностью управляет.
- GPU Nvidia сохранят сильные позиции в обучении, быстрых экспериментах с моделями, разнородных задачах и сценариях, где особенно важны программная экосистема и гибкость.
5
20
- Собственные чипы позволят крупным клиентам перенести предсказуемую часть спроса на свою инфраструктуру и получить больше влияния при переговорах о будущих закупках GPU.
Главный вопрос теперь состоит в том, сохранятся ли заявленные преимущества Jalapeño при более сопоставимом сравнении, смене моделей и массовом промышленном развертывании. На данный момент данные подтверждают более узкий вывод: кастомный кремний способен быть крайне конкурентоспособным с Blackwell на отдельных инференсных нагрузках, но Nvidia по-прежнему глубоко встроена в остальные уровни AI-вычислений.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Jalapeño против Nvidia Blackwell: OpenAI добилась преимущества в инференсе, но о замене GPU речи пока нет»?
По данным OpenAI, Jalapeño обеспечил в 1,5–1,9 раза больше AI работы на ватт и в 1,7–3,6 раза меньшую сквозную задержку, чем системы Nvidia GB200 и GB300, в тестах на трех языковых моделях.
Какие ключевые моменты необходимо проверить в первую очередь?
По данным OpenAI, Jalapeño обеспечил в 1,5–1,9 раза больше AI работы на ватт и в 1,7–3,6 раза меньшую сквозную задержку, чем системы Nvidia GB200 и GB300, в тестах на трех языковых моделях. Jalapeño — специализированный ASIC для инференса, разработанный совместно с Broadcom.
Что мне делать дальше на практике?
Сравнение нельзя считать полностью равным: Jalapeño использует память HBM4, которой нет в протестированных системах Blackwell.