Ключевая программная оптимизация, которую OpenAI разработала для снижения стоимости инференса более чем вдвое, — это мультимодельная маршрутизация. Этот метод автоматически направляет простые запросы к более компактным и дешёвым моделям, оставляя самые мощные (и дорогие) модели только для сложных задач .
Отраслевые источники описывают такой гибридный подход как способ добиться снижения затрат на 30–75% на уровне моделей за счёт квантизации, дистилляции и подбора оптимального размера, а также оптимизаций времени выполнения (батчинг, спекулятивное декодирование, управление KV-кэшем), которые дают прирост пропускной способности на 40–80% . OpenAI также внедрила 50-процентные скидки для отложенного инференса через свой Batch API — если клиент согласен ждать результатов до 24 часов
.
Инженеры OpenAI рассказали The Information, что эти методы настолько эффективны, что в какой-то момент ChatGPT для неавторизованных посетителей работал всего на паре сотен GPU от Nvidia .
24 июня 2026 года OpenAI и Broadcom представили Jalapeño — первый собственный чип для инференса, созданный OpenAI . Ключевые детали:
Openai называет этот чип «первым строительным блоком многолетней программы по созданию собственного кремния», чтобы выстроить собственный вычислительный стек и ослабить зависимость от ценообразования Nvidia . Чип является вертикально интегрированным — OpenAI будет использовать его исключительно для собственных задач инференса, не продавая внешним клиентам
.
Ключевые показатели из документов для акционеров за Q1 2026:
Операционная маржа компании составила примерно -122%, то есть каждый заработанный доллар обходился в $1,22 убытка . В целом за 2025 год OpenAI показала убыток порядка $38,5 млрд при расходах в $34 млрд
.
Меры OpenAI по сокращению расходов вписываются в общеотраслевую ценовую войну, которая меняет экономику ИИ:
Сочетание программных и аппаратных оптимизаций позволяет OpenAI потенциально вдвое сократить затраты на инференс даже при масштабировании. Но компания действует не в вакууме. Общее обрушение цен на инференс — из-за конкурентов, open-source альтернатив и специализированного «железа» — означает, что ценовая власть во всей отрасли ослабевает .
Для предприятий это хорошая новость: эффективная стоимость выполнения ИИ-задач падает быстрее, чем растут их возможности. Batch API от OpenAI уже предлагает 50-процентные скидки для отложенных задач, а мультимодельная маршрутизация может сократить расходы на 40–60% без потери качества . Вопрос в том, сможет ли кто-то из поставщиков сохранить премиальное ценообразование на рынке, где китайские open-source модели предлагают возможности уровня frontier за малую долю стоимости
.