Конкретна програмна оптимізація, розроблена OpenAI для зниження витрат на інференс більш ніж удвічі, називається мультимодельною маршрутизацією (multi-model routing). Ця техніка автоматично скеровує прості запити до менших і дешевших моделей, залишаючи найпотужніші (і найдорожчі) моделі лише для складних завдань .
Галузеві посібники описують гібридний підхід, який забезпечує зниження витрат на 30-75% на рівні моделей завдяки використанню квантування, дистиляції та правильного вибору моделі, а також оптимізації часу виконання (пакетна обробка, спекулятивне декодування, управління KV-кешем), що дає приріст пропускної здатності на 40-80% . OpenAI також впровадила це на практиці, пропонуючи 50% знижки на відкладений інференс через свій Batch API: клієнти погоджуються чекати до 24 годин на результат
.
Крім маршрутизації, інженери OpenAI розповіли The Information, що ці техніки були настільки ефективними, що в один момент вони обслуговували ChatGPT для незареєстрованих користувачів лише на кількох сотнях графічних процесорів Nvidia .
24 червня 2026 року OpenAI та Broadcom представили Jalapeño — перший власний чип OpenAI, створений спеціально для інференсу . Ключові деталі:
OpenAI описує чип як «перший будівельний блок багаторічної програми власних мікросхем», спрямованої на створення власного обчислювального стеку та подолання цінової залежності від Nvidia . Чип є вертикально інтегрованим — OpenAI використовуватиме його виключно для власних потреб інференсу, не продаючи зовнішнім клієнтам
.
Ключові показники з документів для акціонерів за I квартал 2026 року:
Операційна маржа компанії становила приблизно -122%, тобто вона втрачала близько $1,22 на кожен зароблений долар . Загалом за 2025 рік OpenAI отримала збитки приблизно $38,5 млрд при витратах у $34 млрд
.
Заходи OpenAI зі скорочення витрат є частиною загальногалузевої цінової війни, яка змінює економіку AI:
Поєднання програмних та апаратних оптимізацій дає OpenAI змогу потенційно вдвічі скоротити витрати на інференс навіть у міру масштабування. Але компанія діє не у вакуумі. Загальне зниження цін на інференс — завдяки конкурентам, відкритим альтернативам та спеціалізованому обладнанню — означає, що цінова влада в галузі слабшає .
Для підприємств це хороша новина: ефективна вартість виконання AI-завдань падає швидше, ніж зростають можливості. Batch API від OpenAI вже пропонує 50% знижки на відкладені навантаження, а багатомодельна маршрутизація може скоротити витрати на 40-60% без втрати якості . Питання лише в тому, чи зможе будь-який окремий постачальник утримувати преміальні ціни на ринку, де китайські моделі з відкритим кодом пропонують передову функціональність за частку вартості
.