これらの数字はThe Informationが株主向け文書から報じたもので、AI業界が直面する核心的な課題を浮き彫りにしている:爆発的な需要と持続可能な利益の間に、依然として大きな溝があるということだ。OpenAIとAnthropicは2026年半ばに非公開のIPO申請を行ったとされ、収益性への確かな道筋を示すプレッシャーは極めて高い。
OpenAIが推論コストを半分以上削減するために開発したソフトウェア最適化技術、それがマルチモデルルーティングだ。これは単純なクエリを自動的に小型で低コストのモデルに振り分け、最も高性能(そして最も高価)なモデルは複雑な要求にのみ投入するという手法である。
業界ガイドによると、このハイブリッドアプローチは量子化、蒸留、モデルの適正サイズ化などを組み合わせ、モデルレイヤーで30~75%のコスト削減を実現する。さらにバッチ処理、投機的デコード、KVキャッシュ管理などのランタイム最適化により、40~80%のスループット向上も達成可能だ。
OpenAIはこの技術を商用化し、Batch APIで遅延推論の50%値下げを提供している。顧客が結果を最大24時間待つことに同意すれば、半額で利用できる仕組みだ。
The Informationによると、ある時点ではログアウトしたChatGPTユーザー向けのトラフィックを、わずか数百台のNVIDIA GPUで処理できたという。
2026年6月24日、OpenAIとBroadcomは共同でJalapeñoを発表した。OpenAI初のカスタム設計推論チップである。主な特徴は以下の通り。
OpenAIはこのチップを「複数年にわたるカスタムシリコンロードマップの第一歩」と位置づけ、自社の計算スタックを構築しNVIDIAの価格支配力に対抗する狙いだ。チップは垂直統合型で、OpenAIが自社の推論ワークロード専用に使用し、外部には販売しない。
2026年第1四半期の株主向け文書から明らかになった主要数字:
営業利益率は約**-122%。つまり、1ドル稼ぐごとに1.22ドルを失っている計算だ。2025年通年では、OpenAIは約340億ドルの支出に対して385億ドルの損失**を計上している。
OpenAIのコスト削減努力は、AI業界全体で進行する価格破壊競争の一部にすぎない。
ソフトウェアとハードウェアの両面からの最適化により、OpenAIは事業拡大を続けながら推論コストを半減できる可能性がある。しかし、同社は競争のない真空状態で行動しているわけではない。競合他社、オープンソースの代替品、専用ハードウェアによって推論価格が全般的に下落しており、業界全体で価格決定力は弱まっている。
企業にとっては朗報だ。AIワークロードの実効コストは、機能の進化を上回るペースで下落している。OpenAIのBatch APIはすでに遅延ワークロードに50%の割引を提供し、マルチモデルルーティングは品質を犠牲にすることなくコストを40~60%削減する。中国のオープンソースモデルがフロンティアレベルの性能を桁違いの低コストで提供する市場で、単一のプロバイダーがプレミアム価格を維持できるのか——それが今、業界最大の問いとなっている。
これらの数字はThe Informationが株主向け文書から報じたもので、AI業界が直面する核心的な課題を浮き彫りにしている:爆発的な需要と持続可能な利益の間に、依然として大きな溝があるということだ。OpenAIとAnthropicは2026年半ばに非公開のIPO申請を行ったとされ、収益性への確かな道筋を示すプレッシャーは極めて高い。
OpenAIが推論コストを半分以上削減するために開発したソフトウェア最適化技術、それがマルチモデルルーティングだ。これは単純なクエリを自動的に小型で低コストのモデルに振り分け、最も高性能(そして最も高価)なモデルは複雑な要求にのみ投入するという手法である。
業界ガイドによると、このハイブリッドアプローチは量子化、蒸留、モデルの適正サイズ化などを組み合わせ、モデルレイヤーで30~75%のコスト削減を実現する。さらにバッチ処理、投機的デコード、KVキャッシュ管理などのランタイム最適化により、40~80%のスループット向上も達成可能だ。
OpenAIはこの技術を商用化し、Batch APIで遅延推論の50%値下げを提供している。顧客が結果を最大24時間待つことに同意すれば、半額で利用できる仕組みだ。
The Informationによると、ある時点ではログアウトしたChatGPTユーザー向けのトラフィックを、わずか数百台のNVIDIA GPUで処理できたという。
2026年6月24日、OpenAIとBroadcomは共同でJalapeñoを発表した。OpenAI初のカスタム設計推論チップである。主な特徴は以下の通り。
OpenAIはこのチップを「複数年にわたるカスタムシリコンロードマップの第一歩」と位置づけ、自社の計算スタックを構築しNVIDIAの価格支配力に対抗する狙いだ。チップは垂直統合型で、OpenAIが自社の推論ワークロード専用に使用し、外部には販売しない。
2026年第1四半期の株主向け文書から明らかになった主要数字:
営業利益率は約**-122%。つまり、1ドル稼ぐごとに1.22ドルを失っている計算だ。2025年通年では、OpenAIは約340億ドルの支出に対して385億ドルの損失**を計上している。
OpenAIのコスト削減努力は、AI業界全体で進行する価格破壊競争の一部にすぎない。
ソフトウェアとハードウェアの両面からの最適化により、OpenAIは事業拡大を続けながら推論コストを半減できる可能性がある。しかし、同社は競争のない真空状態で行動しているわけではない。競合他社、オープンソースの代替品、専用ハードウェアによって推論価格が全般的に下落しており、業界全体で価格決定力は弱まっている。
企業にとっては朗報だ。AIワークロードの実効コストは、機能の進化を上回るペースで下落している。OpenAIのBatch APIはすでに遅延ワークロードに50%の割引を提供し、マルチモデルルーティングは品質を犠牲にすることなくコストを40~60%削減する。中国のオープンソースモデルがフロンティアレベルの性能を桁違いの低コストで提供する市場で、単一のプロバイダーがプレミアム価格を維持できるのか——それが今、業界最大の問いとなっている。