這些數據來自《The Information》根據 OpenAI 向股東揭露的文件所做的報導,凸顯了 AI 產業的核心挑戰:爆炸性的需求尚未轉化為可持續的利潤 。由於 OpenAI 與 Anthropic 據傳已在 2026 年中期祕密提交了 IPO 申請,兩家公司都必須向投資人展現一條通往獲利的可信路徑 。
OpenAI 開發出的軟體優化技術,能將推論成本降低超過一半,其核心就是 多模型路由 (Multi-Model Routing)。這項技術會自動將簡單的查詢導向較小、較便宜的模型,而將最強大(也最昂貴)的模型保留給複雜的請求 。
業界指南指出,這種混合方法在模型層級上,透過量化、蒸餾和模型規模最佳化,能實現 30% 至 75% 的成本降低;再結合批次處理、投機解碼和 KV 快取等執行階段優化,還能帶來 40% 至 80% 的吞吐量提升 。OpenAI 也將此策略商品化,推出了 批次 API (Batch API),若客戶同意等待最多 24 小時取得結果,即可享有 50% 的價格折扣 。
除了路由技術,OpenAI 的工程師向《The Information》透露,這些優化技術的威力強大到,一度只用了「幾百張」Nvidia GPU 就能服務所有未登入的 ChatGPT 訪客 。
2026 年 6 月 24 日,OpenAI 與博通 (Broadcom) 共同發表了 Jalapeño,這是 OpenAI 首款自行設計的推論晶片 。關鍵細節如下:
OpenAI 將這款晶片描述為「多年期客製矽晶片路線圖的第一塊基石」,旨在建立自家的運算堆疊,擺脫對 Nvidia 的依賴 。這是一款垂直整合的晶片,OpenAI 將獨家使用於自家的推論工作負載,不對外販售 。
以下是來自 2026 年第一季股東文件的關鍵數據:
公司的營業利益率約為 -122%,表示每賺 1 美元就虧損 1.22 美元 。整體而言,OpenAI 在 2025 年的支出約為 340 億美元,導致約 385 億美元的虧損 。
OpenAI 的成本削減行動,是整個產業價格戰的一部分,這場戰爭正重塑 AI 的經濟學:
軟體與硬體的雙重優化,讓 OpenAI 即使在規模化擴張的同時,也能有機會將推論成本砍半。但 OpenAI 並非在真空中行動。來自競爭對手、開源替代方案和專用硬體的壓力,正導致整個產業的定價權逐漸流失 。
對企業而言,這是好消息:運行 AI 工作負載的實際成本下降速度,甚至快於 AI 能力的增長速度。OpenAI 的批次 API 已提供 50% 的折扣,而多模型路由可以在不犧牲品質的情況下削減 40-60% 的成本 。問題在於,當中國的開源模型能以極低的成本提供一線水準的能力時,任何單一供應商是否還能維持其溢價定價策略 。
這些數據來自《The Information》根據 OpenAI 向股東揭露的文件所做的報導,凸顯了 AI 產業的核心挑戰:爆炸性的需求尚未轉化為可持續的利潤 。由於 OpenAI 與 Anthropic 據傳已在 2026 年中期祕密提交了 IPO 申請,兩家公司都必須向投資人展現一條通往獲利的可信路徑 。
OpenAI 開發出的軟體優化技術,能將推論成本降低超過一半,其核心就是 多模型路由 (Multi-Model Routing)。這項技術會自動將簡單的查詢導向較小、較便宜的模型,而將最強大(也最昂貴)的模型保留給複雜的請求 。
業界指南指出,這種混合方法在模型層級上,透過量化、蒸餾和模型規模最佳化,能實現 30% 至 75% 的成本降低;再結合批次處理、投機解碼和 KV 快取等執行階段優化,還能帶來 40% 至 80% 的吞吐量提升 。OpenAI 也將此策略商品化,推出了 批次 API (Batch API),若客戶同意等待最多 24 小時取得結果,即可享有 50% 的價格折扣 。
除了路由技術,OpenAI 的工程師向《The Information》透露,這些優化技術的威力強大到,一度只用了「幾百張」Nvidia GPU 就能服務所有未登入的 ChatGPT 訪客 。
2026 年 6 月 24 日,OpenAI 與博通 (Broadcom) 共同發表了 Jalapeño,這是 OpenAI 首款自行設計的推論晶片 。關鍵細節如下:
OpenAI 將這款晶片描述為「多年期客製矽晶片路線圖的第一塊基石」,旨在建立自家的運算堆疊,擺脫對 Nvidia 的依賴 。這是一款垂直整合的晶片,OpenAI 將獨家使用於自家的推論工作負載,不對外販售 。
以下是來自 2026 年第一季股東文件的關鍵數據:
公司的營業利益率約為 -122%,表示每賺 1 美元就虧損 1.22 美元 。整體而言,OpenAI 在 2025 年的支出約為 340 億美元,導致約 385 億美元的虧損 。
OpenAI 的成本削減行動,是整個產業價格戰的一部分,這場戰爭正重塑 AI 的經濟學:
軟體與硬體的雙重優化,讓 OpenAI 即使在規模化擴張的同時,也能有機會將推論成本砍半。但 OpenAI 並非在真空中行動。來自競爭對手、開源替代方案和專用硬體的壓力,正導致整個產業的定價權逐漸流失 。
對企業而言,這是好消息:運行 AI 工作負載的實際成本下降速度,甚至快於 AI 能力的增長速度。OpenAI 的批次 API 已提供 50% 的折扣,而多模型路由可以在不犧牲品質的情況下削減 40-60% 的成本 。問題在於,當中國的開源模型能以極低的成本提供一線水準的能力時,任何單一供應商是否還能維持其溢價定價策略 。