呢啲數字由《The Information》引述股東文件報道,反映出AI行業嘅核心矛盾:需求爆炸性增長,但仲未轉化為可持續利潤 。問題仲緊要啲,因為消息指OpenAI同Anthropic都喺2026年中秘密提交咗IPO申請,迫住要向投資者展示一條可行嘅盈利路徑 。
OpenAI為咗降低推理成本超過一半而研發嘅軟件優化方法,就係多模型路由(multi-model routing)。呢項技術會自動將簡單嘅查詢分流去較細、較平嘅模型,而最強大(亦最貴)嘅模型就留返處理複雜請求 。
業界指南指出,呢種混合方法喺模型層面可實現30-75%嘅成本削減,善用量化、蒸餾同埋「啱用先啱」嘅模型選擇,再配合批次處理、投機解碼同KV快取等運行時優化,吞吐量可提升40-80% 。OpenAI更將呢個概念商品化,推出Batch API延遲推理享半價優惠——客戶如果肯等最多24小時攞結果,價格即刻減半 。
《The Information》引述OpenAI工程師話,呢啲優化技術勁到一度可以只用「幾百張NVIDIA GPU」就serve到ChatGPT畀未登入嘅訪客 。
2026年6月24日,OpenAI聯同Broadcom正式發布Jalapeño——OpenAI第一粒自家研發嘅推理晶片 。重點如下:
OpenAI形容呢粒晶片係「多年自研晶片路線圖嘅第一塊積木」,目標係建立自己嘅運算堆疊,打破NVIDIA嘅定價主導權 。晶片係垂直整合嘅——OpenAI只會用嚟做自己嘅推理工作,唔會賣畀外部客戶 。
從Q1 2026股東文件睇到嘅關鍵數字:
公司嘅營運利潤率大約係**-122%,即係每賺一蚊就要蝕大約$1.22 。成個2025年計,OpenAI總共蝕咗大約$385億**,開支$340億 。
OpenAI嘅慳錢行動,正正係整個行業價格戰嘅縮影:
軟件同硬件雙管齊下,OpenAI有望喺擴張嘅同時將推理成本砍半。但公司唔係喺真空入面做嘢。成個推理定價嘅崩盤——由競爭對手、開源替代方案同專用硬件推動——意味住整個行業嘅定價能力正在削弱 。
對企業嚟講,呢個係好消息:運行AI工作嘅實際成本跌得快過能力增長。OpenAI嘅Batch API已經畀出50%折扣畀等得嘅工作,而多模型路由可以喺唔影響質素嘅情況下慳40-60%成本 。問題係,喺一個中國開源模型用幾分之一嘅價錢就提供到前沿能力嘅市場入面,仲有冇供應商可以維持溢價收費 。
呢啲數字由《The Information》引述股東文件報道,反映出AI行業嘅核心矛盾:需求爆炸性增長,但仲未轉化為可持續利潤 。問題仲緊要啲,因為消息指OpenAI同Anthropic都喺2026年中秘密提交咗IPO申請,迫住要向投資者展示一條可行嘅盈利路徑 。
OpenAI為咗降低推理成本超過一半而研發嘅軟件優化方法,就係多模型路由(multi-model routing)。呢項技術會自動將簡單嘅查詢分流去較細、較平嘅模型,而最強大(亦最貴)嘅模型就留返處理複雜請求 。
業界指南指出,呢種混合方法喺模型層面可實現30-75%嘅成本削減,善用量化、蒸餾同埋「啱用先啱」嘅模型選擇,再配合批次處理、投機解碼同KV快取等運行時優化,吞吐量可提升40-80% 。OpenAI更將呢個概念商品化,推出Batch API延遲推理享半價優惠——客戶如果肯等最多24小時攞結果,價格即刻減半 。
《The Information》引述OpenAI工程師話,呢啲優化技術勁到一度可以只用「幾百張NVIDIA GPU」就serve到ChatGPT畀未登入嘅訪客 。
2026年6月24日,OpenAI聯同Broadcom正式發布Jalapeño——OpenAI第一粒自家研發嘅推理晶片 。重點如下:
OpenAI形容呢粒晶片係「多年自研晶片路線圖嘅第一塊積木」,目標係建立自己嘅運算堆疊,打破NVIDIA嘅定價主導權 。晶片係垂直整合嘅——OpenAI只會用嚟做自己嘅推理工作,唔會賣畀外部客戶 。
從Q1 2026股東文件睇到嘅關鍵數字:
公司嘅營運利潤率大約係**-122%,即係每賺一蚊就要蝕大約$1.22 。成個2025年計,OpenAI總共蝕咗大約$385億**,開支$340億 。
OpenAI嘅慳錢行動,正正係整個行業價格戰嘅縮影:
軟件同硬件雙管齊下,OpenAI有望喺擴張嘅同時將推理成本砍半。但公司唔係喺真空入面做嘢。成個推理定價嘅崩盤——由競爭對手、開源替代方案同專用硬件推動——意味住整個行業嘅定價能力正在削弱 。
對企業嚟講,呢個係好消息:運行AI工作嘅實際成本跌得快過能力增長。OpenAI嘅Batch API已經畀出50%折扣畀等得嘅工作,而多模型路由可以喺唔影響質素嘅情況下慳40-60%成本 。問題係,喺一個中國開源模型用幾分之一嘅價錢就提供到前沿能力嘅市場入面,仲有冇供應商可以維持溢價收費 。