这些数据来自The Information援引的股东文件,它凸显了AI行业面临的核心挑战:尽管需求爆棚,但可持续盈利依然遥不可及。更紧迫的是,据称OpenAI和Anthropic都已在2026年中秘密提交了IPO申请,这迫使他们必须向外界展示一条可信的盈利路径。
OpenAI近期开发的一项核心降本软件技术是多模型路由(Multi-Model Routing)。这套系统会自动将简单的查询分配给更小、更便宜的模型,而只将最强大(也是最昂贵)的模型留给复杂请求。
行业指南指出,这种混合方法在模型层通过量化(Quantization)、蒸馏(Distillation)和规模优化,可实现30-75%的成本削减;再结合批处理(Batching)、推测解码(Speculative Decoding)和KV缓存管理等运行时优化,还能获得40-80%的吞吐量提升。OpenAI还通过其Batch API提供50%的延迟推理折扣——只要客户愿意等待最多24小时获取结果。
更惊人的是,据The Information报道,OpenAI工程师表示,这些优化技术如此强大,以至于在某些时候,他们仅用几百块英伟达GPU就能为未登录的访客提供ChatGPT服务。
2026年6月24日,OpenAI与博通(Broadcom)联合发布了Jalapeño,这是OpenAI首款自研推理芯片。核心信息如下:
OpenAI将这款芯片称为“多年定制芯片路线图上的第一块基石”,旨在打造自己的计算栈,从而摆脱对英伟达定价权的依赖。该芯片采用垂直整合模式——仅供OpenAI内部推理使用,不会对外销售。
来自2026年第一季度股东文件的关键数据:
公司的运营利润率约为 -122%,即每赚1美元就亏损1.22美元。纵观整个2025年,OpenAI在340亿美元的支出基础上,亏损约为385亿美元。
OpenAI的降本行动,是整个AI行业价格战的一个缩影:
软件和硬件优化的结合,使OpenAI在扩大规模的同时有望将推理成本减半。但公司并非在真空中行动。来自竞争对手、开源替代方案和专用硬件的全行业推理价格崩溃,意味着整个行业的定价权正在快速削弱。
对于企业而言,这是好消息:运行AI工作负载的实际成本,其下降速度超过了能力的增长速度。OpenAI的Batch API已提供最高50%的延迟工作负载折扣,而多模型路由可以在不牺牲质量的情况下将成本削减40-60%。问题在于,在一个中国开源模型能以极低成本提供前沿能力的市场中,任何单一供应商是否还能维持其高昂的定价。
这些数据来自The Information援引的股东文件,它凸显了AI行业面临的核心挑战:尽管需求爆棚,但可持续盈利依然遥不可及。更紧迫的是,据称OpenAI和Anthropic都已在2026年中秘密提交了IPO申请,这迫使他们必须向外界展示一条可信的盈利路径。
OpenAI近期开发的一项核心降本软件技术是多模型路由(Multi-Model Routing)。这套系统会自动将简单的查询分配给更小、更便宜的模型,而只将最强大(也是最昂贵)的模型留给复杂请求。
行业指南指出,这种混合方法在模型层通过量化(Quantization)、蒸馏(Distillation)和规模优化,可实现30-75%的成本削减;再结合批处理(Batching)、推测解码(Speculative Decoding)和KV缓存管理等运行时优化,还能获得40-80%的吞吐量提升。OpenAI还通过其Batch API提供50%的延迟推理折扣——只要客户愿意等待最多24小时获取结果。
更惊人的是,据The Information报道,OpenAI工程师表示,这些优化技术如此强大,以至于在某些时候,他们仅用几百块英伟达GPU就能为未登录的访客提供ChatGPT服务。
2026年6月24日,OpenAI与博通(Broadcom)联合发布了Jalapeño,这是OpenAI首款自研推理芯片。核心信息如下:
OpenAI将这款芯片称为“多年定制芯片路线图上的第一块基石”,旨在打造自己的计算栈,从而摆脱对英伟达定价权的依赖。该芯片采用垂直整合模式——仅供OpenAI内部推理使用,不会对外销售。
来自2026年第一季度股东文件的关键数据:
公司的运营利润率约为 -122%,即每赚1美元就亏损1.22美元。纵观整个2025年,OpenAI在340亿美元的支出基础上,亏损约为385亿美元。
OpenAI的降本行动,是整个AI行业价格战的一个缩影:
软件和硬件优化的结合,使OpenAI在扩大规模的同时有望将推理成本减半。但公司并非在真空中行动。来自竞争对手、开源替代方案和专用硬件的全行业推理价格崩溃,意味着整个行业的定价权正在快速削弱。
对于企业而言,这是好消息:运行AI工作负载的实际成本,其下降速度超过了能力的增长速度。OpenAI的Batch API已提供最高50%的延迟工作负载折扣,而多模型路由可以在不牺牲质量的情况下将成本削减40-60%。问题在于,在一个中国开源模型能以极低成本提供前沿能力的市场中,任何单一供应商是否还能维持其高昂的定价。