AI 推理支出首超训练：一场悄然而至的预算革命

推理 vs. 训练：数字说话

Gartner 2026 年 8 月的报告对 AI 优化云基础设施支出做出了以下预测：

• 2026 年： 推理工作量支出预计达到 233 亿美元，相比之下训练为 190 亿美元——这是推理首次在 AI 优化 IaaS 中超越训练 。
• 2027 年： 推理支出预计将占 AI 优化 IaaS 支出的 59%，高于 2026 年的 55% 。

作为背景，在生成式 AI 热潮早期，训练主导了基础设施支出。这一动态现已完全逆转 。

增长不仅限于推理。AI 优化 IaaS 总支出 预计在 2026 年达到 423 亿美元，较 2025 年的 215 亿美元 增长 96.4%。2027 年，市场预计将进一步增长至 661 亿美元，增幅 56.5% 。

全球整体 IaaS 支出（包括非 AI 工作量）预计 2026 年将达到 2873 亿美元（较 2025 年的 2222 亿美元增长 29.3%），2027 年达到 3599 亿美元 。

翻转背后的推手：Agentic AI 与微调模型

Gartner 指出，两大力量正推动推理支出超越训练：

• Agentic AI——能够自主执行多步骤任务的系统——极大地增加了计算强度，使推理成为主导的消费模式 。
• 微调和领域特定模型（DSM） 正被集成到面向客户和运营的系统中，需要持续、实时的执行，而非周期性的训练 。

Gartner 分析师 Hardeep Singh 指出：“这一转变正在加速云消费模式，并创造对 AI 优化基础设施的持续需求” 。

这一模式也得到了其他分析师的证实。德勤（Deloitte）在《Tech Trends 2026》中估计，2026 年推理已占所有 AI 计算的三分之二 。Futurum Group 的独立预测显示，2025 年托管推理已达 231 亿美元（占基础设施支出的 58.6%），推理早在 2025 年就已超越训练 。

更广泛的 AI 支出背景

Gartner 的支出数据是更大图景的一部分：

• 全球 AI 支出（所有类别）预计 2026 年总计达到 2.59 万亿美元，同比增长 47% 。
• 超大规模云服务商已宣布 2026 年 AI 基础设施资本支出合计超过 5000 亿美元 。
• 支出激增反映出企业正从试点转向生产，推理成本正成为主要的支出项目 。

尽管成本快速下降——德勤指出推理云 API 定价同比下跌近 80%——但总体支出却在爆炸式增长，因为使用量的增长比单位成本的下降更快 。

Gartner 的警告：预算失控风险

Gartner 还发布了一项警示性发现：到 2028 年，至少 50% 的 GenAI 项目将超出计划预算，原因是糟糕的架构选择和缺乏运营经验 。

推理是主要“罪魁祸首”。与训练（通常是一次性大额支出）不同，推理成本在每次用户或应用程序调用模型时都会发生。Gartner 预计推理将占模型生命周期总成本的至少 70% 。

CIO 的战略启示

Gartner 建议 CIO 采取以下战略行动：

• 将 AI 基础设施投资重点放在推理工作负载上，因为这是大部分支出和增长所在 。
• 避免一刀切的架构——最佳方法取决于用例、数据位置、监管要求和成本结构 。
• 采用混合云模型进行 AI 部署，以平衡灵活性、成本控制和数据主权。Gartner 的《CIO 行动手册 2026》发现，近三分之二（62%）的组织现在更偏好混合云作为其主要 AI 部署模式 。
• 为持续的成本增长做好规划，而不是假设单位价格下降会降低总账单 。

这对行业意味着什么

“推理翻转”不仅仅是一个支出统计数字；它代表着 AI 基础设施优先级的根本性重构。建造更大模型作为主要成本驱动力的时代正在让位于在规模化生产中运行这些模型的时代。对于云服务商来说，这意味着对 GPU 和 ASIC 容量的持续需求。对于企业来说，这意味着基础设施规划现在必须围绕 AI 的运营成本展开，而不仅仅是模型训练的前期投资。

正如 Gartner 的报告所表明的，从开发到部署的转变已经到来，预算项目将再也不会和从前一样。