Nvidia Vera CPU 點樣瞄準 2,000 億美元 AI 代理市場

不過要留意，2,000 億美元係 Nvidia 自己嘅市場估算，並唔係第三方研究機構嘅獨立預測。

點解 Agentic AI 需要另一種 CPU

傳統雲端 CPU 主要設計用嚟處理：

• 網頁服務
• 資料庫
• 虛擬化
• 一般企業應用

但 Nvidia 指出，AI 代理嘅工作模式完全唔同。

一個 AI agent 完成任務通常會經歷多個步驟，例如：

• 從外部資料庫檢索資料
• 呼叫工具或 API
• 喺 sandbox 環境執行程式碼
• 多次呼叫 AI 模型
• 管理記憶同任務流程

呢啲操作好多都發生喺神經網絡模型之外，但仍然要快速完成，先可以保持 GPU 持續運作。

Nvidia 指出 Vera 正正係為呢個**AI 協調層（orchestration layer）**設計。

公司聲稱喺目標場景下，Vera 可以做到：

• 約兩倍效率
• 約 50% 更快性能（相比傳統 rack‑scale CPU）

架構方面，Vera 使用 88 個自家設計、Arm 相容嘅 Olympus CPU 核心，並提供高記憶體頻寬去支援大型 AI 系統。

Vera 點樣配合 Rubin GPU

Vera 並唔係用嚟取代 GPU，而係同 GPU 一齊運作。

喺 Nvidia 下一代 Vera Rubin 平台入面，多種晶片會整合成一個完整 AI 系統，包括：

• Vera CPU
• Rubin GPU
• NVLink 6 互連交換器
• ConnectX‑9 網絡晶片
• BlueField‑4 DPU
• Spectrum‑6 Ethernet 交換器

呢啲組件組成一個大型 AI 運算架構。

例如 Vera Rubin NVL72 機架：

• 72 個 Rubin GPU
• 36 個 Vera CPU

全部透過高速 NVLink 網絡連接。

喺呢個架構入面：

• GPU：負責大型 AI 計算
• CPU：負責管理工作流程

CPU 主要負責：

• 協調 AI 任務流程
• 管理記憶體同數據傳輸
• 排程 GPU 任務
• 運行 agent 工具同軟件環境

目標係確保昂貴嘅 GPU 唔會閒置，而係一直有工作處理。

當 AI 代理規模變成「數十億」

Nvidia 嘅論點係：AI 應用模式正喺改變。

早期生成式 AI 通常只係：

1. 接收 prompt
2. 回覆答案

但 AI agents 會做多步推理同操作，包括反覆查資料、執行工具同呼叫模型。

有分析指出，agentic AI 所需嘅運算量可能比早期生成式 AI 高出幾個數量級。

喺呢種架構入面，CPU 就變成 AI 基礎設施嘅控制平面（control plane）：

• 排程任務
• 管理 I/O
• 執行程式環境
• 協調成千上萬個 GPU 工作

如果未來有數十億個 AI agent 持續運行，CPU 層就可能成為 AI 基礎設施市場嘅重要部分。

Nvidia 如何對抗 Intel、AMD 同雲端巨頭

Vera CPU 亦代表 Nvidia 正正式式進軍伺服器 CPU 市場。

長期以來：

• Intel
• AMD

主導數據中心 CPU。

而大型雲服務商，例如：

• AWS
• Google

亦開始設計自家晶片。

Nvidia 嘅策略則唔係只賣單一晶片，而係打造 完整 AI 系統平台。

喺 Vera Rubin 架構入面，CPU、GPU、網絡同軟件都係一齊設計，形成一個專門為 AI 工作負載優化嘅平台。

公司認為呢種整合式設計可以帶來：

• 更低 AI token 成本
• 更高運算效率
• 更快部署大型 AI 服務

當然，競爭仍然激烈。大型雲服務商有強烈動機開發自家晶片，以減少對 Nvidia 嘅依賴。

但 Nvidia 嘅賭注係：整個 AI 基礎設施生態（GPU + CPU + 網絡 + 軟件） 一旦形成，競爭對手要完全複製並唔容易。

更大嘅轉變：由 GPU 公司變 AI 基建公司

Vera CPU 其實反映 Nvidia 一個更大嘅策略轉型。

公司正逐步由：

GPU 製造商 → AI 基礎設施平台供應商。

未來產品唔再只係晶片，而係完整嘅 AI 系統，包括：

• 計算
• 網絡
• 軟件
• 整個機架級 AI 系統

如果黃仁勳對 AI 代理時代嘅判斷正確，CPU（例如 Vera）可能會成為 AI 基礎設施入面不可或缺嘅核心元件，亦令 Nvidia 嘅市場機會由 GPU 擴展到更龐大嘅 AI 生態。