Nvidia Vera CPU 點樣瞄準 2,000 億美元 AI 代理市場

過去 AI 伺服器通常係咁分工：

• Nvidia 提供 GPU 做 AI 訓練同推理
• Intel 或 AMD 提供伺服器 CPU

但透過 Vera，Nvidia 想將 CPU 亦納入自己嘅 AI 平台，等整個 AI 系統都由 Nvidia 主導。

公司將呢種架構稱為 「AI factories」（AI 工廠）：大型數據中心好似生產線咁大量生成 AI 輸出。喺呢個模式入面，GPU 做計算，而 CPU 就負責管理整個軟件與工作流程環境。

不過要留意，2,000 億美元係 Nvidia 自己嘅市場估算，並唔係第三方研究機構嘅獨立預測。

點解 Agentic AI 需要另一種 CPU

傳統雲端 CPU 主要設計用嚟處理：

• 網頁服務
• 資料庫
• 虛擬化
• 一般企業應用

但 Nvidia 指出，AI 代理嘅工作模式完全唔同。

一個 AI agent 完成任務通常會經歷多個步驟，例如：

• 從外部資料庫檢索資料
• 呼叫工具或 API
• 喺 sandbox 環境執行程式碼
• 多次呼叫 AI 模型
• 管理記憶同任務流程

呢啲操作好多都發生喺神經網絡模型之外，但仍然要快速完成，先可以保持 GPU 持續運作。

Nvidia 指出 Vera 正正係為呢個**AI 協調層（orchestration layer）**設計。

公司聲稱喺目標場景下，Vera 可以做到：

• 約兩倍效率
• 約 50% 更快性能（相比傳統 rack‑scale CPU）

架構方面，Vera 使用 88 個自家設計、Arm 相容嘅 Olympus CPU 核心，並提供高記憶體頻寬去支援大型 AI 系統。

Vera 點樣配合 Rubin GPU

Vera 並唔係用嚟取代 GPU，而係同 GPU 一齊運作。

喺 Nvidia 下一代 Vera Rubin 平台入面，多種晶片會整合成一個完整 AI 系統，包括：

• Vera CPU
• Rubin GPU
• NVLink 6 互連交換器
• ConnectX‑9 網絡晶片
• BlueField‑4 DPU
• Spectrum‑6 Ethernet 交換器

呢啲組件組成一個大型 AI 運算架構。

例如 Vera Rubin NVL72 機架：

• 72 個 Rubin GPU
• 36 個 Vera CPU

全部透過高速 NVLink 網絡連接。

喺呢個架構入面：

• GPU：負責大型 AI 計算
• CPU：負責管理工作流程

CPU 主要負責：

• 協調 AI 任務流程
• 管理記憶體同數據傳輸
• 排程 GPU 任務
• 運行 agent 工具同軟件環境

目標係確保昂貴嘅 GPU 唔會閒置，而係一直有工作處理。

當 AI 代理規模變成「數十億」

Nvidia 嘅論點係：AI 應用模式正喺改變。

早期生成式 AI 通常只係：

1. 接收 prompt
2. 回覆答案

但 AI agents 會做多步推理同操作，包括反覆查資料、執行工具同呼叫模型。

有分析指出，agentic AI 所需嘅運算量可能比早期生成式 AI 高出幾個數量級。

喺呢種架構入面，CPU 就變成 AI 基礎設施嘅控制平面（control plane）：

• 排程任務
• 管理 I/O
• 執行程式環境
• 協調成千上萬個 GPU 工作

如果未來有數十億個 AI agent 持續運行，CPU 層就可能成為 AI 基礎設施市場嘅重要部分。

Nvidia 如何對抗 Intel、AMD 同雲端巨頭

Vera CPU 亦代表 Nvidia 正正式式進軍伺服器 CPU 市場。

長期以來：

• Intel
• AMD

主導數據中心 CPU。

而大型雲服務商，例如：

• AWS
• Google

亦開始設計自家晶片。

Nvidia 嘅策略則唔係只賣單一晶片，而係打造 完整 AI 系統平台。

喺 Vera Rubin 架構入面，CPU、GPU、網絡同軟件都係一齊設計，形成一個專門為 AI 工作負載優化嘅平台。

公司認為呢種整合式設計可以帶來：

• 更低 AI token 成本
• 更高運算效率
• 更快部署大型 AI 服務

當然，競爭仍然激烈。大型雲服務商有強烈動機開發自家晶片，以減少對 Nvidia 嘅依賴。

但 Nvidia 嘅賭注係：整個 AI 基礎設施生態（GPU + CPU + 網絡 + 軟件） 一旦形成，競爭對手要完全複製並唔容易。

更大嘅轉變：由 GPU 公司變 AI 基建公司

Vera CPU 其實反映 Nvidia 一個更大嘅策略轉型。

公司正逐步由：

GPU 製造商 → AI 基礎設施平台供應商。

未來產品唔再只係晶片，而係完整嘅 AI 系統，包括：

• 計算
• 網絡
• 軟件
• 整個機架級 AI 系統

如果黃仁勳對 AI 代理時代嘅判斷正確，CPU（例如 Vera）可能會成為 AI 基礎設施入面不可或缺嘅核心元件，亦令 Nvidia 嘅市場機會由 GPU 擴展到更龐大嘅 AI 生態。