為何 Nvidia 認為 Vera CPU 能開啟 2000 億美元的 AI 代理新市場

隨著人工智慧從「生成內容」走向「自主行動」，Nvidia 執行長黃仁勳（Jensen Huang）提出一個新判斷：下一波 AI 基礎設施需求，將不只來自 GPU，而是整個系統架構。為此，Nvidia 推出全新 Vera CPU，並宣稱這項產品能為公司打開一個 2000 億美元的總可服務市場（Total Addressable Market，TAM）。

核心邏輯很簡單：未來的 AI 系統不只是回答問題，而是會 自主規劃任務、呼叫工具、執行程式並操作軟體。這類被稱為「代理式 AI（agentic AI）」的系統，需要大量 CPU 負責協調與管理工作流程，而這正是 Vera 的設計目標。

Nvidia 所說的「2000 億美元市場」從哪來

在公司財報與投資人說明中，黃仁勳指出 Vera 為 Nvidia 打開一個全新的 2000 億美元市場。關鍵在於：Nvidia 不再只銷售 GPU，而是開始進入 資料中心 CPU 層。

長期以來，AI 訓練與推論加速器主要由 Nvidia GPU 主導，但 伺服器 CPU 市場一直由 Intel 與 AMD 控制。Vera 的推出意味著 Nvidia 希望取得 AI 基礎設施中的另一塊核心市場。

這與 Nvidia 近年提出的「AI 工廠（AI factories）」概念一致：大型資料中心像工廠一樣持續生產 AI 推論結果。GPU 負責大量數值運算，而 CPU 則負責調度整個軟體與資料環境。

值得注意的是，2000 億美元市場規模是 Nvidia 自身的策略估算，並非獨立機構的正式預測。這個數字反映的是公司對 AI 代理需求爆發的判斷。

為什麼代理式 AI 需要不同類型的 CPU

傳統雲端 CPU 的設計目標，是支援一般伺服器工作，例如網站服務、資料庫與虛擬化。但 Nvidia 認為 AI 代理的工作模式完全不同。

典型的 AI 代理任務往往包含多個步驟，例如：

• 從外部資料來源檢索資訊
• 呼叫 API 或工具
• 在沙盒環境中執行程式
• 協調多次模型請求
• 管理記憶體與長期任務流程

這些操作大多發生在神經網路模型之外，但必須與 GPU 推論緊密配合。Vera CPU 就是為這種「協調層」設計。

Nvidia 表示，Vera 是 首款專為代理式 AI 與強化學習（reinforcement learning）打造的 CPU，在目標工作負載下可達到 約兩倍效率、約 50% 更快的效能。

在架構上，Vera 採用 88 個自訂 Arm 相容的 Olympus CPU 核心，並提供高記憶體頻寬，以支援大型 AI 系統中的資料流動與任務管理。

Vera 與 Rubin GPU 如何協同運作

Vera 並不是用來取代 GPU，而是與 GPU 形成互補。

在 Nvidia 下一代 Vera Rubin 平台中，多種晶片被整合為單一資料中心系統，包括：

• Vera CPU
• Rubin GPU
• NVLink 6 互連交換晶片
• ConnectX‑9 網路介面
• BlueField‑4 DPU
• Spectrum‑6 乙太網路交換器

這些元件共同構成高度整合的 AI 系統。

例如 Vera Rubin NVL72 機架系統，就整合了 72 顆 Rubin GPU 與 36 顆 Vera CPU，並透過 NVLink 高頻寬互連。

在這個架構中，CPU 的主要角色是：

• 協調 AI 任務流程
• 管理資料與記憶體
• 排程 GPU 工作
• 執行代理工具與程式環境

簡單說，GPU 是運算引擎，而 CPU 則是整個 AI 系統的 控制中心。

當 AI 代理規模達到數十億時

Nvidia 的判斷是：AI 應用正從單次回答問題，轉變為 多步驟推理與行動的代理系統。

在這種模式下，一個任務可能反覆呼叫模型、資料庫與工具，因此整體運算需求可能比傳統生成式 AI 高出數個數量級。

當雲端服務中同時運行數十億個 AI 代理時，CPU 會扮演關鍵角色：

• 任務排程
• I/O 與資料管理
• 代碼執行環境
• GPU 工作協調

換句話說，CPU 會成為 AI 基礎設施的 控制平面（control plane）。

Nvidia 如何與 Intel、AMD 及雲端巨頭競爭

Vera 的推出也意味著 Nvidia 正正式進軍 資料中心 CPU 市場。

過去，Intel 與 AMD 在這一領域佔主導地位，而大型雲端公司如 AWS、Google 和 Microsoft 也開始設計自家晶片，以降低對 Nvidia 的依賴。

Nvidia 的策略則有所不同：它並非只販售單一晶片，而是打造 完整的 AI 系統平台。

Vera Rubin 架構展示了這種策略——CPU、GPU、網路與軟體共同設計，使整個系統針對 AI 工作負載最佳化。

公司表示，這種高度整合的設計可以降低 每個 AI token 的成本，並提升大規模 AI 服務的整體效能。

當然，競爭仍然激烈。雲端服務商有強烈動機開發自家晶片，以減少對 Nvidia 的依賴。但 Nvidia 的賭注是：從 GPU、CPU 到網路與軟體的完整 AI 基礎設施生態系，短期內很難被全面複製。

Nvidia 的轉型：從 GPU 公司到 AI 基礎設施平台

Vera CPU 其實象徵著 Nvidia 更大的戰略轉變。

過去公司主要被視為 GPU 製造商，如今則逐漸把自己定位為 AI 基礎設施平台供應商——從運算、網路到整個機架級系統。

如果黃仁勳對 AI 代理時代的預測成真，那麼像 Vera 這樣的 CPU，將不只是配角，而可能成為 AI 資料中心不可或缺的核心元件。