為何 Nvidia Vera Rubin AI 機架可能要價 780 萬美元？

換句話說，AI 機架裡幾乎所有子系統都變得更昂貴。

記憶體成為最大成本來源

Rubin 平台最明顯的成本增加來自新一代記憶體架構。

Rubin GPU 將使用 HBM4（High Bandwidth Memory），這是 HBM3 / HBM3e 之後的下一代高頻寬記憶體，專為大型 AI 模型設計。

同時，系統中的 Vera CPU 還搭配大量 LPDDR5X 記憶體，透過 SOCAMM 模組提供最高 1.5TB 容量。

這代表整個平台同時包含兩種昂貴記憶體：

• GPU 使用 HBM4 高頻寬記憶體
• CPU 使用 LPDDR5X 大容量記憶體池

記憶體供應商已開始為 Rubin 平台量產相關產品。例如 Micron 已宣布 HBM4 與 SOCAMM2 模組進入大規模生產，專為該平台設計。

由於容量與技術難度都大幅提升，分析估計記憶體可能占整個機架成本約四分之一，遠高於上一代系統。

AI 機架的系統複雜度大幅增加

除了記憶體，Rubin 平台本身的系統整合度也大幅提高。

整個架構結合多種專用晶片與高速互連技術，包括：

• Vera CPU
• Rubin GPU
• NVLink 交換晶片
• ConnectX SuperNIC 網路晶片
• BlueField DPU
• Spectrum Ethernet 交換器

這些元件共同組成一個完整的 AI 超級電腦架構，而不是單純的 GPU 伺服器。

因此，支援系統的硬體需求也同步提升，例如：

• PCB：需要更多層數與更高級材料以支援高速訊號
• MLCC：電源穩定與電路需求使被動元件數量增加
• ABF 載板：晶片封裝面積與複雜度提高

單個元件看似不昂貴，但在一個包含數十個加速器與網路裝置的機架中，累積成本相當可觀。

GPU 仍昂貴，但不再佔據絕對主導

GPU 依然是系統中最昂貴的單一元件，但在整體成本中的比例正逐漸下降。

分析估計 Rubin GPU 單顆價格約 55,000 美元，比 Blackwell GPU 高出約 57%。

然而，由於記憶體與系統硬體成本增長更快，GPU 在整個機架成本中的占比反而下降。

這顯示 AI 硬體設計的一個結構性變化：

效能不再只取決於 GPU，而是整個系統架構。

對 AI 供應鏈的影響

成本結構的改變，正在重塑整個半導體生態系。

首先，AI 熱潮不再只讓 GPU 廠商受益。以下供應商都可能成為主要受益者：

• HBM 與 DRAM 記憶體廠
• ABF 載板供應商
• 高階 PCB 製造商
• 被動元件（MLCC）廠商

其次，記憶體供應能力正變得與 GPU 產能同樣關鍵。由於 Rubin 高度依賴 HBM4，如果記憶體供應不足，可能直接限制 AI 基礎設施部署速度。

此外，隨著系統複雜度提升，ODM 與 OEM 系統整合商在整個 AI 產業鏈中的價值也可能上升。

AI 硬體正在變成「機架級超級電腦」

780 萬美元的價格標籤凸顯了一個明顯趨勢：

早期 AI 伺服器基本上是在傳統伺服器中加入 GPU 加速卡。

而像 Rubin 這類新一代平台則是整個機架設計成一台完整的 AI 超級電腦，將計算、記憶體、網路與儲存架構整合在同一系統中。

這也是為什麼現在一個 AI 機架的成本，已經可以接近一個小型資料中心的設備投資。

需要注意的是，780 萬美元仍屬分析師根據供應鏈資訊推算的估值，Nvidia 尚未公開確認 Rubin 系統的官方售價。

但即使最終價格有所不同，一個趨勢已經非常清楚：

未來 AI 基礎設施的成本與價值，將不再只集中在 GPU，而是整個系統架構。