呢個轉變亦反映 AI 基建嘅一個新趨勢——現代 AI 訓練平台其實愈來愈似 機架級（rack‑scale）超級電腦，性能唔再只靠 GPU，而係由記憶體、互連網絡同整體系統設計一齊決定。

一個 AI 機架接近 800 萬美元

分析師估計，一個 Vera Rubin NVL72 機架成本大約 780 萬美元。

相比之下，上一代 Blackwell 機架約 400 萬美元，意味一代之間價格幾乎翻倍。

供應鏈研究顯示，成本增加並非單一元件，而係整個系統：

• 記憶體成本增加約 435%
• PCB（印刷電路板）成本增加約 233%
• MLCC（多層陶瓷電容）增加約 182%
• ABF 封裝基板增加約 82%

換句話說，AI 伺服器愈來愈複雜，幾乎所有硬件都變貴。

記憶體成為最大成本來源

Rubin 平台最大嘅成本變化來自 新一代記憶體技術。

Rubin GPU 使用 HBM4（High Bandwidth Memory），係 HBM3 / HBM3e 之後嘅下一代高頻寬記憶體，專門用嚟處理大型 AI 模型。

同時，新平台亦加入 Nvidia Vera CPU，並配備 LPDDR5X 記憶體系統，透過 SOCAMM 模組提供 最高約 1.5TB 容量。

記憶體廠商已經開始為 Rubin 生態系統大量生產相關產品。例如 Micron 已確認推出：

• HBM4 記憶體堆疊
• SOCAMM2 LPDDR5X 模組

因為系統同時包含：

• GPU 使用嘅 HBM4 高頻寬記憶體
• CPU 使用嘅 大型 LPDDR5X 記憶體池

整個機架嘅記憶體容量同成本都大幅上升。分析估計 記憶體可能佔整個機架成本約 25%，比上一代大幅增加。

系統複雜度全面上升

記憶體唔係唯一原因。

Rubin 架構其實整合咗多種專用晶片同高速網絡技術，包括：

• Vera CPU
• Rubin GPU
• NVLink Switch
• ConnectX SuperNIC
• BlueField DPU
• Spectrum Ethernet Switch

呢種高度整合嘅機架設計，需要更加複雜嘅主板、互連技術同供電系統。

因此分析指出，多個硬件成本都顯著上升，例如：

• PCB：層數更多、材料更高級以支援高速訊號
• MLCC：電源穩定需要更多被動元件
• ABF substrate：晶片封裝尺寸同複雜度增加

單一元件可能唔算貴，但一個機架包含數十個加速器同網絡裝置，累積成本就會非常可觀。

GPU 仍然最貴，但佔比開始下降

GPU 依然係整個系統最貴嘅單一元件。

有估算指 Rubin GPU 約 5.5 萬美元一粒，比 Blackwell 世代貴約 57%。

但由於記憶體同系統硬件成本升得更快，GPU 佔整個機架成本嘅比例反而下降。

呢個變化顯示 AI 硬件設計理念正發生重大轉變——性能愈來愈取決於 整體系統架構，而唔係單一晶片。

對 AI 半導體供應鏈有咩影響

成本結構改變，意味 AI 熱潮嘅受益者唔再只係 GPU 廠。

以下產業都可能分到更多價值：

• HBM 同 DRAM 記憶體供應商
• ABF 封裝基板製造商
• 高階 PCB 製造商
• 被動元件供應商

同時，由於 Rubin 高度依賴 HBM4 記憶體產能，記憶體供應鏈亦可能成為 AI 基建擴張嘅關鍵瓶頸。

另外，負責組裝 AI 機架嘅 ODM / OEM 伺服器製造商，亦可能因為系統複雜度提升而獲得更高附加價值。

AI 硬件正變成機架級超級電腦

780 萬美元嘅機架價格，其實反映一個更大趨勢。

早期 AI 伺服器基本上係「GPU 插入普通伺服器」。

但新一代平台（例如 Rubin）其實係 整個機架設計成一部 AI 超級電腦，把運算、記憶體、網絡同儲存全部整合。

呢種設計令單個機架嘅價格可以接近一個小型數據中心部署。

最後要留意：780 萬美元仍然只係分析師根據供應鏈資料嘅估算，Nvidia 暫時未正式公布 Rubin 系統嘅官方售價。

但整體趨勢已經好清晰——未來 AI 硬件嘅競爭，唔再只係 GPU，而係 整個系統級架構。

呢個轉變亦反映 AI 基建嘅一個新趨勢——現代 AI 訓練平台其實愈來愈似 機架級（rack‑scale）超級電腦，性能唔再只靠 GPU，而係由記憶體、互連網絡同整體系統設計一齊決定。

一個 AI 機架接近 800 萬美元

分析師估計，一個 Vera Rubin NVL72 機架成本大約 780 萬美元。

相比之下，上一代 Blackwell 機架約 400 萬美元，意味一代之間價格幾乎翻倍。

供應鏈研究顯示，成本增加並非單一元件，而係整個系統：

• 記憶體成本增加約 435%
• PCB（印刷電路板）成本增加約 233%
• MLCC（多層陶瓷電容）增加約 182%
• ABF 封裝基板增加約 82%

換句話說，AI 伺服器愈來愈複雜，幾乎所有硬件都變貴。

記憶體成為最大成本來源

Rubin 平台最大嘅成本變化來自 新一代記憶體技術。

Rubin GPU 使用 HBM4（High Bandwidth Memory），係 HBM3 / HBM3e 之後嘅下一代高頻寬記憶體，專門用嚟處理大型 AI 模型。

同時，新平台亦加入 Nvidia Vera CPU，並配備 LPDDR5X 記憶體系統，透過 SOCAMM 模組提供 最高約 1.5TB 容量。

記憶體廠商已經開始為 Rubin 生態系統大量生產相關產品。例如 Micron 已確認推出：

• HBM4 記憶體堆疊
• SOCAMM2 LPDDR5X 模組

因為系統同時包含：

• GPU 使用嘅 HBM4 高頻寬記憶體
• CPU 使用嘅 大型 LPDDR5X 記憶體池

整個機架嘅記憶體容量同成本都大幅上升。分析估計 記憶體可能佔整個機架成本約 25%，比上一代大幅增加。

系統複雜度全面上升

記憶體唔係唯一原因。

Rubin 架構其實整合咗多種專用晶片同高速網絡技術，包括：

• Vera CPU
• Rubin GPU
• NVLink Switch
• ConnectX SuperNIC
• BlueField DPU
• Spectrum Ethernet Switch

呢種高度整合嘅機架設計，需要更加複雜嘅主板、互連技術同供電系統。

因此分析指出，多個硬件成本都顯著上升，例如：

• PCB：層數更多、材料更高級以支援高速訊號
• MLCC：電源穩定需要更多被動元件
• ABF substrate：晶片封裝尺寸同複雜度增加

單一元件可能唔算貴，但一個機架包含數十個加速器同網絡裝置，累積成本就會非常可觀。

GPU 仍然最貴，但佔比開始下降

GPU 依然係整個系統最貴嘅單一元件。

有估算指 Rubin GPU 約 5.5 萬美元一粒，比 Blackwell 世代貴約 57%。

但由於記憶體同系統硬件成本升得更快，GPU 佔整個機架成本嘅比例反而下降。

呢個變化顯示 AI 硬件設計理念正發生重大轉變——性能愈來愈取決於 整體系統架構，而唔係單一晶片。

對 AI 半導體供應鏈有咩影響

成本結構改變，意味 AI 熱潮嘅受益者唔再只係 GPU 廠。

以下產業都可能分到更多價值：

• HBM 同 DRAM 記憶體供應商
• ABF 封裝基板製造商
• 高階 PCB 製造商
• 被動元件供應商

同時，由於 Rubin 高度依賴 HBM4 記憶體產能，記憶體供應鏈亦可能成為 AI 基建擴張嘅關鍵瓶頸。

另外，負責組裝 AI 機架嘅 ODM / OEM 伺服器製造商，亦可能因為系統複雜度提升而獲得更高附加價值。

AI 硬件正變成機架級超級電腦

780 萬美元嘅機架價格，其實反映一個更大趨勢。

早期 AI 伺服器基本上係「GPU 插入普通伺服器」。

但新一代平台（例如 Rubin）其實係 整個機架設計成一部 AI 超級電腦，把運算、記憶體、網絡同儲存全部整合。

呢種設計令單個機架嘅價格可以接近一個小型數據中心部署。

最後要留意：780 萬美元仍然只係分析師根據供應鏈資料嘅估算，Nvidia 暫時未正式公布 Rubin 系統嘅官方售價。

但整體趨勢已經好清晰——未來 AI 硬件嘅競爭，唔再只係 GPU，而係 整個系統級架構。