AMD稱 2026 年 AI 機架能源效益達 2024 年 4 倍，向 2030 年 20 倍目標邁進

點解要由「晶片」計到「整個機架」？

AMD上一個「30×25」計劃，主要衡量 AI 訓練及高效能運算節點的 CPU、GPU 效能與能源消耗。AMD表示，該計劃在2025年達到約 38倍節點級能源效益提升，相當於同等效能下減少97%能源使用。

新一輪20倍目標的計算範圍則再闊一級，涵蓋整個機架，包括：

• AI 加速器及 CPU
• HBM 等記憶體
• 機架內及機架之間的網絡連接
• 供電、散熱等系統開銷
• 軟件調度及硬件實際使用率

這個分別相當重要。單看峰值 FLOPS，未必代表完成一次訓練或推理任務時真的用少了電；如果數據搬運、通信等待或硬件閒置增加，實際每項工作所需能源仍可能很高。

AMD靠甚麼提升每瓦效能？

AMD所描述的技術路線，並不只是換一代更快的 GPU，而是由多個層面一齊做系統級優化：

• 運算架構及低精度格式： 更高效的架構，加上 FP8、FP4 等較低精度 AI 格式，可以在可接受的準確度下，以較少能源完成更多有效運算。
• 更大、更快的 HBM： 增加高頻寬記憶體容量及頻寬，有助減少記憶體瓶頸和數據來回搬運的能源成本。
• 高速互連： 機架內的 scale-up 及跨機架的 scale-out 網絡，旨在減少不同加速器之間通信時的停頓，提升整體利用率。
• 軟件及系統協同設計： 核心運算優化、工作調度、模型平行化及硬件利用率改善，都會影響每次訓練或推理任務的實際能源消耗。

Helios：AMD由賣零件轉向賣完整機架

AMD的 Helios 是公司首次主打的機架級 AI 參考方案，將多種硬件整合為一個系統，而不再只向客戶提供獨立 GPU 或 CPU。其公開規格包括：

• 72張 AMD Instinct MI455X GPU
• EPYC「Venice」CPU
• Pensando 網絡方案
• 最高 2.9 exaFLOPS FP4 及 1.4 exaFLOPS FP8 運算能力
• 31 TB HBM4 記憶體
• 260 TB/s scale-up 頻寬
• 43 TB/s scale-out 頻寬

AMD表示，Helios已於2026年7月進入全面生產，首批出貨預計在2026年第三季末開始，之後於第四季擴大出貨。 目前提供的資料未能證實一個具體的2027年量產里程碑，因此較穩妥的說法是：Helios預計由2026年下半年開始推出，並在其後逐步擴大部署，而不是已確認完整的「2026至2027年」生產時間表。

在與 NVIDIA Vera Rubin NVL72 的比較上，AMD聲稱 Helios最高可提供15%較高的峰值 FP4 運算、50%較大的 HBM 容量，以及50%較高的 scale-out 頻寬。 這些都是廠商公布的比較數字，並非獨立測試結果，實際表現仍會視乎模型、軟件、功耗限制及部署方式而變。

生意增長為競爭加添籌碼

AMD的數據中心業務正急速擴張。報道指，公司2026年第二季數據中心收入約 67億美元，按年增長 107%；相關收入包括 EPYC 伺服器處理器及 Instinct 加速器，並不能視為純 AI GPU 收入。

這個背景解釋了為何 AMD要由提供晶片，進一步走向提供完整 AI 機架：大型雲端及企業客戶面對的，不只是「邊張 GPU 快啲」，還包括電力供應、散熱、網絡、機房空間、軟件調度及每個 token 的成本。Helios正是 AMD 嘗試在系統層面挑戰 NVIDIA 優勢的產品。

至於 NVIDIA 的融資策略，以及 Google TPU 系統收入的具體規模，現有材料不足以作出可靠量化或定性判斷，不能將它們當作已獲充分證實的事實。可以肯定的是，AI 基礎設施競爭已由單一晶片性能，逐步擴展至整個機架的能源效益、供應能力、網絡設計、軟件生態及部署成本。