AMD 在 Hot Chips 2026 公布的 MI400 系列細節，顯示這不只是一代新的 AI 加速器。旗艦級 Instinct MI455X 是 Helios 的運算核心，而 Helios 則把 GPU、主機 CPU、網路、機櫃與 ROCm 軟體整合在開放式基礎設施標準之下。最醒目的硬體優勢是記憶體：每顆 MI455X 配備 432GB HBM4，72 顆 GPU 組成的 Helios 機櫃則擁有 31TB 聚合 HBM4 容量。2310

MI455X：為 AI 記憶體壓力而生的晶粒 GPU

MI455X 採用 AMD 第五代 CDNA 架構。其運算部分由 8 顆採用 TSMC N2 製程的 Accelerator Complex Die（XCD）組成；Fabric、Cache 與 I/O 功能則由 TSMC N3P 製程晶粒負責。AMD 再透過 TSMC CoWoS-L 封裝，將這些晶粒與 12 組 HBM4 整合在一起。1721

這種分工讓 AMD 能把先進製程集中用於最關鍵的運算晶粒，同時將互連、快取與 I/O 拆分為獨立晶粒。因此，MI455X 並不是單純把單晶 GPU 做得更大，而是一個圍繞記憶體頻寬、製造良率與機櫃級互連打造的多晶粒系統。

核心架構與執行模式

AMD 列出的 MI455X 規格包括 256 個 Work Group Processor（WGP）與 192MB 全域 L2 快取。CDNA 5 也導入原生 Wave32 執行支援，並支援現代 AI 工作負載常用的低精度資料格式。320

Hot Chips 的相關說明還提到，MI455X 擁有較低延遲的超越函數處理路徑，可用於指數與對數等運算。這類運算會出現在注意力機制、正規化與啟動函數等神經網路工作負載中。不過，目前可取得的資料沒有提供量化後的延遲改善數字，因此這項功能不應被解讀為已測得的效能提升。

MI455X 規格一覽

• 運算架構： AMD CDNA 5
• 運算晶粒： 8 顆採用 TSMC N2 製程的 XCD 17
• Fabric、Cache 與 I/O： N3P 製程晶粒 17
• 封裝： TSMC CoWoS-L 21
• Work Group Processor： 256 個 3
• 全域 L2 快取： 192MB 3
• HBM4： 12 組，總容量 432GB 317
• 峰值記憶體頻寬： 23.3TB/s 23
• 峰值 OCP MXFP4： 40.26 PFLOPS；AMD 官方約列為 40.3 PFLOPS 319
• 峰值 MXFP6： 20.13 PFLOPS 319
• 峰值 MXFP8： 20.13 PFLOPS 319

以上都是理論峰值，不代表實際應用程式一定能達到相同吞吐量。實際表現仍取決於精度、稀疏性、模型架構、記憶體存取模式、軟體利用率，以及工作負載能否讓所有運算資源持續保持忙碌。

為什麼 432GB HBM4 可能比峰值算力更重要？

MI455X 最具影響力的規格，未必是 40 PFLOPS 級的低精度算力，而可能是每顆加速器的記憶體容量。12 組 HBM4 提供 432GB 容量與最高 23.3TB/s 頻寬。23

對大型模型而言，這代表更多權重、啟動值與推論狀態可以留在單顆加速器內，資料不必過早分散到更多 GPU。這項優勢對推論尤其重要：當上下文視窗變長、同時處理的請求增加時，Key-Value Cache（KV cache）往往會成為記憶體容量的限制因素。

CDNA 5 支援多種資料格式，包括 OCP MXFP4、MXFP6、MXFP8、OCP FP8、BF16、FP16、TF32、FP32 與 FP64。低精度格式主要面向高效率 AI 訓練與推論，而較完整的格式支援，則讓架構也能應付 HPC 與混合型工作負載。1820

Helios：把 MI455X 變成機櫃級系統

Helios 將加速器配置在 18 個對齊 Open Rack Wide 設計的運算托盤中，每個托盤搭載 4 顆 MI455X，整個機櫃合計 72 顆 GPU。AMD 公布的機櫃級最高規格包括：

• 2.9 exaFLOPS FP4 算力
• 1.4 exaFLOPS FP8 算力
• 31TB 聚合 HBM4 容量
• 1.7PB/s 聚合 HBM 頻寬
• 260TB/s scale-up 頻寬
• 43TB/s scale-out 頻寬 21051

Helios 的價值並不只是把 72 顆 GPU 的規格相乘。AMD 將其設計為單一 scale-up 網域，讓加速器之間的通訊成為架構核心，而不是交由多台獨立伺服器之間的網路連線事後補足。AMD 公布的設計使用 UALink over Ethernet 進行 scale-up，並以乙太網路處理 scale-out。1012

CPU、運算托盤與網路

每個四 GPU 運算托盤都搭配一顆 AMD EPYC「Venice」主機處理器。Hot Chips 系統架構報導將主機平台指向 SP7 插槽的 EPYC 9006；AMD 則描述 Helios 是由第六代 EPYC 9006 系列 CPU、MI455X GPU 與 Pensando 網路技術共同構成。71014

Pensando Vulcano AI NIC 提供 800Gbps 乙太網路連線，用於 scale-out 流量。AMD 的 Helios 資料則指出，採用 Vulcano 的設計每顆 GPU 可支援最高 2.4Tbps 的 scale-out 頻寬。47

這種分工相當關鍵：GPU 負責矩陣與向量運算，EPYC 處理主機與控制平面工作，網路架構則負責在機櫃內外搬移資料。換句話說，Helios 是一套共同設計的運算系統，而不是把相同的加速卡堆疊在一起。

Open Rack Wide 與 ROCm：AMD 的開放式路線

AMD 正讓 Helios 對齊 Meta 提出的 Open Rack Wide 方法，以及更廣泛的 Open Compute Project（OCP）機櫃標準。公司也採用 UALink 與乙太網路架構，而不是把 Helios 包裝成完全封閉的專有系統。4749

這種標準化策略支撐 AMD 的核心主張：客戶應能使用具互通性的元件組裝大型 AI 系統。依 AMD 的定位，整個技術堆疊包括：

• Instinct MI455X： 矩陣與向量加速
• EPYC Venice： 主機與控制平面運算
• Pensando Vulcano： scale-out 網路
• UALink over Ethernet： scale-up 互連
• ROCm： 旨在提供 CUDA 依賴基礎設施之外的軟體環境 1018

不過，ROCm 本身並不會自動消除跨 GPU 平台移植軟體的工程成本。核心函式庫、函式庫支援、編譯器、模型框架與正式環境工具，仍會決定工作負載能否順利轉移。AMD 真正的策略重點，是嘗試提供部署大型 AI 叢集所需的完整硬體與軟體基礎，而不只是比拼單顆加速器的規格。

部署時間：是目標與時程，不等於已普遍供貨

AMD 表示 Helios 已進入生產階段，部署將於 2026 年下半年開始。449 這反映的是 AMD 公布的生產與部署時程，不應直接解讀為 Helios 已廣泛安裝，或所有公布的機櫃配置都已能大量供貨。

Microsoft 也已另行宣布，計畫在 Azure 部署 Helios，用於前沿模型推論，為這套平台提供一條具名的雲端部署路徑。5456 但與 AMD 的效能數字相同，客戶部署計畫並不等於已獨立測得的正式環境結果。

Versal Premium Gen 2：把策略延伸至資料中心 GPU 之外

AMD 在 Hot Chips 的展示也涵蓋 Versal Premium Gen 2 自適應 SoC。這些產品面向的是不同的運算市場，鎖定實體 AI、網路、測試與量測、專業影片、航太與國防，以及其他資料密集、低延遲或任務關鍵型應用。313638

Memory-on-Package（MoP）版本會直接在封裝內整合最多 32GB LPDDR5X。AMD 規格列出的預估頻寬最高為 288GB/s，並宣稱相較採用外部記憶體的設計，電路板面積最多可減少 60%。3641

至於更廣泛的 Versal Premium Gen 2 系列，AMD 官方規格列出硬體化 PCIe Gen6 與 CXL 3.1 介面，以及 LPDDR5X 和 DDR5 記憶體支援。374042

部分 Hot Chips 報導則在更廣泛的平台能力脈絡下提到 PCIe Gen7 相容收發器與後量子密碼學。不過，目前提供的權威產品資料確認的是 PCIe Gen6、CXL 3.1，以及 PCIe Integrity and Data Encryption 等安全功能，並不足以把 PCIe Gen7 或硬體化後量子密碼學列為所有 Memory-on-Package 裝置的已確認規格。373940

重點結論

MI455X 的關鍵數字——432GB HBM4、23.3TB/s 頻寬與 40.26 PFLOPS MXFP4——之所以重要，是因為它們共同支撐 AMD 更大的系統設計。Helios 將 72 顆這類加速器放進單一機櫃，提供 31TB HBM4、exaFLOPS 級低精度算力、高頻寬 scale-up 連線、EPYC 主機 CPU 與 Pensando 網路。

因此，AMD 的競爭押注不只是規格表上的數字，而是架構整合：讓 GPU、記憶體、互連、主機處理器、網路卡、機櫃與軟體堆疊，以開放標準平台的形式協同運作。這是否能轉化為具競爭力的正式環境效能，最終仍取決於實際工作負載、軟體成熟度、供應量與部署規模，而不是峰值規格本身。

AMD 在 Hot Chips 2026 公布的 MI400 系列細節，顯示這不只是一代新的 AI 加速器。旗艦級 Instinct MI455X 是 Helios 的運算核心，而 Helios 則把 GPU、主機 CPU、網路、機櫃與 ROCm 軟體整合在開放式基礎設施標準之下。最醒目的硬體優勢是記憶體：每顆 MI455X 配備 432GB HBM4，72 顆 GPU 組成的 Helios 機櫃則擁有 31TB 聚合 HBM4 容量。2310

MI455X：為 AI 記憶體壓力而生的晶粒 GPU

MI455X 採用 AMD 第五代 CDNA 架構。其運算部分由 8 顆採用 TSMC N2 製程的 Accelerator Complex Die（XCD）組成；Fabric、Cache 與 I/O 功能則由 TSMC N3P 製程晶粒負責。AMD 再透過 TSMC CoWoS-L 封裝，將這些晶粒與 12 組 HBM4 整合在一起。1721

這種分工讓 AMD 能把先進製程集中用於最關鍵的運算晶粒，同時將互連、快取與 I/O 拆分為獨立晶粒。因此，MI455X 並不是單純把單晶 GPU 做得更大，而是一個圍繞記憶體頻寬、製造良率與機櫃級互連打造的多晶粒系統。

核心架構與執行模式

AMD 列出的 MI455X 規格包括 256 個 Work Group Processor（WGP）與 192MB 全域 L2 快取。CDNA 5 也導入原生 Wave32 執行支援，並支援現代 AI 工作負載常用的低精度資料格式。320

Hot Chips 的相關說明還提到，MI455X 擁有較低延遲的超越函數處理路徑，可用於指數與對數等運算。這類運算會出現在注意力機制、正規化與啟動函數等神經網路工作負載中。不過，目前可取得的資料沒有提供量化後的延遲改善數字，因此這項功能不應被解讀為已測得的效能提升。

MI455X 規格一覽

• 運算架構： AMD CDNA 5
• 運算晶粒： 8 顆採用 TSMC N2 製程的 XCD 17
• Fabric、Cache 與 I/O： N3P 製程晶粒 17
• 封裝： TSMC CoWoS-L 21
• Work Group Processor： 256 個 3
• 全域 L2 快取： 192MB 3
• HBM4： 12 組，總容量 432GB 317
• 峰值記憶體頻寬： 23.3TB/s 23
• 峰值 OCP MXFP4： 40.26 PFLOPS；AMD 官方約列為 40.3 PFLOPS 319
• 峰值 MXFP6： 20.13 PFLOPS 319
• 峰值 MXFP8： 20.13 PFLOPS 319

以上都是理論峰值，不代表實際應用程式一定能達到相同吞吐量。實際表現仍取決於精度、稀疏性、模型架構、記憶體存取模式、軟體利用率，以及工作負載能否讓所有運算資源持續保持忙碌。

為什麼 432GB HBM4 可能比峰值算力更重要？

MI455X 最具影響力的規格，未必是 40 PFLOPS 級的低精度算力，而可能是每顆加速器的記憶體容量。12 組 HBM4 提供 432GB 容量與最高 23.3TB/s 頻寬。23

對大型模型而言，這代表更多權重、啟動值與推論狀態可以留在單顆加速器內，資料不必過早分散到更多 GPU。這項優勢對推論尤其重要：當上下文視窗變長、同時處理的請求增加時，Key-Value Cache（KV cache）往往會成為記憶體容量的限制因素。

CDNA 5 支援多種資料格式，包括 OCP MXFP4、MXFP6、MXFP8、OCP FP8、BF16、FP16、TF32、FP32 與 FP64。低精度格式主要面向高效率 AI 訓練與推論，而較完整的格式支援，則讓架構也能應付 HPC 與混合型工作負載。1820

Helios：把 MI455X 變成機櫃級系統

Helios 將加速器配置在 18 個對齊 Open Rack Wide 設計的運算托盤中，每個托盤搭載 4 顆 MI455X，整個機櫃合計 72 顆 GPU。AMD 公布的機櫃級最高規格包括：

• 2.9 exaFLOPS FP4 算力
• 1.4 exaFLOPS FP8 算力
• 31TB 聚合 HBM4 容量
• 1.7PB/s 聚合 HBM 頻寬
• 260TB/s scale-up 頻寬
• 43TB/s scale-out 頻寬 21051

Helios 的價值並不只是把 72 顆 GPU 的規格相乘。AMD 將其設計為單一 scale-up 網域，讓加速器之間的通訊成為架構核心，而不是交由多台獨立伺服器之間的網路連線事後補足。AMD 公布的設計使用 UALink over Ethernet 進行 scale-up，並以乙太網路處理 scale-out。1012

CPU、運算托盤與網路

每個四 GPU 運算托盤都搭配一顆 AMD EPYC「Venice」主機處理器。Hot Chips 系統架構報導將主機平台指向 SP7 插槽的 EPYC 9006；AMD 則描述 Helios 是由第六代 EPYC 9006 系列 CPU、MI455X GPU 與 Pensando 網路技術共同構成。71014

Pensando Vulcano AI NIC 提供 800Gbps 乙太網路連線，用於 scale-out 流量。AMD 的 Helios 資料則指出，採用 Vulcano 的設計每顆 GPU 可支援最高 2.4Tbps 的 scale-out 頻寬。47

這種分工相當關鍵：GPU 負責矩陣與向量運算，EPYC 處理主機與控制平面工作，網路架構則負責在機櫃內外搬移資料。換句話說，Helios 是一套共同設計的運算系統，而不是把相同的加速卡堆疊在一起。

Open Rack Wide 與 ROCm：AMD 的開放式路線

AMD 正讓 Helios 對齊 Meta 提出的 Open Rack Wide 方法，以及更廣泛的 Open Compute Project（OCP）機櫃標準。公司也採用 UALink 與乙太網路架構，而不是把 Helios 包裝成完全封閉的專有系統。4749

這種標準化策略支撐 AMD 的核心主張：客戶應能使用具互通性的元件組裝大型 AI 系統。依 AMD 的定位，整個技術堆疊包括：

• Instinct MI455X： 矩陣與向量加速
• EPYC Venice： 主機與控制平面運算
• Pensando Vulcano： scale-out 網路
• UALink over Ethernet： scale-up 互連
• ROCm： 旨在提供 CUDA 依賴基礎設施之外的軟體環境 1018

不過，ROCm 本身並不會自動消除跨 GPU 平台移植軟體的工程成本。核心函式庫、函式庫支援、編譯器、模型框架與正式環境工具，仍會決定工作負載能否順利轉移。AMD 真正的策略重點，是嘗試提供部署大型 AI 叢集所需的完整硬體與軟體基礎，而不只是比拼單顆加速器的規格。

部署時間：是目標與時程，不等於已普遍供貨

AMD 表示 Helios 已進入生產階段，部署將於 2026 年下半年開始。449 這反映的是 AMD 公布的生產與部署時程，不應直接解讀為 Helios 已廣泛安裝，或所有公布的機櫃配置都已能大量供貨。

Microsoft 也已另行宣布，計畫在 Azure 部署 Helios，用於前沿模型推論，為這套平台提供一條具名的雲端部署路徑。5456 但與 AMD 的效能數字相同，客戶部署計畫並不等於已獨立測得的正式環境結果。

Versal Premium Gen 2：把策略延伸至資料中心 GPU 之外

AMD 在 Hot Chips 的展示也涵蓋 Versal Premium Gen 2 自適應 SoC。這些產品面向的是不同的運算市場，鎖定實體 AI、網路、測試與量測、專業影片、航太與國防，以及其他資料密集、低延遲或任務關鍵型應用。313638

Memory-on-Package（MoP）版本會直接在封裝內整合最多 32GB LPDDR5X。AMD 規格列出的預估頻寬最高為 288GB/s，並宣稱相較採用外部記憶體的設計，電路板面積最多可減少 60%。3641

至於更廣泛的 Versal Premium Gen 2 系列，AMD 官方規格列出硬體化 PCIe Gen6 與 CXL 3.1 介面，以及 LPDDR5X 和 DDR5 記憶體支援。374042

部分 Hot Chips 報導則在更廣泛的平台能力脈絡下提到 PCIe Gen7 相容收發器與後量子密碼學。不過，目前提供的權威產品資料確認的是 PCIe Gen6、CXL 3.1，以及 PCIe Integrity and Data Encryption 等安全功能，並不足以把 PCIe Gen7 或硬體化後量子密碼學列為所有 Memory-on-Package 裝置的已確認規格。373940

重點結論

MI455X 的關鍵數字——432GB HBM4、23.3TB/s 頻寬與 40.26 PFLOPS MXFP4——之所以重要，是因為它們共同支撐 AMD 更大的系統設計。Helios 將 72 顆這類加速器放進單一機櫃，提供 31TB HBM4、exaFLOPS 級低精度算力、高頻寬 scale-up 連線、EPYC 主機 CPU 與 Pensando 網路。

因此，AMD 的競爭押注不只是規格表上的數字，而是架構整合：讓 GPU、記憶體、互連、主機處理器、網路卡、機櫃與軟體堆疊，以開放標準平台的形式協同運作。這是否能轉化為具競爭力的正式環境效能，最終仍取決於實際工作負載、軟體成熟度、供應量與部署規模，而不是峰值規格本身。