| 項目 | 來源指出的資訊 |
|---|---|
| 產品定位 | AMD Instinct MI350 家族的 PCIe AI 加速卡 |
| 外形規格 | 全高、全長、雙槽 PCIe 卡,面向風冷伺服器 |
| 記憶體 | 144GB HBM3E |
| 計算資源 | 發布報導列出 128 個計算單元 |
| 峰值數據 | The Register 報導 FP4 最高可達 4.6 petaFLOPS |
| 目標工作負載 | 生成式 AI、代理式 AI、檢索增強生成 RAG 與企業推論 |
PCIe 是企業伺服器常見的擴充介面。對基礎架構團隊來說,外形規格有時和晶片本身一樣重要:如果一張加速卡能放進既有伺服器,採購、認證與上線流程就可能比整櫃重建來得簡單。
AMD 表示,MI350P 目標是放入主流風冷伺服器,不需要特殊冷卻、不需要重新設計機架,也不必從零打造專用 AI 系統 。NetworkWorld 也報導,這張卡的設計方向,是讓企業在現有資料中心的電力、冷卻與機架基礎上,部署內部推論能力
。
這與 AMD 近年高階 Instinct 部署常見的高密度加速器模組路線不同。NetworkWorld 指出,AMD Instinct GPU 過去多以伺服器安裝的 OAM 模組、八 GPU 套裝形式供應,而 MI350P 是 AMD 四年來第一款 PCIe 型 Instinct 加速器 。StorageReview 也形容,這是近四年來 AMD 首次把當代 Instinct 晶片放回一般伺服器外形規格
。
實務上的差別很直接:PCIe 可能把部分 AI 基礎架構專案,從機架級重設計,變成伺服器認證、採購與部署問題。這不代表 MI350P 可以無條件插進任何舊伺服器,但對已經營運相容風冷伺服器機群的企業來說,部署摩擦有機會降低 。
AMD 將 MI350P 定位為把生成式 AI 與代理式 AI 工作負載帶進既有資料中心的產品 。Jon Peddie Research 則指出,它鎖定的是推論工作負載,包括代理式 AI 與 RAG 管線;RAG 通常指模型在回答前先檢索相關資料,常用於結合內部文件或知識庫的企業應用
。
這個定位很重要。來源資料並未把 MI350P 描述成用來全面取代最高密度 GPU 叢集的產品,而是讓企業在既有 CPU 伺服器環境中增加加速能力、擴大內部 AI 服務與推論規模的選項 。對評估私有化 AI 或內部部署 AI 的組織而言,吸引力不只在算力,也在營運面:若伺服器、供電與散熱條件符合,少掉專用冷卻或機架改造,導入門檻就會低一些
。
MI350P 補上了 AMD 企業加速器產品線的一個缺口。多家報導都將它視為 AMD 約四年後讓 Instinct 回到 PCIe 的動作,讓買家能選擇一張符合較傳統伺服器模式的當代 Instinct 卡 。
這件事之所以有分量,是因為許多企業 AI 決策不是單純由最高峰值算力決定。機房條件、供電、散熱、伺服器供應商認證與採購流程,都會影響 AI 能不能真正落地。PCIe 卡讓 AMD 有了一個更容易進入既有企業環境的選項,特別是對那些想增加內部 AI 推論能力、但還不準備導入專用 GPU 叢集架構的組織 。
MI350P 的「可插入既有伺服器」應理解為部署目標,而不是保證任何伺服器都能直接使用。它是全高、全長、雙槽卡;The Register 報導其設計功耗為 600 瓦,且只有在具備足夠供電與風流的傳統 19 英吋伺服器設計中,才可能順利容納 。
企業仍需要驗證 PCIe 插槽空間、供電能力、機箱風道、系統韌體、軟體支援與伺服器供應商認證。另一方面,目前來源主要提供產品規格與發布資訊,並沒有跨常見企業 AI 應用的獨立端到端效能測試;因此,峰值算力數字應被視為發表規格,而非特定工作負載下的實際結果 。