d-Matrix 接入 NVIDIA AI 工廠：Raptor 推論晶片 2027 年底進駐 MGX 機架

d-Matrix 宣布採用 NVIDIA 的 NVLink Fusion，把下一代 Raptor 推論 XPU 接入 NVIDIA 的 AI 基礎設施平台。重點不只是把一粒加速器插進伺服器，而是讓 Raptor 可以配合 NVIDIA 的 MGX 機架架構、NVLink 擴展互連及 Spectrum-X 網絡部署，毋須由客戶另起爐灶建立一套完全獨立的加速器叢集。雙方形容這是一項多年產品路線圖；首批整合到 NVIDIA MGX 機架的 Raptor XPU，預計在 2027 年第四季推出。18

Raptor 會如何融入 NVIDIA 機架？

NVLink Fusion 是 NVIDIA 提供的高頻寬、低延遲互連技術及 IP，目的是讓超大規模雲端營運商和 AI 原生公司，把自訂 CPU、XPU 接入 NVIDIA 的 AI 基礎設施。14

按公布方案，d-Matrix 的機架會採用 NVIDIA 最新參考設計，涵蓋：

• NVIDIA Vera CPU
• NVIDIA NVLink 交換器
• NVIDIA BlueField-4 DPU
• NVIDIA ConnectX-9 SuperNIC
• NVIDIA Spectrum-X Ethernet 網絡

對 d-Matrix 而言，這代表可借助已驗證的機架、網絡、供電、散熱及供應鏈路徑，減少自行整合整套資料中心系統的風險和時間。18

換句話說，營運商理論上可在較一致的 NVIDIA 導向基建之上，同時部署 GPU、CPU 與 d-Matrix XPU，而毋須為每類處理器各自設計專屬機架。1

GPU 做預填，Raptor 做解碼

這個設計主打「解耦式推論」（disaggregated inference）：

• 預填（prefill）：NVIDIA GPU 處理用戶輸入提示詞時的大量運算；
• 解碼（decode）：Raptor 處理模型之後逐個 token 生成回覆的階段。

這種分工的概念，是讓不同晶片負責各自較適合的工作。d-Matrix 的現有 Corsair 加速器，亦曾計劃與 NVIDIA Hopper、Blackwell 系統採用相近的預填／解碼分工，由 Parasail 用於指定推論工作負載。22

但要留意，效益會視乎模型、批次大小、延遲要求和軟件整合而定。Parasail 所稱「最高快 10 倍、成本效益更高」，屬公司及合作夥伴針對特定工作負載的說法，並非獨立驗證、適用於所有 GPU 對比的結論。22

機架規格仍屬路線圖

d-Matrix 表示，首個 Raptor 機架會遵循 NVIDIA MGX 參考架構。有報道形容其目標為 NVL144 風格設計，擬在單一 NVLink fabric 連接最多 144 個 Raptor 加速器；但這些仍是未來規劃，並非已出貨產品的保證規格。2

目前最明確的供應時間表，是 2027 年第四季開始提供整合於 NVIDIA MGX 機架的 Raptor XPU。8

因此，機架容量、實際吞吐量、功耗、價格及部署方式，都應視為待最終硬件、軟件和可重複測試的基準結果確認後才可定論。

NVIDIA 為何容許第三方晶片加入？

表面上看，讓 d-Matrix 這類第三方推論晶片接入平台，似乎會削弱 NVIDIA GPU 的角色；但 NVIDIA 的盤算正好相反。

只要 NVLink Fusion 把互連、擴展網絡、機架架構及周邊基建保留在 NVIDIA 生態內，客戶即使選用非 NVIDIA 的運算晶片，仍會依賴 NVIDIA 的高價值平台層。這既可降低 d-Matrix 及客戶的整合風險，也會降低客戶另建全套非 NVIDIA 叢集的誘因。114

NVIDIA 所說的 「垂直整合、水平開放」，可這樣理解：

• 垂直整合：NVIDIA 協調運算連接、網絡、機架設計及整體 AI 平台等多個基建層；
• 水平開放：自訂 CPU 和 XPU 廠商可透過 NVLink Fusion 把自家晶片接入這個平台。114

這不等於每款加速器都可互換，或有同等效能。所謂可替代性，較接近營運層面的目標：用家可按工作負載選擇運算資源，同時沿用一套共通基建。

與 NVIDIA 自家 Groq 3 的微妙關係

Raptor 在預填／解碼分工中可與 NVIDIA GPU 互補，但同時亦落在專用推論硬件的競爭範圍，與 NVIDIA 計劃中的 Groq 3 LPU 系統有潛在重疊。

NVIDIA 曾把 Groq 3 LPX 描述為專為解碼而設的方案，可配合 Vera Rubin NVL72 基建。24

所以，Raptor 的角色有雙重性：它一方面可補足 NVIDIA GPU，並使用 NVIDIA 的平台基建；另一方面，亦可能與 NVIDIA 自家的專用解碼方案競爭。現有公開資料不足以就兩者的延遲、吞吐量、耗電、售價或供應時間作可靠的一對一比較。

d-Matrix 的 Corsair 與資金背景

d-Matrix 指，該公司在 2025 年 11 月完成 2.75 億美元 C 輪融資，估值 20 億美元，累計融資額達 4.5 億美元。27

Corsair 是公司目前的推論平台；Raptor 則是納入 NVLink Fusion 路線圖的下一代 XPU。Corsair 已是 d-Matrix 與 Parasail 合作的一部分，後者表示會把該加速器配合 NVIDIA 基建，用於部分推論工作負載。22

Raptor 的特別之處，在於 d-Matrix 現在正規劃以更直接方式進入 NVIDIA 的機架級環境。

還有哪些未知數？

兩家公司並未披露交易財務條款。因此，外界無從得知有否授權費、最低採購承諾、工程費、收入分成，或其他優待商業條件。

目前最合適的解讀是：這是一項重要的基建產品路線圖。d-Matrix 獲得一條在 NVIDIA AI 工廠內部署專用解碼硬件的路徑；NVIDIA 則擴大可使用其互連與機架生態的運算晶片選擇。最終能否帶來更好的真實推論經濟效益，仍取決於硬件定案、軟件整合、定價，以及可獨立重現的工作負載測試結果。18