d-Matrix 夥 NVIDIA 將 Raptor 推理 XPU 納入 MGX 機櫃

d-Matrix 宣布同 NVIDIA 展開多年產品路線圖合作，計劃將下一代 Raptor 推理 XPU，透過 NVIDIA NVLink Fusion 接入 NVIDIA 嘅機櫃級 AI 基建。首個落地項目係以 NVIDIA MGX 參考架構建立嘅 Raptor 系統，瞄準大規模、超低延遲嘅 AI 推理服務；初步供應目標係 2027 年第四季。1211

呢單合作真正代表乜？

NVLink Fusion 係 NVIDIA 用嚟將第三方 CPU 同加速器接入 NVLink 擴展網絡（scale-up）及整套 AI 基建嘅平台。按計劃，d-Matrix 會以 NVLink 連接 Raptor XPU，同時用 Spectrum-X Ethernet 負責橫向擴展（scale-out）網絡。1

簡單講，d-Matrix 唔使由零開始自建及驗證一整套機櫃、網絡同散熱平台，而係可將自家推理晶片放入較成熟嘅 NVIDIA 機櫃設計。兩間公司認為，咁做可令由客製晶片走到大規模部署嘅過程更快、整合風險更低。12

計劃中嘅 MGX 機櫃有咩組件？

d-Matrix 表示，Raptor 系統將會採用 NVIDIA 最新 MGX 參考架構，設計包括：

• NVIDIA Vera CPU
• NVIDIA NVLink 交換器
• NVIDIA BlueField-4 DPU
• NVIDIA ConnectX-9 SuperNIC
• NVIDIA Spectrum-X Ethernet 網絡 2

MGX 屬模組化機櫃架構。NVIDIA 表示，呢項整合可令 Raptor 進入已廣泛部署嘅液冷 AI 基建之中。1

不過，現有公司公告只證實 Raptor 將可配合 NVIDIA 機櫃級平台互通，未有確立一個已定案、已出貨，並正式命名為「NVL144」嘅 Raptor 配置。因此，任何喺產品推出前流傳嘅 144 加速器或記憶體頻寬數字，都只應理解為路線圖預測，並非已部署或經獨立測試嘅規格。

Raptor 唔係取代 GPU，而係處理推理中最趕時間嘅一段

合作嘅重點係「異構推理」：將生成式 AI 模型服務中唔同工序，交畀最適合嘅處理器負責。

常見做法係由 GPU 處理運算量較大嘅 prefill——即模型先讀入及處理用戶提示詞嘅階段；之後再將逐個 token 生成、對延遲特別敏感嘅 decode 階段，交畀專門加速器。d-Matrix 正正將 Raptor 定位為 decode 導向嘅選擇。1819

Raptor 係現正量產嘅 Corsair 平台後繼產品，延續 d-Matrix 以記憶體為核心嘅設計。公司稱，Raptor 採用 3D DRAM 堆疊方法，將 DRAM 記憶體裸晶與 SRAM 運算裸晶放進同一封裝；其設計理念係令記憶體同運算更緊密結合，從而應付低延遲推理工作負載。2

所以，Raptor 嘅定位唔係全面取代 GPU，而係作為 NVIDIA 推理叢集入面嘅專門組件：GPU 與 XPU 各自負責最適合自己架構嘅工序。

NVIDIA 點解願意接納第三方晶片？

對 NVIDIA 而言，讓第三方 XPU 經 NVLink Fusion 接入，可擴大能夠運行喺其網絡、機櫃及基建生態內嘅硬件種類。對客戶而言，吸引力在於整合便利：專門推理加速器可借助已驗證嘅 MGX 設計、NVLink 連接及 Spectrum-X 網絡部署，而唔需要自行砌出一套獨立環境。1

呢個亦反映 NVIDIA 嘅平台策略：即使部分推理瓶頸較適合由專用晶片處理，NVIDIA 仍可讓基建採購者留喺其機櫃級平台之內。最終商業成效，仍要視乎 Raptor 真正出貨後嘅供應量、軟件支援、成本，以及真實工作負載表現。

時間表及商業背景

d-Matrix 預期 Raptor 在 2026 年底前 tape-out，即完成晶片設計定稿並交由晶圓廠製造；整合到 MGX 機櫃嘅首批供應目標為 2027 年第四季。兩者均屬前瞻性路線圖日期，日後仍可能變更。911

目前 Corsair XPU 已進入量產。另一項部署公告中，Parasail 表示會將 Corsair 加速器配搭 NVIDIA Hopper 及 Blackwell GPU：GPU 做 prefill，Corsair 做 decode。Parasail 與 d-Matrix 聲稱 token 生成速度最高可快 10 倍；但呢個係公司公布嘅性能說法，並非 Raptor 嘅獨立基準測試結果。19

d-Matrix 亦曾公布，於 2025 年 11 月完成 2.75 億美元 C 輪融資，公司估值為 20 億美元，累計融資額達 4.5 億美元。16

總結：重點在於 Raptor 可以「入到 NVIDIA 個機櫃」

今次發展唔只係 d-Matrix 採用 NVIDIA 互連技術，而係 Raptor 從設計階段起，就計劃成為 NVIDIA MGX 機櫃生態中一個專為推理而設嘅組件。

如果路線圖如期交付，營運商將可在同一套機櫃級平台內，結合 NVIDIA CPU、網絡與 GPU，以及面向 decode 階段嘅記憶體導向 XPU，而毋須由頭另建一套基建。12

不過現階段，呢仍然係一份以 2027 年為目標嘅產品路線圖。Raptor 最後是否有優勢，仍有待出貨硬件、實際推理工作負載，以及獨立量度嘅延遲、吞吐量同總擁有成本去驗證。