d-Matrix 接入 NVLink Fusion：Raptor 如何直接进入英伟达液冷 AI 机架

关键变化：从“外接加速卡”变成机架内成员

d-Matrix 采用 NVLink Fusion 后，下一代 Raptor 推理 XPU 的定位不再是独立的 PCIe 推理加速卡，而是可直接融入英伟达机架级“AI 工厂”设计的异构计算组件。对客户而言，这意味着可在保留英伟达互连、网络、管理与机架集成能力的同时，引入 d-Matrix 面向内存密集型推理的芯片。35

这里的“AI 工厂”可理解为英伟达对大规模 AI 数据中心整套计算、网络、存储与运维基础设施的统称，并不只是单颗 GPU。

Raptor 如何接入 NVL144/MGX 液冷机架？

Raptor 将实现 NVLink Fusion 接口，并适配英伟达的液冷 NVL144/MGX 参考架构。NVLink 负责机架内设备之间的高带宽、低延迟“纵向扩展”（scale-up）互连；需要跨机架或扩大集群规模时，则由 Spectrum-X 负责“横向扩展”（scale-out）网络。35

因此，d-Matrix 无需从零搭建整套机架互连与部署体系，而是把自身 XPU 接入已经验证的 MGX 生态。英伟达称，这为定制芯片从设计走向大规模部署提供了更快、风险更低的路径。4

一套 Raptor 机架里，英伟达还提供什么？

按照公布的参考设计，基于 Raptor 的机架可采用以下英伟达组件：

• Vera CPU：承担主机计算与系统协同；
• NVLink 交换机：构成机架内的高速互连；
• BlueField-4 DPU：处理数据中心基础设施、I/O 与安全等卸载任务；
• ConnectX-9 SuperNIC：提供高性能网络连接；
• Spectrum-X 以太网：用于更大规模的 AI 网络扩展。5

换言之，d-Matrix 贡献的是 Raptor XPU，而英伟达仍提供大量系统“底座”——包括互连、网络、I/O、管理能力及参考机架设计。5 d-Matrix 还将与 Astera Labs 合作，为系统提供定制连接方案，以保障高吞吐的数据流。6

为什么瞄准推理中的 Decode 阶段？

大模型推理通常可粗略分为两个阶段：首先是处理输入提示词的 Prefill（预填充），随后是逐个生成输出词元（token）的 Decode（解码）。GPU 仍适合预填充和通用计算；而 d-Matrix 重点瞄准逐 token 的解码环节。

在这一阶段，系统需要反复读取模型权重，内存容量和内存带宽往往成为关键约束。Raptor 的目标是以偏内存中心的设计降低 token 延迟，并与 GPU 形成互补的 GPU–XPU 推理流水线，而非简单地全面替换 GPU。310

容量与带宽目标意味着什么？

d-Matrix 给出的机架级目标是：单个机架部署 144 颗 Raptor XPU，合计提供约 2.3TB 的 3D 堆叠 DRAM 和 7.2PB/s 的聚合内存带宽。按这一机架级目标折算，平均每颗 XPU 对应约 16GB 内存和 50TB/s 带宽。

理论上，2.3TB 容量可容纳超过 4 万亿个 4 比特参数；但这只是参数本体的粗略容量判断。元数据、运行时状态、KV 缓存及其他软件开销都会占用空间，实际可部署的模型规模仍取决于模型格式与系统软件。3

时间表：2026 年流片，2027 年第四季度上架

Raptor 被描述为由 4 纳米计算芯片与定制 DRAM 组合而成。d-Matrix 预计在 2026 年底前流片，首批完成机架集成的系统计划于 2027 年第四季度推出。104

对英伟达的意义：把生态边界延伸到第三方芯片

从架构和商业模式看，NVLink Fusion 的战略价值在于：即使客户选择了专用的第三方加速器，仍可继续采购并使用英伟达的机架架构、互连、交换机、CPU、DPU、SuperNIC、以太网及相关软件基础设施。这样，第三方芯片未必意味着客户必须离开英伟达生态。

这一判断是基于公开架构与合作模式作出的分析，并非双方披露的交易经济条款。35

d-Matrix 也加入了更广泛的 NVLink Fusion 合作阵营；公开资料中与该生态相关的伙伴包括 AWS、Arm、英特尔、富士通、联发科和 Marvell。英伟达的方向是将 NVLink 从自身加速器之间的互连，扩展为异构 AI 工厂硬件的平台接口。3

公司背景与尚未披露的信息

d-Matrix 曾于 2024 年 11 月推出 Corsair 推理加速器。其后续融资中包括微软 M12 的参与：报道显示，公司一轮 2.75 亿美元 C 轮融资对应约 20 亿美元估值，累计融资约 4.5 亿美元。后一个数字是累计融资额，不应误读为单轮融资规模。26

ParaSail 曾表示，将 Corsair 与英伟达 GPU 结合可实现最高约 10 倍的推理速度提升；这属于公司或客户的性能说法，并非独立基准测试结果。12

双方尚未披露此次 NVLink Fusion 合作的财务条款。1