Raptor如何接入英伟达的机架级AI基础设施

d-Matrix与英伟达围绕NVLink Fusion达成的安排，核心并不是把Raptor作为一张普通扩展卡接入服务器，而是计划让这款推理XPU成为英伟达机架级AI基础设施中的一个组成部分。d-Matrix希望将其偏重内存能力的推理处理器，与英伟达既有的机架设计、互连及网络能力结合起来。310

NVLink Fusion带来了什么

NVLink Fusion是英伟达面向合作伙伴芯片的集成平台。对d-Matrix而言，它意味着Raptor可接入英伟达的NVLink纵向扩展网络、MGX机架架构和Spectrum-X横向扩展网络。英伟达表示，合作伙伴可依托经过验证的机架生态，而不必独自搭建从芯片到整套系统的所有环节，从而以更快、风险更低的路径走向大规模部署。3

关键差别在于，Raptor计划成为MGX参考设计机架的一部分。这使其定位从单独销售的加速器，转为接入共享高带宽互连、具备明确基础设施组件组合的机架级系统。310

Raptor系统可使用哪些英伟达组件

按公布的规划，Raptor系统将采用以下英伟达平台组件：

• Vera CPU：承担机架中的主机计算；
• NVLink交换机：构成纵向扩展互连；
• BlueField-4 DPU：负责数据处理及基础设施功能；
• ConnectX-9 SuperNIC：提供高性能网络I/O；
• Spectrum-X以太网：支持跨机架的横向扩展网络。10

d-Matrix还将与Astera Labs合作开发定制连接方案，以支持系统内的高吞吐数据流动。10

换言之，d-Matrix主要提供推理XPU，而英伟达提供参考架构、纵向互连、网络组件和更广泛的AI基础设施生态。310

为什么瞄准低延迟推理

Raptor面向的是令牌生成延迟敏感的推理任务。生成过程中需要反复访问模型权重，因而以内存为中心的加速器可能尤其适合这类负载；英伟达的平台则提供了在机架规模运行所需的通信与部署基础。

这并不意味着Raptor将全面替代英伟达GPU。更准确地说，此次合作为异构系统提供了一条路径：专用推理芯片可以与英伟达基础设施共存。NVLink Fusion的目标正是将合作伙伴芯片与英伟达机架级系统及网络结合，用于构建半定制AI基础设施。26

144 XPU机架：目标参数仍待产品验证

d-Matrix表示，计划提供单一全互连NVLink网络连接、最多搭载144颗Raptor加速器的系统。该公司公布的机架级目标为2.3TB 3D堆叠DRAM与7.2PB/s聚合内存带宽，并称可支持在4比特精度下参数量超过4万亿的模型。24

这些数值属于前瞻性产品目标。公开报道中对于单颗加速器内存和带宽的描述并不完全一致，因此最终单卡配置及实际可部署的模型容量，仍有待产品临近发布时确认。运行时内存、模型元数据、量化格式和系统软件，都会影响实际可运行的模型规模。

时间表：2026年流片，2027年机架集成

Raptor被描述为采用4纳米计算裸片并结合定制DRAM的设计。d-Matrix预计在2026年年底前流片，首批机架集成系统预计在2027年第四季度推出。1014

因此，这是一项跨多年的产品路线图合作，并非已经上市的联合机架产品。12

英伟达为何向第三方加速器开放平台

将机架级平台开放给合作伙伴芯片，可让英伟达服务希望采用专用硅芯片、但又不愿放弃其基础设施栈的客户。即使推理处理器来自d-Matrix，拟议系统仍可使用英伟达的NVLink互连、CPU、交换机、DPU、SuperNIC、以太网和MGX架构。310

这是一项基于系统架构得出的商业含义，并非双方对交易收入分配或经济条款的公开表述；两家公司没有披露财务条款。1

NVLink Fusion生态中的d-Matrix

英伟达推出NVLink Fusion，是为了支持与合作伙伴共同构建半定制AI基础设施。其最初公开的合作伙伴包括MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys和Cadence；英伟达还表示，富士通和高通的CPU可以通过该平台与英伟达GPU整合。26

d-Matrix的加入，将这一模式延伸至侧重推理的XPU。更广泛的意义不只在于一款芯片，而在于机架能够变得更模块化：客户未来可将定制计算芯片与英伟达的互连及网络基础设施组合，而不必在“全英伟达方案”和完全独立的平台之间二选一。

d-Matrix的背景

d-Matrix于2024年11月推出Corsair推理加速器。28 2025年11月，该公司宣布完成2.75亿美元C轮融资，估值20亿美元，累计融资额达到4.5亿美元；微软旗下M12是投资方之一。39

Raptor合作代表着d-Matrix尝试从独立推理加速器模式，走向机架级部署模式。其所承诺的延迟、容量和带宽优势能否转化为实际生产部署，仍取决于最终芯片、软件集成和2027年系统推出后的真实基准测试。