RespuestasPublicado18 fuentes
d-Matrix llevará sus chips Raptor a los racks de Nvidia con NVLink Fusion
NVLink Fusion permitirá que los Raptor XPU de d Matrix se integren directamente en los racks de IA de Nvidia, en lugar de operar como tarjetas PCIe independientes. La propuesta combina el acelerador centrado en memoria de d Matrix con la interconexión NVLink, la red Spectrum X y la arquitectura de rack MGX de Nvidia.
Publicado porImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- NVLink Fusion permitirá que los Raptor XPU de d Matrix se integren directamente en los racks de IA de Nvidia, en lugar de operar como tarjetas PCIe independientes.
- La propuesta combina el acelerador centrado en memoria de d Matrix con la interconexión NVLink, la red Spectrum X y la arquitectura de rack MGX de Nvidia.
- Los primeros sistemas Raptor integrados en rack están previstos para el cuarto trimestre de 2027.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How does d Matrix’s adoption of Nvidia’s NVLink Fusion for its next generation Raptor inference processors enable the startup to plug its me. Article summary: d Matrix is using NVLink Fusion to make Raptor a native, rack scale participant in Nvidia’s AI factory design rather than a separate PCIe inference card.. Topic tags: general web, llm, ai, code, benchmarks. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layou
La adopción de NVLink Fusion busca que Raptor deje de ser un acelerador de inferencia aislado y se convierta en un componente nativo, a escala de rack, de la llamada «fábrica de IA» de Nvidia. En otras palabras: d-Matrix aporta un XPU —un procesador orientado a inferencia— centrado en la memoria, mientras Nvidia conserva la interconexión, las redes, el hardware de control y el diseño de rack. 3
5
Cómo se integra Raptor en un rack de Nvidia
Raptor implementará la interfaz NVLink Fusion y se ajustará a la arquitectura de referencia MGX/NVL144 de Nvidia, con refrigeración líquida. NVLink proporciona el tejido de interconexión de alta velocidad y baja latencia para escalar dentro del rack; para ampliar la infraestructura más allá del rack entra en juego la red Ethernet Spectrum-X. 3
5
Esto evita que un cliente tenga que montar un sistema separado alrededor del chip de d-Matrix. En su lugar, el acelerador puede desplegarse dentro de una plataforma de rack ya validada por Nvidia, una vía que, según Nvidia, reduce el riesgo y acelera el paso desde silicio personalizado hasta instalaciones de gran escala. 4
Qué parte pone Nvidia y qué parte aporta d-Matrix
Un rack basado en Raptor puede integrar CPUs Nvidia Vera, conmutadores NVLink, DPUs BlueField-4, SuperNICs ConnectX-9 y red Ethernet Spectrum-X. d-Matrix suministra el XPU; Nvidia mantiene buena parte de la infraestructura de cómputo, E/S, conectividad, gestión y diseño de referencia del rack. 5
6
La colaboración también contempla soluciones de conectividad personalizadas con Astera Labs para sostener un flujo de datos de alto rendimiento dentro del sistema. 6
El objetivo: acelerar la generación token a token
La propuesta no plantea necesariamente reemplazar las GPU. Las GPU siguen siendo adecuadas para el prefill —la fase inicial en la que el modelo procesa el contexto de una petición— y para cómputo de propósito más general. d-Matrix apunta, en cambio, a la fase de decode o decodificación: la generación de cada token posterior, que requiere leer repetidamente los pesos del modelo.
Ahí la capacidad y el ancho de banda de memoria adquieren especial importancia. El objetivo es reducir la latencia por token con una canalización de inferencia complementaria entre GPU y XPU. 3
10
Capacidad anunciada y calendario
d-Matrix ha planteado una configuración de hasta 144 Raptor XPU por rack, con un objetivo agregado de 2,3 TB de DRAM apilada en 3D y 7,2 PB/s de ancho de banda de memoria. Eso equivale, en ese planteamiento, a 16 GB y 50 TB/s por XPU. En teoría, 2,3 TB permitirían alojar más de cuatro billones de parámetros cuantizados a 4 bits, aunque la capacidad realmente utilizable dependerá de metadatos, estado de ejecución y otros costes del formato del modelo y del software. 3
Raptor se describe como un diseño con un dado de cómputo de 4 nm combinado con DRAM personalizada. d-Matrix espera completar el tape-out —la entrega final del diseño para fabricación— antes de finalizar 2026 y prevé los primeros sistemas integrados en rack para el cuarto trimestre de 2027. 10
4
Por qué Nvidia también gana con esta integración
El valor estratégico para Nvidia es que NVLink Fusion puede mantener a los clientes dentro de su ecosistema incluso si eligen silicio especializado de terceros para una parte de la inferencia. Nvidia aún puede proporcionar la arquitectura de rack, el tejido de interconexión, conmutadores, CPUs, DPUs, SuperNICs, Ethernet y elementos de infraestructura próximos al software.
Esta lectura se desprende de la arquitectura y del modelo comercial anunciado; no es una declaración de Nvidia sobre los términos económicos del acuerdo, que no se hicieron públicos. 1
3
5
Un ecosistema de hardware heterogéneo
d-Matrix se suma al esfuerzo de NVLink Fusion junto a socios asociados públicamente a la iniciativa, como AWS, Arm, Intel, Fujitsu, MediaTek y Marvell. La estrategia consiste en convertir NVLink en una interfaz de plataforma para hardware heterogéneo de fábricas de IA y ampliar el papel de Nvidia desde los aceleradores hacia toda la infraestructura que los rodea. 3
La empresa lanzó previamente su acelerador de inferencia Corsair en noviembre de 2024. Más tarde, una ronda Serie C de 275 millones de dólares valoró a d-Matrix en 2.000 millones de dólares; algunas informaciones sitúan su financiación acumulada en unos 450 millones de dólares. Son cifras distintas y no deben interpretarse como una única ronda de 450 millones. 2
6
Para Corsair, ParaSail ha comunicado una mejora de hasta diez veces en velocidad de inferencia al combinarlo con GPU de Nvidia, aunque se trata de una afirmación de rendimiento de empresa o cliente, no de una prueba independiente. 12
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "d-Matrix llevará sus chips Raptor a los racks de Nvidia con NVLink Fusion"?
NVLink Fusion permitirá que los Raptor XPU de d Matrix se integren directamente en los racks de IA de Nvidia, en lugar de operar como tarjetas PCIe independientes.
¿Cuáles son los puntos clave a validar primero?
NVLink Fusion permitirá que los Raptor XPU de d Matrix se integren directamente en los racks de IA de Nvidia, en lugar de operar como tarjetas PCIe independientes. La propuesta combina el acelerador centrado en memoria de d Matrix con la interconexión NVLink, la red Spectrum X y la arquitectura de rack MGX de Nvidia.
¿Qué debo hacer a continuación en la práctica?
Los primeros sistemas Raptor integrados en rack están previstos para el cuarto trimestre de 2027.