d-Matrix Raptor soll per NVLink Fusion direkt in Nvidias KI-Racks einziehen

d-Matrix will seinen kommenden Inferenzbeschleuniger Raptor nicht bloß an einen Server anhängen, sondern direkt in Nvidias Infrastruktur für KI-Rechenzentren integrieren. Möglich machen soll das NVLink Fusion: Die Technik verbindet kundenspezifische Chips mit Nvidias Rack-, Interconnect- und Netzwerktechnik. Für d-Matrix ist das vor allem ein Weg, eine speicherzentrierte XPU für KI-Inferenz in ein bereits definiertes Rack-System zu bringen. 310

Vom Einzelbeschleuniger zum Rack-System

Der entscheidende Unterschied liegt in der Systemebene. Raptor soll als Teil eines MGX-Referenzdesigns von Nvidia eingesetzt werden. MGX ist Nvidias modulare Architektur für Rechenzentrumsracks; NVLink Fusion eröffnet Partnern den Zugang zu deren Scale-up-Verbindung innerhalb des Racks sowie zu Spectrum-X für die Vernetzung über das Rack hinaus. 3

Damit muss d-Matrix nicht jede Komponente eines großskaligen Systems selbst entwickeln und qualifizieren. Nvidia beschreibt den Ansatz als schnelleren und risikoärmeren Weg von kundenspezifischem Silizium zu einer großflächig einsetzbaren Plattform, weil die Partner auf ein validiertes Rack-Ökosystem aufsetzen können. 3

Diese Nvidia-Komponenten sind vorgesehen

Im geplanten Raptor-Rack sollen mehrere Bausteine aus Nvidias KI-Infrastruktur zusammenkommen:

• Vera-CPUs als Host-Prozessoren,
• NVLink-Switches für die schnelle Scale-up-Verbindung im Rack,
• BlueField-4-DPUs für Datenverarbeitung und Infrastrukturaufgaben,
• ConnectX-9-SuperNICs für leistungsfähige Netzwerkanbindung,
• Spectrum-X-Ethernet für die Scale-out-Vernetzung über einzelne Racks hinaus. 10

Zusätzlich arbeitet d-Matrix mit Astera Labs an maßgeschneiderten Verbindungslösungen für einen hohen Datendurchsatz im Gesamtsystem. 10

Die Arbeitsteilung ist klar: d-Matrix liefert die auf Inferenz ausgelegte XPU, Nvidia das umgebende Plattformfundament – Referenzarchitektur, Interconnect, Netzwerkkomponenten und das breitere Infrastruktur-Ökosystem. 310

Weshalb Raptor auf geringe Token-Latenz zielt

Raptor richtet sich an Inferenzaufgaben, bei denen die Verzögerung bei der Ausgabe einzelner Tokens zählt. Bei der schrittweisen Textgenerierung müssen Modellgewichte wiederholt gelesen werden. Eine speicherzentrierte Architektur kann für solche Arbeitslasten besonders relevant sein, während Nvidias Plattform die Kommunikation und den Betrieb auf Rack-Ebene bereitstellt.

Das bedeutet nicht, dass Raptor Nvidia-GPUs bei sämtlichen KI-Aufgaben ersetzen soll. Der Ansatz zielt vielmehr auf heterogene Systeme: spezialisierte Inferenzchips können neben Nvidia-Infrastruktur arbeiten. NVLink Fusion ist ausdrücklich für teilkundenspezifische KI-Infrastruktur gedacht, die Partnersilizium mit Nvidias Rack-Systemen und Netzwerktechnik kombiniert. 26

Bis zu 144 XPUs pro Rack geplant

d-Matrix erwartet, Systeme mit bis zu 144 Raptor-Beschleunigern anbieten zu können, die über ein einheitliches NVLink-Netz mit All-to-All-Verbindung gekoppelt sind. Als Zielwerte für ein Rack nennt das Unternehmen 2,3 TB 3D-gestapelten DRAM und 7,2 PB/s aggregierte Speicherbandbreite. Damit sollen Modelle mit mehr als vier Billionen Parametern bei 4-Bit-Präzision unterstützt werden. 24

Diese Angaben sind jedoch Produktziele für ein noch kommendes System. In öffentlichen Berichten finden sich unterschiedliche Angaben zu Speicher und Bandbreite pro Beschleuniger. Die endgültige Konfiguration pro Gerät und die tatsächlich nutzbare Modellgröße müssen daher näher am Marktstart bestätigt werden. Auch Laufzeitspeicher, Modell-Metadaten, das Quantisierungsformat und die Systemsoftware beeinflussen, wie groß ein Modell in der Praxis sein darf.

Zeitplan: Tape-out 2026, erste integrierte Systeme 2027

Raptor wird als Design aus einem Compute-Die in 4-Nanometer-Fertigung und kundenspezifischem DRAM beschrieben. d-Matrix rechnet mit dem Tape-out – dem Abschluss des Chipentwurfs für die Fertigung – bis Ende 2026. Erste in Racks integrierte Systeme werden für das vierte Quartal 2027 erwartet. 1014

Es handelt sich damit um eine mehrjährige Zusammenarbeit entlang einer Produkt-Roadmap, nicht um ein bereits verfügbares gemeinsames Rack-Produkt. 12

Warum auch Nvidia von fremden Beschleunigern profitiert

Indem Nvidia seine Rack-Plattform für Partnerchips öffnet, kann das Unternehmen Kunden ansprechen, die spezialisierte Rechenhardware wünschen, ohne dass diese Nvidias Infrastruktur vollständig verlassen müssen. Selbst wenn d-Matrix den Inferenzprozessor liefert, kann das geplante System weiterhin Nvidias NVLink-Fabric, CPUs, Switches, DPUs, SuperNICs, Ethernet-Netzwerk und MGX-Architektur nutzen. 310

Das ist eine technische und strategische Schlussfolgerung aus der Systemarchitektur, keine Aussage zu Umsätzen oder einer Erlösaufteilung. Finanzielle Konditionen der Vereinbarung wurden nicht veröffentlicht. 1

Ein Baustein in Nvidias NVLink-Fusion-Ökosystem

Nvidia stellte NVLink Fusion vor, um teilkundenspezifische KI-Infrastruktur gemeinsam mit Partnern zu ermöglichen. Zu den zuerst öffentlich genannten Partnern gehörten MediaTek, Marvell, Alchip Technologies, Astera Labs, Synopsys und Cadence. Nvidia erklärte zudem, dass sich Fujitsu- und Qualcomm-CPUs über die Plattform mit Nvidia-GPUs integrieren lassen. 26

Mit d-Matrix kommt eine auf Inferenz ausgerichtete XPU hinzu. Die größere Bedeutung liegt daher weniger in einem einzelnen Chip als in einem modulareren Rack-Modell: Kunden könnten kundenspezifische Rechenhardware mit Nvidias Interconnect- und Netzwerkinfrastruktur kombinieren, statt sich zwischen einem vollständig von Nvidia stammenden System und einer komplett separaten Plattform entscheiden zu müssen.

Hintergrund zu d-Matrix

d-Matrix brachte seinen Inferenzbeschleuniger Corsair im November 2024 auf den Markt. Im November 2025 meldete das Unternehmen eine Series-C-Finanzierung über 275 Millionen US-Dollar bei einer Bewertung von 2 Milliarden US-Dollar. Insgesamt habe d-Matrix damit 450 Millionen US-Dollar eingesammelt; zu den Investoren zählte auch Microsofts Risikokapitalarm M12. 2839

Die Raptor-Partnerschaft ist somit der Versuch, vom Ansatz eines einzelnen Inferenzbeschleunigers zu einem Rack-System überzugehen. Ob sich die versprochenen Vorteile bei Latenz, Kapazität und Speicherbandbreite in produktiven Installationen bestätigen, wird von der finalen Hardware, der Softwareintegration und unabhängigen Praxistests abhängen, wenn die Systeme 2027 verfügbar werden sollen.