d-Matrix liittää Raptor-XPU:t Nvidian MGX-räkkeihin NVLink Fusionilla

d-Matrix pyrkii suurten AI-inferenssijärjestelmien markkinoille ilman, että asiakkaan olisi rakennettava erillinen kiihdytinklusteri alusta asti. Yhtiö kertoo integroivansa Nvidian NVLink Fusion -teknologian seuraavan sukupolven Raptor-inferenssi-XPU-piireihinsä. Näin piirit voidaan liittää Nvidian MGX-räkkiarkkitehtuuriin ja laajempaan AI-infrastruktuurialustaan. Kyseessä on monivuotinen tuotesuunnitelma, ja ensimmäisiä MGX-räkkiin integroituja Raptor-XPU:ita odotetaan vuoden 2027 viimeisellä neljänneksellä. 18

Kyse on koko järjestelmästä, ei vain yksittäisestä piiristä

NVLink Fusion on Nvidian suuren kaistanleveyden ja pienen viiveen liitäntätekniikka sekä IP-kokonaisuus. Sen tarkoitus on mahdollistaa räätälöityjen CPU- ja XPU-piirien tuominen Nvidian AI-infrastruktuuriin. d-Matrixin tapauksessa Raptor voidaan kytkeä NVLinkin scale-up-verkkoon, Spectrum-X:n scale-out-verkkoon ja MGX-räkkimalleihin sen sijaan, että se asennettaisiin vain d-Matrixin omaan, räätälöityyn järjestelmään. 114

Suunniteltuun räkkiin kuuluvat Nvidian Vera-suorittimet, NVLink-kytkimet, BlueField-4-DPU:t, ConnectX-9-SuperNIC-verkkokortit sekä Spectrum-X Ethernet -verkotus. d-Matrixin mukaan tämä antaa sille valmiiksi validoidun reitin räkki-, verkko-, sähkö-, jäähdytys- ja toimitusketjuratkaisuihin – osa-alueisiin, jotka erikoistuneen kiihdyttimen valmistajan pitäisi muuten koota itse. 18

Käytännössä ilmoitus koskee siis järjestelmätason integraatiota. Datakeskusoperaattori voisi käyttää samaa Nvidia-pohjaista infrastruktuuriperustaa GPU:ille, CPU:ille ja d-Matrixin XPU:ille sen sijaan, että jokaiselle prosessorityypille suunniteltaisiin omat räkit. 1

GPU:t prefilliin, Raptor tokenien dekoodaukseen

Ehdotettu arkkitehtuuri perustuu hajautettuun inferenssiin. Nvidian GPU:t hoitaisivat laskennallisesti raskaan prefill-vaiheen, kun taas d-Matrixin erikoistunut laitteisto olisi tarkoitettu decode-vaiheeseen, jossa mallin vastausta tuotetaan tokeni kerrallaan. Prefill-vaihe käsittelee käyttäjän syötteen; decode-vaihe muodostaa jatkovastauksen tokenivirran.

Ajatuksena on kohdistaa työvaiheet niille suorittimille, joihin ne on suunniteltu. d-Matrix on aiemmin kertonut Parasailin ottavan nykyisiä Corsair-kiihdyttimiään käyttöön Nvidia Hopper- ja Blackwell-järjestelmien rinnalla samalla yleisellä prefill/decode-jaolla. 22

Mahdolliset suorituskykyhyödyt riippuvat kuitenkin työkuormasta. Parasailin väite jopa 10-kertaisesta nopeudesta ja paremmasta kustannustehokkuudesta on yhtiöiden oma, valikoituja työkuormia koskeva väite – ei riippumattomasti varmennettu yleispätevä vertailu d-Matrixin laitteiston ja GPU:iden välillä. 22

Raptor-räkin suunnitelmat ja aikataulu

d-Matrix on kertonut ensimmäisen Raptor-räkkinsä noudattavan Nvidian MGX-viitearkkitehtuuria. Tiekarttaa koskevien tietojen mukaan kyseessä on NVL144-tyylinen rakenne, jossa enintään 144 Raptor-kiihdytintä voitaisiin yhdistää yhteen NVLink-kudokseen. Tekniset tiedot ovat edelleen tulevaisuuden suunnitelmia, eivät toimitettavan tuotteen takeita. 2

Konkreettisempi saatavuustavoite on rajatumpi: ensimmäisten Nvidian MGX-räkkiin integroitujen Raptor-XPU:iden odotetaan olevan saatavilla vuoden 2027 viimeisellä neljänneksellä. 8

Koska Raptor ei vielä ole toimitettava MGX-tuote, suorituskykyä, kapasiteettia ja käyttöönoton yksityiskohtia on syytä pitää tiekarttatavoitteina siihen asti, kunnes lopulliset järjestelmät ja riippumattomasti testattavat vertailutulokset ovat saatavilla.

Miksi Nvidia hyötyy kolmannen osapuolen kiihdyttimistä?

Ensi silmäyksellä voi vaikuttaa ristiriitaiselta, että Nvidia mahdollistaa ulkopuolisen inferenssiprosessorin käytön. Strateginen logiikka on kuitenkin päinvastainen: Nvidia voi tehdä omasta AI-alustastaan ensisijaisen perustan silloinkin, kun laskentapiiri ei ole Nvidian GPU.

NVLink Fusion pitää arvokkaat alustakerrokset – scale-up-kudoksen, verkotuksen, räkkisuunnittelun ja muun infrastruktuurin – Nvidian ekosysteemissä. d-Matrixille ja sen asiakkaille tämä voi pienentää integraatioriskiä ja nopeuttaa käyttöönottoa. Nvidialle se vähentää tarvetta rakentaa kokonaan Nvidia-vapaata klusteria. 114

Tätä Nvidia tarkoittaa kuvatessaan alustaansa ”vertikaalisesti integroiduksi ja horisontaalisesti avoimeksi”.

• Vertikaalisesti integroitu tarkoittaa, että Nvidia koordinoi useita infrastruktuurikerroksia laskennan liitännöistä ja verkotuksesta räkkisuunnitteluun sekä laajempaan AI-alustaan.
• Horisontaalisesti avoin tarkoittaa, että räätälöityjen CPU- ja XPU-piirien toimittajat voivat liittää oman sirunsa alustaan NVLink Fusionin kautta. 114

Tämä ei tarkoita, että kaikki kiihdyttimet olisivat keskenään vaihdettavia tai suorituskyvyltään samanarvoisia. Tässä yhteydessä ”fungible” eli vaihdettavuus kannattaa ymmärtää operatiiviseksi tavoitteeksi: operaattori voisi valita työkuormalle sopivan laskentaresurssin yhteisellä infrastruktuuriperustalla.

Mihin Groq 3 sijoittuu?

d-Matrixin suunnitelma täydentää Nvidia-GPU:ita ehdotetussa prefill/decode-jaossa, mutta se toimii samalla laajasti samalla erikoistuneen inferenssin alueella kuin Nvidian suunnittelemat Groq 3 -LPU-pohjaiset järjestelmät. Nvidia on esitellyt Groq 3 LPX:n erityisesti decode-vaiheeseen suunniteltuna ratkaisuna, joka voidaan yhdistää Vera Rubin NVL72 -infrastruktuuriin. 24

Suhde on siten kaksijakoinen. Raptor voi täydentää Nvidian GPU:ita ja hyödyntää Nvidian alustainfrastruktuuria, mutta se voi myös kilpailla Nvidian oman erikoistuneen decode-ratkaisun kanssa. Saatavilla olevien tietojen perusteella ei voi tehdä mielekästä suoraa johtopäätöstä ratkaisujen viiveestä, läpimenosta, energiankulutuksesta, hinnoittelusta tai saatavuudesta.

Rahoitus, Corsair ja Parasail

d-Matrix kertoi marraskuussa 2025 keränneensä C-rahoituskierroksella 275 miljoonaa dollaria 2 miljardin dollarin arvostuksella. Kokonaisrahoitus nousi tällöin 450 miljoonaan dollariin. 27 Yhtiön nykyinen inferenssialusta on Corsair, kun taas Raptor on NVLink Fusion -tiekartassa nimetty seuraavan sukupolven XPU.

Corsair toimii jo d-Matrixin ja Parasailin yhteistyön perustana. Parasailin mukaan kiihdyttimiä otetaan käyttöön Nvidia-infrastruktuurin rinnalla tietyissä inferenssityökuormissa. Raptorin merkitys on siinä, että d-Matrix suunnittelee nyt suorempaa reittiä Nvidian räkkitason ympäristöön. 22

Mitä ei vielä tiedetä

Kumpikaan yhtiö ei julkistanut sopimuksen taloudellisia ehtoja. Julkisten tietojen perusteella ei siis tiedetä lisenssikorvauksista, vähimmäisostositoumuksista, suunnittelumaksuista, tulonjaosta tai mahdollisista etuoikeutetuista kaupallisista ehdoista.

Ilmoitusta kannattaa siksi lukea merkittävänä infrastruktuuritiekaartana: d-Matrix saa reitin erikoistuneen decode-laitteistonsa käyttöönottoon Nvidia-pohjaisissa AI-tehtaissa, ja Nvidia kasvattaa niiden laskentapiirien joukkoa, jotka voivat tukeutua sen liitäntä- ja räkkiekosysteemiin. Se, syntyykö tästä parempi inferenssin reaalitalous, riippuu lopullisesta laitteistosta, ohjelmistointegraatiosta, hinnoittelusta ja riippumattomasti toistettavista työkuormatesteistä. 18