d-Matrix інтегрує Raptor у серверні стійки NVIDIA: що дає NVLink Fusion

Не просто карта розширення, а компонент AI-стійки

d-Matrix планує використати NVIDIA NVLink Fusion, щоб її наступний інференс-прискорювач Raptor XPU працював як нативний компонент стійкової платформи NVIDIA для «AI-фабрик», а не як ізольований пристрій, підключений лише через PCIe. Це дозволяє додати спеціалізований, орієнтований на пам’ять прискорювач до готової інфраструктури NVIDIA — зі швидкісним з’єднанням між пристроями, мережею, введенням-виведенням, керуванням і референсним дизайном стійки. 35

Як Raptor підключатиметься до NVL144/MGX

Raptor реалізовуватиме інтерфейс NVLink Fusion і має інтегруватися в рідинноохолоджувану референсну архітектуру NVIDIA MGX/NVL144. NVLink виконує роль високошвидкісної мережі scale-up усередині системи — для прямого низьколатентного обміну між пристроями. Для масштабування за межі однієї стійки передбачена мережа Spectrum-X класу scale-out. 35

Іншими словами, d-Matrix постачає власний XPU, тоді як NVIDIA зберігає більшість «обв’язки» системи. До конфігурації можуть увійти:

• процесори NVIDIA Vera;
• комутатори NVLink;
• DPU BlueField-4 для обробки та ізоляції мережевого вводу-виводу;
• мережеві адаптери ConnectX-9 SuperNIC;
• Ethernet-мережа Spectrum-X;
• модульний референсний дизайн стійки MGX. 56

Такий підхід дає виробнику спеціалізованого кремнію швидший і менш ризиковий шлях до масштабного розгортання: не потрібно самостійно проєктувати всю стійку та її мережеву інфраструктуру. 4

Чому d-Matrix робить ставку саме на інференс

GPU лишаються придатними для prefill — первинної обробки запиту та загальних обчислень. Raptor натомість орієнтований на decode, тобто послідовне генерування токенів відповіді. На цьому етапі система знову й знову читає ваги моделі, тому особливо важливими стають швидкість доступу до пам’яті, її пропускна здатність і затримка.

Задум полягає не обов’язково в повній заміні GPU, а в побудові комбінованого конвеєра GPU–XPU: GPU виконує частину навантаження, а пам’ятецентричний Raptor бере на себе чутливе до затримок декодування. 310

Місткість і пропускна здатність: заявлені показники

d-Matrix заявляє цільову конфігурацію до 144 Raptor XPU в одній стійці, із сумарними 2,3 ТБ 3D-стекованої DRAM та 7,2 ПБ/с сукупної пропускної здатності пам’яті. У перерахунку на 144 пристрої це відповідає приблизно 16 ГБ і 50 ТБ/с на XPU.

Теоретично 2,3 ТБ пам’яті можуть умістити більш як 4 трлн параметрів із 4-бітною квантизацією. Але реальний максимальний розмір моделі буде меншим або залежатиме від формату: потрібна пам’ять на метадані, службовий стан виконання та інші накладні витрати. 3

Водночас у публічних повідомленнях про Raptor також фігурують показники 32 ГБ і 100 ТБ/с на прискорювач. Вони арифметично не збігаються з наведеними сумарними значеннями для стійки з 144 пристроями, тому остаточні специфікації варто оцінювати після виходу офіційних технічних документів. 312

Коли чекати на обладнання

Raptor описують як рішення з 4-нм обчислювальним кристалом у поєднанні з кастомною DRAM. d-Matrix очікує завершити tape-out — передачу дизайну чипа у виробництво — до кінця 2026 року. Перші системи, інтегровані в стійку MGX, заплановані на IV квартал 2027 року. 1045

Що отримує NVIDIA

Для NVIDIA NVLink Fusion розширює екосистему за межі власних GPU. Якщо замовник обирає спеціалізований сторонній прискорювач, він усе одно може залишатися в архітектурі NVIDIA: купувати мережеву фабрику, комутатори, CPU, DPU, SuperNIC, Ethernet-обладнання та рішення для стійок.

Це висновок із самої архітектури та моделі партнерства, а не розкритий сторонами опис комерційних умов. Фінансові параметри співпраці d-Matrix і NVIDIA не оприлюднювалися. 135

Значення для екосистеми

d-Matrix приєднується до ширшої ініціативи NVLink Fusion. Серед партнерів, яких публічно пов’язують із нею, називають AWS, Arm, Intel, Fujitsu, MediaTek і Marvell. Стратегія NVIDIA полягає в тому, щоб перетворити NVLink на інтерфейс платформи для неоднорідного обладнання AI-фабрик — не лише для власних прискорювачів. 3

Для d-Matrix це наступний крок після запуску інференс-прискорювача Corsair у листопаді 2024 року. У 2025 році компанія залучила $275 млн у раунді Series C за оцінки $2 млрд; у цьому раунді брали участь, зокрема, нові інвестори, а фонд Microsoft M12 збільшив попередні вкладення. Загальний обсяг залученого фінансування повідомлявся на рівні близько $450 млн — це не один раунд на $450 млн. 2

ParaSail повідомляла про прискорення інференсу до десяти разів при поєднанні Corsair із GPU NVIDIA, однак це твердження компанії або замовника, а не незалежний бенчмарк. 12