Nvidia ve d-Matrix, yapay zekâ yanıtlarını nasıl hızlandırmayı planlıyor?

Üretken yapay zekâ hizmetlerinde yalnızca yanıtın kalitesi değil, yanıtın ne kadar hızlı başladığı ve tokenların ne kadar akıcı geldiği de önem kazanıyor. Nvidia ile d-Matrix’in Eylül 2026’da duyurduğu iş birliği, bu gecikme sorununa işlem yükünü bölerek yaklaşmayı amaçlıyor: d-Matrix’in gelecek nesil Raptor çıkarım XPU’ları, Nvidia tasarımlı yapay zekâ altyapısına doğrudan bağlanacak. Böylece bir büyük dil modeli (LLM) isteğinin farklı bölümleri, o iş için daha uygun işlemcide yürütülebilecek. 134

Temel nokta şu: Raptor’un Nvidia GPU’larının yerini alması planlanmıyor. Hedef, heterojen bir sistem kurmak. GPU’lar hesaplama yoğun prefill aşamasını, d-Matrix hızlandırıcıları ise çıktıyı birer birer token üreten, tekrarlı ve gecikmeye duyarlı decode aşamasını üstlenecek. 45

Prefill ve decode neden ayrılıyor?

Bir LLM isteği tek tip bir iş yükü değildir. Prefill, kullanıcının istemini ve bağlamı işler; decode ise modelin sonraki tokenı tekrar tekrar üretmesidir. d-Matrix, mevcut Corsair ürünü de dahil olmak üzere mimarisini decode işi için konumlandırıyor; GPU’ları ise hesaplama yoğun görevlerde güçlü bir tamamlayıcı olarak tanımlıyor. 26

Bu ayrım; kodlama asistanları, sohbet uygulamaları ve sesli deneyimler gibi bir sonraki tokena kadar geçen sürenin hissedildiği ürünlerde değerli olabilir. Önerilen Raptor platformu, d-Matrix’in “üst düzey, çok düşük gecikmeli token hizmetleri” dediği kullanım alanlarını hedefliyor. 48

Ancak iş yükünü bölmek yeni bir teknik gereksinim doğuruyor: İşlemciler arasındaki veri aktarımı yeterince hızlı olmazsa, uzmanlaşmanın getirdiği kazanç iletişim gecikmesinde kaybolabilir. Ortaklığın altyapı tercihlerinin amacı da bu darboğazı sınırlamak.

NVLink Fusion, MGX ve Spectrum-X’in rolü

Raptor’un, Nvidia’nın NVLink ölçek büyütme alanına bağlanmak için NVLink Fusion kullanması planlanıyor. Sistemler arası ölçek genişletme ağı ise Spectrum-X olacak. Nvidia, bunun özel tasarımlı işlemcilerin daha geniş yapay zekâ altyapı platformuna bağlanması için bir yol sunduğunu belirtiyor. 3

Planlanan d-Matrix rafı, Nvidia’nın MGX referans mimarisi üzerine kurulacak. Tasarımda Nvidia Vera CPU’lar, NVLink anahtarları, BlueField-4 DPU’lar, ConnectX-9 SuperNIC’ler ve Spectrum-X Ethernet’in yer alması bekleniyor. 48

Bu, d-Matrix açısından yalnızca yüksek hızlı bağlantı anlamına gelmiyor. Şirket, yeni bir işlemci çevresinde sunucu, ağ, güç, soğutma ve tedarik zinciri unsurlarını tek tek doğrulamak yerine, doğrulanmış bir raf ekosistemine yönelme olanağı elde ediyor. Nvidia da MGX ve daha geniş platformunu, özel silikonun büyük ölçekli kurulumlara daha hızlı ve daha düşük riskle ulaşmasının yolu olarak sunuyor. 3

Pratikte amaç, Raptor’u bağımsız bir çıkarım cihazı olmaktan çıkarıp Nvidia tarzı bir “yapay zekâ fabrikasının” parçası olarak devreye alınabilir hâle getirmek.

Raptor’un planlanan ölçeği bellek ve bant genişliği üzerine kurulu

d-Matrix’in Raptor için açıkladığı raf ölçeğindeki hedefler iddialı: Raf başına 144 XPU, 2,3 TB 3B istiflenmiş DRAM ve toplam 7,2 PB/s bellek bant genişliği. Şirket, tasarımın 4 bit hassasiyette dört trilyondan büyük parametreli modelleri desteklemeyi amaçladığını söylüyor. Bunlar sevkiyata çıkmış ve bağımsız olarak doğrulanmış sonuçlar değil, planlanan teknik özelliklerdir. 4

Bu yaklaşım, LLM decode sürecinde bellek hareketinin ve kullanılabilir bant genişliğinin belirleyici olduğu görüşüne dayanıyor. Raptor’un önerilen 3B paketi, bir DRAM bellek yongasıyla bir SRAM hesaplama yongasını bir araya getirerek d-Matrix’in bellek merkezli tasarımını genişletiyor. 4

d-Matrix, Raptor’un 2026 sonuna kadar tape-out aşamasına ulaşmasını; MGX rafındaki ilk erişilebilirliğin ise 2027’nin dördüncü çeyreğinde başlamasını bekliyor. Bunun öncesinde üretim, paketleme, sistem doğrulaması ve raf ölçeğinde devreye alma gibi aşamaların başarıyla tamamlanması gerekiyor. 48

Nvidia neden üçüncü taraf hızlandırıcılara kapı açıyor?

Nvidia’nın bu iş birliğindeki rolü stratejik açıdan dikkat çekici. Şirket, çıkarımın her aşamasının yalnızca Nvidia GPU’larında çalışmasını zorunlu tutmak yerine, uzmanlaşmış bir dış XPU’nun kendi raf mimarisine ve ağ altyapısına bağlanmasına izin veriyor.

Nvidia platformunu “dikey olarak entegre, yatay olarak açık” diye tanımlıyor. Bu yaklaşım, NVLink bağlantı altyapısı, sistemler arası ağ, raf tasarımları ve ekosistem üzerindeki değerini korurken farklı işlemcilerin de platforma katılmasını sağlıyor. 3

Dolayısıyla bu gelişme GPU’lardan geri adım olarak değil, kontrollü bir tamamlayıcılık olarak okunmalı. Nvidia GPU’ları eğitim, genel amaçlı çıkarım ve hesaplama yoğun prefill aşaması için merkezde kalırken; özel cihazlar decode işine odaklanabilecek. Decode odaklı bir hızlandırıcı isteyen müşteriler de, bu hızlandırıcı NVLink Fusion, MGX ve Spectrum-X ile çalışıyorsa Nvidia uyumlu altyapıda kalmayı tercih edebilir. 145

Corsair ve finansman, d-Matrix’in ticari yönünü ne anlatıyor?

Raptor, d-Matrix’in Corsair çıkarım hızlandırıcısının devamı niteliğinde. Şirket, Corsair’in ayrıştırılmış çıkarımda decode aşaması için geliştirildiğini ve GPU’ların yerine geçmekten çok onlarla birlikte çalıştığını söylüyor. 26

d-Matrix, Corsair tabanlı hibrit sistemler için performans, maliyet ve enerji tüketimi iddiaları yayımladı. Ancak bağımsız biçimde tekrarlanabilir karşılaştırma verileri olmadan bu rakamlar şirket beyanı olarak değerlendirilmelidir. Sunulan kanıtlar, tüm model, istek yoğunluğu veya kurulum yapılandırmalarında geçerli evrensel bir performans artışını göstermiyor. 2528

Şirket, 2 milyar dolar değerleme üzerinden 275 milyon dolarlık C Serisi yatırım aldı; açıklanan toplam fon tutarı 450 milyon dolara ulaştı. Yatırımcılar arasında Microsoft’un girişim sermayesi fonu M12 de bulunuyor. 2130 Reuters ayrıca Microsoft’un d-Matrix’i 2023’teki bir finansman turunda desteklediğini ve şirketin ilk yapay zekâ çipini Kasım 2024’te sevk ettiğini bildirdi. 1

Bu gelişmeler, d-Matrix’in tek ürünlü bir çıkarım yaklaşımından raf ölçeğinde daha kapsamlı bir yol haritasına geçmeye çalıştığına işaret ediyor. Nvidia entegrasyonu da halihazırda Nvidia temelli altyapı kullanan müşteriler için bu geçişi daha inandırıcı kılabilir.

Henüz bilinmeyenler

Nvidia anlaşmasının mali şartları açıklanmadı. 1 Bu nedenle kamuya açık duyurudan; lisans bedeli, ortak mühendislik taahhüdü, hacim satın alma, gelir paylaşımı ya da Nvidia yatırımı olup olmadığı çıkarılamıyor.

Yine de ana strateji net: İki şirket, LLM isteğinin her adımını tek bir işlemci türünün yürütmesinin şart olmadığı bir çıkarım pazarına hazırlanıyor. d-Matrix, Nvidia uyumlu yapay zekâ fabrikalarına giriş yolu kazanırken; Nvidia da ağ ve raf platformuyla bütünleşen özel bir decode seçeneği ekliyor. Bunun gerçekten daha düşük gecikme veya daha iyi ekonomi sağlayıp sağlamayacağı, planlanan 2027 erişilebilirliğinin ardından Raptor donanımına, yazılım orkestrasyonuna ve müşteri ölçümlerine bağlı olacak. 348