Huawei tarafında ise Ascend 950DT ve CANN yazılım çerçevesi, Nvidia ile aynı seviyede Day-0 tam yığın desteği sağladı. Bu, frontier ölçekli bir modelde CUDA dışındaki bir platformun ilk kez lansman günü hazır olması bakımından önemli bir eşik olarak değerlendiriliyor . Ascend 950PR üzerinde yapılan bağımsız ölçümlerde FP4 hesaplama performansı H20’ye kıyasla 2,87 kat, MoE çıkarımı ise pekiştirmeli öğrenme süreçlerinde 1,96 kata kadar daha hızlı ölçüldü . Bununla birlikte, üretim kapasitesine ilişkin kısıtlar Huawei donanımının mutlak performans tavanını Nvidia’nın en güçlü sistemlerinin altında tutuyor.
AMD’nin lansmanı ise oldukça zayıf başladı. MI355X, ilk gün yalnızca FP8 ile çalışabildi; V4 Pro’nun yerel FP4+FP8 kontrol noktası kullanılabilir değildi. 8K/1K iş yükünde sonuç, kullanıcı başına 2,4 token/saniye etkileşim hızında yalnızca 20,4 token/saniye/GPU oldu . ROCm yazılım yığını bu ölçekte bir MoE modeli için yeterince optimize edilmemişti.
İlk gün tablosundan sonra yaşanan gelişme, son dönemdeki en çarpıcı yazılım kaynaklı performans sıçramalarından biri oldu.
HaiShaw’ın teknik liderliğindeki AMD SGLang mühendislik ekibi, 26 gün içinde amd/deepseek_v4 yan dalında 31 performans iyileştirme PR’ı birleştirdi . Bu çalışmalar, ROCm yığınının daha önce bu ölçekte bir MoE modeliyle yeterince sınanmamış farklı katmanlarını hedef aldı.
20 Mayıs 2026’ya, yani 26. güne gelindiğinde MI355X aynı 8K/1K iş yükünde kullanıcı başına 9,4 token/saniye etkileşim hızıyla 2.256 token/saniye/GPU seviyesine çıktı. Bu, başlangıçtaki 20,4 değerine göre 110,5 katlık throughput artışı anlamına geliyor. Aynı süreçte etkileşim hızı da 3,85 kat iyileşti .
Her iki göstergenin aynı anda yükselmesi dikkat çekici: Donanım değişmeden hem toplam kapasite hem de kullanıcıya yanıt verme hızı arttı.
InferenceX’in benzer etkileşim noktalarındaki verilerinde, 26. gün MI355X yaklaşık 1.411 token/saniye/GPU seviyesine ulaşıyor. Bu değer, düşük etkileşim ayarlarında Nvidia B200 ile aynı rekabetçi sınıfa yerleşmesini sağlıyor . MI355X hâlâ uygun koşullarda 11.474 token/saniye/GPU seviyesine çıkabilen GB300 NVL72’nin gerisinde. Ancak 26 günlük ilerleme, AMD donanımının ilk gün kullanılamaz durumdan uygulanabilir bir çıkarım platformuna dönüşebileceğini gösteriyor .
| Platform | Throughput (token/saniye/GPU) | Maliyet (milyon token başına) | İlk gün desteği | Temel sınırlama |
|---|---|---|---|---|
| Nvidia GB300 NVL72 | 8.075–11.474 | 0,064–0,166 ABD doları | Tam destek (CUDA, vLLM, SGLang) | Erişilebilirlik |
| AMD MI355X (26. gün ve sonrası) | 1.411–2.256 | 0,291–0,585 ABD doları | Sorunlu; sonradan düzeltildi | ROCm olgunluğu |
| Nvidia B200 | 1.411 | 0,387 ABD doları | Tam destek (Dynamo TRT üzerinden CUDA) | Orta segment konumlandırması |
| Huawei Ascend 950DT | Henüz kamuya açık token/saniye/GPU verisi yok | Veri yok | Tam destek (CANN, Day-0) | Üretim kapasitesine bağlı performans tavanı |
| Nvidia H200 | 186 | Veri yok | Tam destek (CUDA) | Önceki nesil Hopper mimarisi |
Token başına maliyet, ekonomik farkı daha görünür kılıyor. Düşük etkileşim seviyesinde GB300 NVL72, milyon token başına 0,064 ABD doları maliyetle MI355X’in 0,291 ABD dolarlık değerinden yaklaşık 4,5 kat daha ucuz görünüyor .
Daha yüksek etkileşimde, yani daha az eşzamanlı kullanıcı ve kullanıcı başına daha yüksek hız hedeflendiğinde, MI355X Nvidia B200 karşısında daha rekabetçi hale geliyor. 23–24 eşzamanlı kullanıcı civarında iki platformun maliyeti yaklaşık 1,22–1,45 ABD doları/milyon token aralığında bulunuyor .
Çip kıyaslamalarındaki bu rakamlar, DeepSeek’in model mimarisindeki değişiklikler olmasaydı ekonomik açıdan anlamlı olmayabilirdi. Standart Transformer dikkati, bağlam uzunluğu arttıkça karesel ölçekte maliyetlenir. 1 milyon token seviyesinde hem hesaplama yükü hem de bellek ihtiyacı, modeli hizmet olarak sunmayı son derece pahalı hale getirir.
DeepSeek V4, standart dikkatin yerine iki tamamlayıcı mekanizmayı birleştiren hibrit bir yapı kullanıyor:
Sıkıştırılmış Seyrek Dikkat (Compressed Sparse Attention – CSA), daha ince ayrıntı düzeyinde çalışıyor. Yaklaşık dört token’ı, veriye bağlı ağırlıklandırma ve örtüşen pencereler kullanarak öğrenilmiş tek bir anahtar-değer (KV) girdisinde birleştiriyor. Ardından her sorgu yalnızca en alakalı sıkıştırılmış girdilere yönlendiriliyor. Bu seçimi Lightning Indexer adlı bileşen yapıyor . Yerel ayrıntıların korunması için kayan pencere dikkati de bu yapıya eşlik ediyor .
Yoğun Sıkıştırılmış Dikkat (Heavily Compressed Attention – HCA) ise daha geniş bir özetleme yaklaşımı benimsiyor. 128 tokene kadar olan dizileri tek bir KV girdisine sıkıştırıyor ve bu sıkıştırılmış akış üzerinde yoğun dikkat uyguluyor . Böylece erişim hassasiyetinden bir miktar ödün vererek küresel bağlamı düşük ek maliyetle koruyor. HCA erken katmanlarda genel bir bağlam görünümü sağlarken son katmanda tam dikkat kullanılması, hassasiyetin korunmasına yardımcı oluyor .
DeepSeek V3.2 ile 1 milyon token bağlamda yapılan karşılaştırmada V4 Pro’nun verimlilik kazanımları şöyle:
Daha küçük V4 Flash modelinde oranlar daha da düşüyor: FLOP’lar yüzde 10’a, KV önbelleği ise yüzde 7’ye iniyor .
CSA ve HCA olmadan, 1,6 trilyon parametreli V4 Pro’yu 1 milyon token bağlamla çalıştırmak ilginç bir araştırma gösterisi olarak kalabilirdi. Bu mimari sayesinde model, ticari olarak sunulabilir bir ürüne dönüşüyor.
SemiAnalysis’in 43 günlük verileri üç ayrı hikâyeyi aynı anda anlatıyor.
İlk olarak Nvidia’nın ekosistem avantajı hâlâ yapısal olarak çok güçlü. CUDA, vLLM ve SGLang desteği ilk günden hazır; Blackwell donanımı da ham performansta önde.
İkinci olarak Huawei, yazılım hazırlığı bakımından aradaki farkı önemli ölçüde kapattı. Ascend ve CANN’in frontier ölçekli bir modelde Nvidia ile aynı gün tam destek sunması, donanım ekosistemleri arasındaki rekabet açısından dikkat çekici bir dönüm noktası. Ancak donanımın üretim kapasitesine ilişkin kısıtlar mutlak performansın geride kalmasına neden oluyor.
Üçüncü olarak AMD’nin MI355X’i, doğru yazılım çalışmasıyla büyük bir sıçrama yapabildiğini gösterdi. Fakat 110,5 katlık iyileşmenin 26 günde ve 31 kod katkısıyla gelmesi, ROCm ekosisteminin yeni frontier modellerine uyum sağlamak için hâlâ ciddi mühendislik çabası gerektirdiğine de işaret ediyor.
Daha büyük resimde asıl belirleyici unsur model mimarisi. CSA ve HCA, 1,6 trilyon parametreli bir modelin milyon tokenlık bağlamda çalıştırılmasını teorik bir gösteriden ticari bir kullanım senaryosuna yaklaştırıyor. Doğru donanım üzerinde milyon token başına maliyetin sent seviyelerine inmesiyle tartışma artık “Bunu çalıştırabilir miyiz?” sorusundan “Bununla hangi ürünleri ve hizmetleri geliştirebiliriz?” sorusuna kayıyor.
Huawei tarafında ise Ascend 950DT ve CANN yazılım çerçevesi, Nvidia ile aynı seviyede Day-0 tam yığın desteği sağladı. Bu, frontier ölçekli bir modelde CUDA dışındaki bir platformun ilk kez lansman günü hazır olması bakımından önemli bir eşik olarak değerlendiriliyor . Ascend 950PR üzerinde yapılan bağımsız ölçümlerde FP4 hesaplama performansı H20’ye kıyasla 2,87 kat, MoE çıkarımı ise pekiştirmeli öğrenme süreçlerinde 1,96 kata kadar daha hızlı ölçüldü . Bununla birlikte, üretim kapasitesine ilişkin kısıtlar Huawei donanımının mutlak performans tavanını Nvidia’nın en güçlü sistemlerinin altında tutuyor.
AMD’nin lansmanı ise oldukça zayıf başladı. MI355X, ilk gün yalnızca FP8 ile çalışabildi; V4 Pro’nun yerel FP4+FP8 kontrol noktası kullanılabilir değildi. 8K/1K iş yükünde sonuç, kullanıcı başına 2,4 token/saniye etkileşim hızında yalnızca 20,4 token/saniye/GPU oldu . ROCm yazılım yığını bu ölçekte bir MoE modeli için yeterince optimize edilmemişti.
İlk gün tablosundan sonra yaşanan gelişme, son dönemdeki en çarpıcı yazılım kaynaklı performans sıçramalarından biri oldu.
HaiShaw’ın teknik liderliğindeki AMD SGLang mühendislik ekibi, 26 gün içinde amd/deepseek_v4 yan dalında 31 performans iyileştirme PR’ı birleştirdi . Bu çalışmalar, ROCm yığınının daha önce bu ölçekte bir MoE modeliyle yeterince sınanmamış farklı katmanlarını hedef aldı.
20 Mayıs 2026’ya, yani 26. güne gelindiğinde MI355X aynı 8K/1K iş yükünde kullanıcı başına 9,4 token/saniye etkileşim hızıyla 2.256 token/saniye/GPU seviyesine çıktı. Bu, başlangıçtaki 20,4 değerine göre 110,5 katlık throughput artışı anlamına geliyor. Aynı süreçte etkileşim hızı da 3,85 kat iyileşti .
Her iki göstergenin aynı anda yükselmesi dikkat çekici: Donanım değişmeden hem toplam kapasite hem de kullanıcıya yanıt verme hızı arttı.
InferenceX’in benzer etkileşim noktalarındaki verilerinde, 26. gün MI355X yaklaşık 1.411 token/saniye/GPU seviyesine ulaşıyor. Bu değer, düşük etkileşim ayarlarında Nvidia B200 ile aynı rekabetçi sınıfa yerleşmesini sağlıyor . MI355X hâlâ uygun koşullarda 11.474 token/saniye/GPU seviyesine çıkabilen GB300 NVL72’nin gerisinde. Ancak 26 günlük ilerleme, AMD donanımının ilk gün kullanılamaz durumdan uygulanabilir bir çıkarım platformuna dönüşebileceğini gösteriyor .
| Platform | Throughput (token/saniye/GPU) | Maliyet (milyon token başına) | İlk gün desteği | Temel sınırlama |
|---|---|---|---|---|
| Nvidia GB300 NVL72 | 8.075–11.474 | 0,064–0,166 ABD doları | Tam destek (CUDA, vLLM, SGLang) | Erişilebilirlik |
| AMD MI355X (26. gün ve sonrası) | 1.411–2.256 | 0,291–0,585 ABD doları | Sorunlu; sonradan düzeltildi | ROCm olgunluğu |
| Nvidia B200 | 1.411 | 0,387 ABD doları | Tam destek (Dynamo TRT üzerinden CUDA) | Orta segment konumlandırması |
| Huawei Ascend 950DT | Henüz kamuya açık token/saniye/GPU verisi yok | Veri yok | Tam destek (CANN, Day-0) | Üretim kapasitesine bağlı performans tavanı |
| Nvidia H200 | 186 | Veri yok | Tam destek (CUDA) | Önceki nesil Hopper mimarisi |
Token başına maliyet, ekonomik farkı daha görünür kılıyor. Düşük etkileşim seviyesinde GB300 NVL72, milyon token başına 0,064 ABD doları maliyetle MI355X’in 0,291 ABD dolarlık değerinden yaklaşık 4,5 kat daha ucuz görünüyor .
Daha yüksek etkileşimde, yani daha az eşzamanlı kullanıcı ve kullanıcı başına daha yüksek hız hedeflendiğinde, MI355X Nvidia B200 karşısında daha rekabetçi hale geliyor. 23–24 eşzamanlı kullanıcı civarında iki platformun maliyeti yaklaşık 1,22–1,45 ABD doları/milyon token aralığında bulunuyor .
Çip kıyaslamalarındaki bu rakamlar, DeepSeek’in model mimarisindeki değişiklikler olmasaydı ekonomik açıdan anlamlı olmayabilirdi. Standart Transformer dikkati, bağlam uzunluğu arttıkça karesel ölçekte maliyetlenir. 1 milyon token seviyesinde hem hesaplama yükü hem de bellek ihtiyacı, modeli hizmet olarak sunmayı son derece pahalı hale getirir.
DeepSeek V4, standart dikkatin yerine iki tamamlayıcı mekanizmayı birleştiren hibrit bir yapı kullanıyor:
Sıkıştırılmış Seyrek Dikkat (Compressed Sparse Attention – CSA), daha ince ayrıntı düzeyinde çalışıyor. Yaklaşık dört token’ı, veriye bağlı ağırlıklandırma ve örtüşen pencereler kullanarak öğrenilmiş tek bir anahtar-değer (KV) girdisinde birleştiriyor. Ardından her sorgu yalnızca en alakalı sıkıştırılmış girdilere yönlendiriliyor. Bu seçimi Lightning Indexer adlı bileşen yapıyor . Yerel ayrıntıların korunması için kayan pencere dikkati de bu yapıya eşlik ediyor .
Yoğun Sıkıştırılmış Dikkat (Heavily Compressed Attention – HCA) ise daha geniş bir özetleme yaklaşımı benimsiyor. 128 tokene kadar olan dizileri tek bir KV girdisine sıkıştırıyor ve bu sıkıştırılmış akış üzerinde yoğun dikkat uyguluyor . Böylece erişim hassasiyetinden bir miktar ödün vererek küresel bağlamı düşük ek maliyetle koruyor. HCA erken katmanlarda genel bir bağlam görünümü sağlarken son katmanda tam dikkat kullanılması, hassasiyetin korunmasına yardımcı oluyor .
DeepSeek V3.2 ile 1 milyon token bağlamda yapılan karşılaştırmada V4 Pro’nun verimlilik kazanımları şöyle:
Daha küçük V4 Flash modelinde oranlar daha da düşüyor: FLOP’lar yüzde 10’a, KV önbelleği ise yüzde 7’ye iniyor .
CSA ve HCA olmadan, 1,6 trilyon parametreli V4 Pro’yu 1 milyon token bağlamla çalıştırmak ilginç bir araştırma gösterisi olarak kalabilirdi. Bu mimari sayesinde model, ticari olarak sunulabilir bir ürüne dönüşüyor.
SemiAnalysis’in 43 günlük verileri üç ayrı hikâyeyi aynı anda anlatıyor.
İlk olarak Nvidia’nın ekosistem avantajı hâlâ yapısal olarak çok güçlü. CUDA, vLLM ve SGLang desteği ilk günden hazır; Blackwell donanımı da ham performansta önde.
İkinci olarak Huawei, yazılım hazırlığı bakımından aradaki farkı önemli ölçüde kapattı. Ascend ve CANN’in frontier ölçekli bir modelde Nvidia ile aynı gün tam destek sunması, donanım ekosistemleri arasındaki rekabet açısından dikkat çekici bir dönüm noktası. Ancak donanımın üretim kapasitesine ilişkin kısıtlar mutlak performansın geride kalmasına neden oluyor.
Üçüncü olarak AMD’nin MI355X’i, doğru yazılım çalışmasıyla büyük bir sıçrama yapabildiğini gösterdi. Fakat 110,5 katlık iyileşmenin 26 günde ve 31 kod katkısıyla gelmesi, ROCm ekosisteminin yeni frontier modellerine uyum sağlamak için hâlâ ciddi mühendislik çabası gerektirdiğine de işaret ediyor.
Daha büyük resimde asıl belirleyici unsur model mimarisi. CSA ve HCA, 1,6 trilyon parametreli bir modelin milyon tokenlık bağlamda çalıştırılmasını teorik bir gösteriden ticari bir kullanım senaryosuna yaklaştırıyor. Doğru donanım üzerinde milyon token başına maliyetin sent seviyelerine inmesiyle tartışma artık “Bunu çalıştırabilir miyiz?” sorusundan “Bununla hangi ürünleri ve hizmetleri geliştirebiliriz?” sorusuna kayıyor.