AnswersPublished17 sources
NVIDIA Vera Rubin NVL72: Agentic AI iş yüklerinde 30 kata kadar daha yüksek throughput
NVIDIA, Vera Rubin NVL72’nin DeepSeek V4 Pro modeliyle SemiAnalysis AgentX iş yükünde GB300 NVL72’ye kıyasla megawatt başına agentic AI throughput’unu 30 kata, token maliyetini ise 35 kata kadar iyileştirdiğini belirt... Doğrudan 30 katlık karşılaştırma Hopper ile değil, GB300 NVL72 ile yapılıyor.
YayımlayanGPT-5.6 Luna ile düzenlendiGörseller GPT Image 1.5 ile oluşturuldu
Research answer
Key takeaways
- NVIDIA, Vera Rubin NVL72’nin DeepSeek V4 Pro modeliyle SemiAnalysis AgentX iş yükünde GB300 NVL72’ye kıyasla megawatt başına agentic AI throughput’unu 30 kata, token maliyetini ise 35 kata kadar iyileştirdiğini belirt...
- Doğrudan 30 katlık karşılaştırma Hopper ile değil, GB300 NVL72 ile yapılıyor. NVIDIA ayrıca GB300 NVL72’nin aynı DeepSeek V4 Pro sınıfı iş yükünde Hopper tabanlı bir sisteme göre megawatt başına 15 kata kadar daha yük...
- NVL72 platformu 72 Rubin GPU, 36 Vera CPU, ConnectX 9 SuperNIC ve BlueField 4 DPU’yu bir araya getiriyor; CPU ve DPU’lar, GPU’ların çevresindeki kod çalıştırma, ağ, güvenlik ve orkestrasyon görevlerini üstleniyor.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next-generation Vera Rubin NVL72 platform’s efficiency for agentic AI workloads—including its claimed inf. Article summary: NVIDIA’s headline claim is that Vera Rubin NVL72 can deliver up to 30× higher agentic-inference throughput per megawatt than GB300 NVL72 and reduce cost per token by up to 35×, based on its stated SemiAnalysis AgentX res. Topic tags: general, documentation, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
NVIDIA, Vera Rubin NVL72’yi tek seferlik soru-cevap işlemlerinden ziyade uzun ve çok aşamalı agentic AI görevleri için tasarlanmış bir yapay zekâ altyapısı olarak konumlandırıyor. Şirketin yayımladığı sonuçlara göre sistem, DeepSeek V4 Pro modeliyle gerçekleştirilen SemiAnalysis AgentX testinde GB300 NVL72’ye kıyasla megawatt başına 30 kata kadar daha yüksek throughput ve 35 kata kadar daha düşük token maliyeti sundu.
Ancak bu rakamları doğru bağlama oturtmak gerekiyor. Eldeki kanıtlar Vera Rubin için milyon token başına belirli bir dolar maliyeti sunmuyor ve manşetteki kazanımların bağımsız, tamamen eş koşullarda doğrulandığını göstermiyor.
NVIDIA’nın açıkladığı sonuçlar
Öne çıkan karşılaştırma şu şekilde:
- GB300 NVL72’ye kıyasla megawatt başına agentic AI throughput’unda 30 kata kadar artış.
- Token başına — milyon token ölçeğinde ifade edildiğinde de — 35 kata kadar daha düşük maliyet.
- Testte DeepSeek V4 Pro modeli ve SemiAnalysis AgentX iş yükü kullanıldı.
AgentX, kısa bir soruya tek yanıt verilen klasik benchmark’lardan farklı bir senaryoyu hedefliyor. Test, gerçek üretim ortamlarındaki kodlama oturumlarına benzer biçimde; büyüyen bağlamı, araç çağrılarını ve alt ajanların oluşturulmasını içeren oturumları yeniden oynatıyor. 6
Bir ajan yalnızca yanıt üretmekle kalmayabilir. Sonucu inceleyebilir, harici bir araç çağırabilir, kod çalıştırabilir, yeni bir görev başlatabilir ve çok daha geniş bir bağlamla akıl yürütmeye devam edebilir. Bu nedenle performans, yalnızca GPU’nun ham gücüne değil; bellek, ağ, CPU, depolama ve enerji kullanımının birlikte nasıl yönetildiğine de bağlıdır.
Hopper ile karşılaştırma neden doğrudan değil?
Vera Rubin NVL72 için açıklanan 30 katlık doğrudan karşılaştırma Hopper’la değil, GB300 NVL72 ile yapılıyor. NVIDIA’nın AgentX ile ilgili ayrı verilerine göre GB300 NVL72, DeepSeek V4 Pro üzerinde H200 Hopper sistemine kıyasla megawatt başına 15 kata kadar daha yüksek throughput sağlıyor.
Bu veri nesiller arasındaki ilerlemeye dair bağlam sunabilir; ancak iki rakamı çarpıp tek bir 450 kat sonucu çıkarmak doğru olmaz. Bunlar ayrı “en fazla” karşılaştırmaları ve mevcut materyaller, Vera Rubin, GB300 ve Hopper’ı aynı koşullarda gösteren tek bir test tablosu sunmuyor.
Aynı sınırlama maliyet için de geçerli. Kanıtlar, NVIDIA’nın GB300’e kıyasla 35 kata kadar düşüş iddiasını destekliyor; ancak Vera Rubin için milyon token başına kesin bir dolar tutarı ya da Vera-Hopper arasında özel bir maliyet karşılaştırması vermiyor.
Vera Rubin NVL72’nin içinde ne var?
NVL72, tek bir raf ölçeği sistemi içinde 72 Rubin GPU ve 36 Vera CPU barındırıyor. Sisteme ConnectX-9 SuperNIC’ler ile BlueField-4 DPU’lar da eşlik ediyor. NVIDIA, raf içi ölçekleme için NVLink 6’yı; raflar arası ölçekleme içinse Quantum-X800 InfiniBand ve Spectrum-X Ethernet’i kullanıyor. 2
3
Bu yaklaşım, rafı birbirinden bağımsız hızlandırıcı sunucularının toplamından ziyade, birlikte çalışan tek bir bilgisayar sistemi olarak ele alıyor. Agentic AI görevlerinde bunun önemi büyük: GPU’ların sürekli veriyle beslenmesi, CPU tarafındaki işlemlerin yürütülmesi ve ağ trafiğinin eşzamanlı olarak yönetilmesi gerekiyor.
88 çekirdekli Vera CPU’nun rolü
NVIDIA Vera, şirketin tasarladığı Olympus çekirdeklerini kullanan 88 çekirdekli bir CPU. Spatial Multithreading teknolojisi ve LPDDR5X bellekle çalışan işlemci, saniyede 1,2 TB’a kadar bellek bant genişliği sunuyor. NVIDIA, agentic AI, pekiştirmeli öğrenme ve veri işleme gibi iş yüklerinde Vera’nın x86 CPU’lara kıyasla görevleri 1,8 kata kadar daha hızlı tamamlayabildiğini belirtiyor. 1
5
Vera’nın hedefi yalnızca geleneksel bir ana işletim sistemi çalıştırmak değil. İşlemci, model çıkarımının çevresindeki CPU ağırlıklı işleri hızlandırmak üzere tasarlanıyor:
- Araç kullanımı
- Kod çalıştırma
- Korumalı çalışma alanları ve orkestrasyon
- Veri işleme ve analitik
- Simülasyon ve pekiştirmeli öğrenme iş yükleri
Bu görevlerin CPU tarafında hızlandırılmasıyla NVIDIA, GPU’ların çıkarım işlemine odaklanmasını ve ajan döngüsündeki darboğazların azaltılmasını amaçlıyor. 1
5
9
BlueField-4 ve “Scale-In” altyapı katmanı
BlueField-4, NVIDIA’nın altyapı işlemlerine ayrılmış bileşeni. DPU; 64 çekirdekli Grace CPU, LPDDR5X bellek ve ConnectX-9 ağ bağlantısını bir araya getiriyor ve 800 Gb/sn’ye kadar bağlantı sunuyor. 1
NVIDIA’ya göre BlueField-4; kontrol, güvenlik, veri taşıma ve orkestrasyon gibi altyapı işlerini ana CPU ve GPU’lardan alıyor. Böylece DPU, büyük ölçekli bir AI factory içinde yalıtılmış, güvenli ve öngörülebilir operasyonları destekleyen ayrı bir altyapı katmanı görevi görüyor. 1
NVIDIA’nın “Scale-In” yaklaşımının temel fikri de burada yatıyor: verimlilik yalnızca GPU çipinin performansıyla sınırlı değil. Rafın iletişim, depolama, zamanlama ve güvenlik görevlerini hızlandırıcı kapasitesini tüketmeden ne kadar iyi yönettiği de üretilen token sayısını ve enerji verimliliğini etkiliyor.
DSX MaxLPS bu tabloya nasıl dahil oluyor?
DSX MaxLPS, Vera Rubin GPU’sundan veya CPU’sundan ayrı bir çip değil; NVIDIA’nın daha geniş DSX AI factory yaklaşımı içindeki yazılım bileşenlerinden biri. Şirket, bu yazılım paketini sabit bir güç bütçesi içinde megawatt başına token performansını en üst düzeye çıkarmak için tasarladığını söylüyor. Yaklaşım, sıvı soğutma ile raf içi optimizasyonu birleştirerek daha fazla GPU’nun enerji açısından verimli çalışma noktalarına yakın işletilmesini hedefliyor.
Bu nedenle DSX MaxLPS, 30 katlık verimlilik iddiası açısından önem taşıyor. Söz konusu metrik yalnızca silikonun değil; soğutma, raf yapılandırması ve altyapı yazılımının da etkili olabildiği AI factory düzeyinde ölçülüyor. Eldeki bilgiler, raporlanan kazanımın ne kadarının çiplerden, ne kadarının yazılım ve test yapılandırmasından kaynaklandığını kesin olarak ayırmıyor.
SpaceXAI’nin planlanan Vera Rubin kullanımı
NVIDIA ve SpaceXAI, SpaceXAI’nin yeni nesil agentic AI iş yükleri için Vera CPU’ları kullanmayı ve Vera Rubin tabanlı altyapıyla Grok’un arkasındaki kapasiteyi genişletmeyi planladığını açıkladı. 4
5
Şirketler ayrıca optimize edilmiş bir Vera Rubin NVL72 sistemini yörüngeye taşıyarak ilk nesil Starmind AI uydusunda kullanma planlarından söz etti. 4
Bunlar planlanan dağıtımlara ilişkin açıklamalar. Yörünge tabanlı, NVL72 kullanan bir sistemin hâlihazırda fırlatıldığını veya hizmete girdiğini göstermiyor.
Sonuç: Manşet rakamdan daha önemli olan ne?
Vera Rubin NVL72’nin asıl önemi, NVIDIA’nın yapay zekâ altyapısını ajanların gerçek çalışma biçimine göre değerlendirmeye çalışması. Uzun ve yinelemeli oturumlar; geniş bağlam, araç çağrıları, kod çalıştırma ve alt ajanlarla birlikte klasik sohbet görevlerinden çok daha fazla token ve sistem kaynağı tüketebiliyor.
NVIDIA, bu tür bir iş yükünde Vera Rubin NVL72’nin GB300 NVL72’ye göre megawatt başına 30 kata kadar daha yüksek throughput ve 35 kata kadar daha düşük token maliyeti sunduğunu bildiriyor.
Altyapı ekipleri ve potansiyel alıcılar için kritik soru ise çarpanın ne kadar büyük göründüğü değil. Sonucun kendi modellerinde, gecikme hedeflerinde, bağlam uzunluklarında, eşzamanlılık seviyelerinde, güç bütçelerinde ve toplam sahip olma maliyeti hesaplarında tekrarlanıp tekrarlanamayacağı belirleyici olacak. Mevcut kanıtlar NVIDIA’nın iddiasını ve bu iddianın arkasındaki mimariyi ortaya koyuyor; ancak henüz bağımsız bir nihai hüküm sunmuyor.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "NVIDIA Vera Rubin NVL72: Agentic AI iş yüklerinde 30 kata kadar daha yüksek throughput"?
NVIDIA, Vera Rubin NVL72’nin DeepSeek V4 Pro modeliyle SemiAnalysis AgentX iş yükünde GB300 NVL72’ye kıyasla megawatt başına agentic AI throughput’unu 30 kata, token maliyetini ise 35 kata kadar iyileştirdiğini belirt...
What are the key points to validate first?
NVIDIA, Vera Rubin NVL72’nin DeepSeek V4 Pro modeliyle SemiAnalysis AgentX iş yükünde GB300 NVL72’ye kıyasla megawatt başına agentic AI throughput’unu 30 kata, token maliyetini ise 35 kata kadar iyileştirdiğini belirt... Doğrudan 30 katlık karşılaştırma Hopper ile değil, GB300 NVL72 ile yapılıyor. NVIDIA ayrıca GB300 NVL72’nin aynı DeepSeek V4 Pro sınıfı iş yükünde Hopper tabanlı bir sisteme göre megawatt başına 15 kata kadar daha yük...
What should I do next in practice?
NVL72 platformu 72 Rubin GPU, 36 Vera CPU, ConnectX 9 SuperNIC ve BlueField 4 DPU’yu bir araya getiriyor; CPU ve DPU’lar, GPU’ların çevresindeki kod çalıştırma, ağ, güvenlik ve orkestrasyon görevlerini üstleniyor.