AnswersPublished16 sources
MLPerf Inference v6.1: Yapay zekâ çıkarımında GPU hızından fazlası belirleyici
AMD’nin Crusoe ile yaptığı 512 GPU’lu Instinct MI355X gönderimi, v6.1 turundaki en yüksek toplam token işleme rakamlarını ortaya koydu; ancak bu sonuçlar daha küçük sistemlerle doğrudan kıyaslanmamalı. Turda rekor düzeyde 30 kuruluşun 486 veri merkezi ve uç bilişim sonucu yer aldı.
YayımlayanGPT-5.6 Terra ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- AMD’nin Crusoe ile yaptığı 512 GPU’lu Instinct MI355X gönderimi, v6.1 turundaki en yüksek toplam token işleme rakamlarını ortaya koydu; ancak bu sonuçlar daha küçük sistemlerle doğrudan kıyaslanmamalı.
- Turda rekor düzeyde 30 kuruluşun 486 veri merkezi ve uç bilişim sonucu yer aldı.
- Altyapı alıcıları için asıl karşılaştırma noktası yalnızca hızlandırıcı özellikleri değil; yazılım gelişimi, gecikme hedefleri, ölçeklenebilirlik, kullanılabilirlik ve iş yüküne uygunluk olmalı.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What were the key results and broader implications of MLCommons’ MLPerf Inference v6.1 benchmarks, including AMD’s record-setting MI355X per. Article summary: MLPerf Inference v6.1 showed a more competitive and more deployment-oriented inference market: AMD set aggregate-scale records, NVIDIA demonstrated its next platform while retaining strong Blackwell results, Intel broade. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
MLPerf Inference v6.1, tek bir çipin liderlik tablosundan çok yapay zekâ çıkarım hizmetlerinin nasıl değiştiğinin bir fotoğrafını sunuyor. Turun öne çıkan başlıkları AMD’nin çok büyük ölçekli MI355X gönderimi, NVIDIA’nın ilk Vera Rubin ön izleme verileri, Intel’in daha erişilebilir çıkarım sistemlerini kapsayan sonuçları ve geri getirmeli üretim (RAG) ile uçta çalışan yapay zekâ ajanları için eklenen yeni testlerdi.
Ortaya çıkan ana mesaj net: Karşılaştırılması gereken birim artık yalnızca GPU değil; ilgili iş yükünü gerekli gecikme koşullarında çalıştırabilen, erişilebilir ve bütünleşik bir sunum sistemi.
AMD: Dikkat ölçekli toplam performansa çevrildi
AMD’nin manşet sonucu, Crusoe’nun 512 GPU’lu Instinct MI355X yapılandırmasından geldi. Bu sistem, v6.1 turunda bildirilen en yüksek toplam token işleme rakamlarını kaydetti. 5 Bu, yalnızca hızlandırıcının gücünü değil, çok büyük bir kurulumda dağıtık çıkarım yazılımını, ağ altyapısını ve sistem entegrasyonunu sınayan önemli bir ölçek gösterimi.
Yine de bu sonuç, her kullanım alanı için mutlak platform liderliği anlamına gelmiyor. 512 GPU’luk toplam sonuç; GPU sayısı, model, test senaryosu ve hizmet seviyesi gereksinimleri eşitlenmeden tek bir raf veya daha küçük kümelerle doğrudan karşılaştırılamaz. Büyük bir çıkarım filosu için toplam iş hacmi doğru ölçüt olabilir. Belirli bir kurulumda ise hızlandırıcı başına verim, raf yoğunluğu, enerji tüketimi, ürünün erişilebilirliği ve işletim karmaşıklığı daha önemli olabilir.
Aynı donanımda ROCm iyileşmesi neden önemli?
AMD açısından hikâye aynı zamanda yazılımla ilgili. Şirket, önceki MLPerf turuna kıyasla aynı MI355X donanımında daha yüksek performans elde edildiğini ve bunun ROCm optimizasyonlarından kaynaklandığını vurguladı. Bunun daha geniş anlamı açık: Derleyiciler, çekirdekler, model çalışma zamanları ve dağıtık sunum yazılımları, donanım yenilemesi gerektirmeden mevcut filonun kullanılabilir kapasitesini artırabilir.
AMD ayrıca ROCm için altı haftalık bir sürüm döngüsü taahhüdünde bulundu. Bu tempo sürekli ve üretimde kullanılabilir iyileştirmeler sağlarsa, yazılım geliştirme hızı alıcıların token başına maliyet hesaplarında önemli bir unsur hâline gelebilir. Ancak MLPerf kazançları; şirketin kendi model karması, kuantizasyon tercihleri, çerçevesi, trafik düzeni ve gecikme hedefleri üzerinde doğrulanmalı. Bir testteki iyileşme, üretim ortamına bire bir taşınmayabilir.
NVIDIA, Vera Rubin ile gelecek platformun potansiyelini gösterdi
NVIDIA Vera Rubin NVL72, MLPerf Inference’a ilk kez bir ön izleme gönderimi olarak katıldı. NVIDIA, Qwen3-VL üzerinde GB300 NVL72’ye göre 3,7 kata kadar daha yüksek iş hacmi bildirdi. Şirket ayrıca dört rafa yayılan 288 GPU’lu GB300 NVL72 gönderiminin %99 ölçekleme verimliliğine ulaştığını açıkladı. 2
Buradaki kritik nitelik, ürünün erişilebilirlik durumu. Ön izleme sonuçları mimari yön ve yazılım olgunluğu hakkında yararlı işaretler verir; ancak genel kullanıma sunulmuş sistemlerle satın alma açısından otomatik olarak eşdeğer bir kıyas oluşturmaz. Ön izleme gönderimlerindeki küme boyutları da değiştiği için, toplam sistem iş hacmi yerine GPU başına veya başka bir biçimde normalize edilmiş karşılaştırmalar daha anlamlıdır. 8
Yakın vadeli kurulumlarda Blackwell ve Blackwell Ultra önemini koruyor. Örneğin CoreWeave; Qwen3-VL, DeepSeek-R1 ve GPT-OSS-120B iş yüklerinde çeşitli Blackwell ve Blackwell Ultra yapılandırmalarıyla bulut sağlayıcıları arasındaki önde gelen sonuçları bildirdi. 4 Pratik çıkarım, tek bir genel kazanan aramak yerine kullanım alanına göre seçim yapmak: Büyük kümelerde toplam kapasite, raf ölçeğinde sunum, çok modlu çıkarım ve etkileşimli gecikme gereksinimleri farklı yapılandırmaları öne çıkarabilir.
Intel, karşılaştırmadaki sistem yelpazesini genişletti
Intel’in gönderimleri, CPU ve iş istasyonu sınıfı GPU’larla çıkarımın görünürlüğünü artırdı. Dört GPU’lu Arc Pro B70 düğümü toplam 128 GB VRAM’e sahipti; Llama, GPT-OSS-120B, Whisper ve yeni uçtan uca RAG iş yükü için sonuç sundu. Intel, önceki tura göre aynı Arc Pro B70 yapılandırmasında yazılım kaynaklı kazanımlar da bildirdi. 3
Bu, Arc Pro’nun hiper ölçekli hızlandırıcı kümelerine doğrudan bir alternatif olduğu anlamına gelmiyor. Buna karşılık bellek kapasitesinin, yerel çıkarımın veya mevcut sunucu altyapısının karar üzerinde belirleyici olduğu; daha küçük, düşük maliyetli ya da daha esnek kurulumları değerlendiren kurumlar için karşılaştırmayı daha kapsayıcı hâle getiriyor.
Yeni RAG ve ajan testleri MLPerf’i üretim ihtiyaçlarına yaklaştırıyor
MLCommons, v6.1 turunda rekor olarak 30 katılımcı kuruluş ve veri merkezi ile uç bilişim kategorilerinde 486 sonuç açıklandığını bildirdi. Paket, veri merkezleri için uçtan uca RAG testini ve Edge Agentic Inference adlı uçta ajan tabanlı çıkarım testini ekledi. 9
Bu genişleme önemli; çünkü ajan tabanlı iş yükleri, geleneksel çevrim dışı token işleme testlerinin görünür kılmayabileceği darboğazlar getiriyor: Çok turlu etkileşimler, araç kullanımı, orkestrasyon ek yükü ve adımlar arasındaki yanıt verme hızı bunlardan bazıları. MLCommons, uç testi ajan tabanlı kodlama gibi karmaşık ve çok turlu görevleri yansıtacak şekilde tanımlıyor. 9
Bunlar yine de canlı üretim hizmetlerinin eksiksiz bir temsili değil; kontrollü kıyaslamalar. Ancak değerlendirmeyi, ekiplerin bugün devreye almaya çalıştığı çok aşamalı yapay zekâ uygulamalarına yaklaştırıyor.
MLPerf Endpoints yönelimi ne anlama gelebilir?
MLCommons, olası bir sonraki yön olarak MLPerf Endpoints için de ön izleme sundu. Buradaki temel ayrım, dönemsel kıyaslama gönderimleri ile çalışan hizmet uç noktalarından gözlemlenebilen performans arasındadır. Olgun bir uç nokta odaklı program; yalnızca sabit bir test koşusundaki tepe değer yerine yük altındaki davranışa, gecikme tutarlılığına, erişilebilirliğe ve operasyonel tekrarlanabilirliğe daha fazla ağırlık verebilir.
Şimdilik bunu, mevcut gönderim modelinin kesinleşmiş bir ikamesi değil, gelişmekte olan bir ölçüm yaklaşımı olarak görmek gerekiyor. V6.1 sonuçlarının kendisi de neden yararlı olabileceğini gösteriyor: Dağıtım kalitesi, saniye başına en yüksek token sayısından çok daha fazlasına bağlı.
Satın alma açısından ders: Başlığı değil, tüm yığını karşılaştırın
MLPerf v6.1, çıkarım rekabetinin üç birbirine bağlı etkence şekillendiğine dair güçlü kanıt sunuyor: Hızlandırıcı yeteneği, yazılım iyileştirmeleri ve sistem entegrasyonu. AMD’nin büyük MI355X gönderimi ölçeğin önemini ortaya koyarken, NVIDIA’nın Vera Rubin ön izlemesi bir sonraki performans adımına işaret ediyor; Blackwell ise güncel kurulumlarda öne çıkmayı sürdürüyor. Intel’in Arc Pro B70 sonuçları da test edilen donanım yelpazesini genişletiyor. MLCommons’in yeni testleri ise RAG ve ajan sistemlerinin farklı performans talepleri yarattığını kabul ediyor.
Bir platformu değerlendirirken başlangıç noktası iş yükü ve işletim hedefi olmalı: Model, bağlam uzunluğu, eşzamanlılık, gecikme için hizmet seviyesi hedefi, güç sınırı, kurulum büyüklüğü ve yararlı çıktı başına maliyet. Ardından sistemleri eşdeğer ölçek ve erişilebilirlik koşullarında karşılaştırmak gerekir. Bu yaklaşım, tek bir MLPerf manşetini evrensel yanıt gibi görmekten çok daha işlevseldir.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "MLPerf Inference v6.1: Yapay zekâ çıkarımında GPU hızından fazlası belirleyici"?
AMD’nin Crusoe ile yaptığı 512 GPU’lu Instinct MI355X gönderimi, v6.1 turundaki en yüksek toplam token işleme rakamlarını ortaya koydu; ancak bu sonuçlar daha küçük sistemlerle doğrudan kıyaslanmamalı.
What are the key points to validate first?
AMD’nin Crusoe ile yaptığı 512 GPU’lu Instinct MI355X gönderimi, v6.1 turundaki en yüksek toplam token işleme rakamlarını ortaya koydu; ancak bu sonuçlar daha küçük sistemlerle doğrudan kıyaslanmamalı. Turda rekor düzeyde 30 kuruluşun 486 veri merkezi ve uç bilişim sonucu yer aldı.
What should I do next in practice?
Altyapı alıcıları için asıl karşılaştırma noktası yalnızca hızlandırıcı özellikleri değil; yazılım gelişimi, gecikme hedefleri, ölçeklenebilirlik, kullanılabilirlik ve iş yüküne uygunluk olmalı.