Nvidia Sapu Bersih MLPerf Training v6.0, Latih DeepSeek-V3 671B dalam 2 Minit

Rekod CoreWeave untuk DeepSeek-V3

• CoreWeave melatih DeepSeek-V3 671B dalam masa 2.02 minit menggunakan 8,192 GPU Nvidia GB300 NVL72 — kluster GB300 terbesar dalam pusingan ini — berjalan di atas infrastruktur awan produksi .
• Ini adalah keputusan latihan DeepSeek-V3 terpantas dalam penanda aras tersebut, dicapai melalui pengoptimuman menyeluruh merentasi lapisan rangkaian, orkestrasi, dan storan .

Nvidia GB300 NVL72 lwn. GB200 NVL72

• Sistem GB300 NVL72 (Blackwell Ultra) memberikan peningkatan kelajuan token sesaat sehingga 2.77x ganda berbanding GB200 NVL72 dalam inferens, dan menunjukkan daya pemprosesan latihan yang jauh lebih tinggi dalam pusingan ini .
• Blackwell Ultra mendapat manfaat daripada bajet memori dan kuasa yang lebih besar, membolehkan lokaliti model dan daya pemprosesan lebih tinggi berbanding GB200 .
• Tindanan perisian Nvidia menambah lonjakan selanjutnya: daya pemprosesan latihan DeepSeek-V3 meningkat sebanyak 1.3x ganda dalam masa tiga bulan sahaja pada perkakasan serupa melalui inovasi perisian seperti CUDA graphs lelaran penuh dan gabungan CuTe DSL .

Penyertaan Rekod & Kepelbagaian Teknikal

• 24 organisasi menghantar keputusan merentasi 95 sistem berbeza menggunakan 13 pemecut perkakasan yang berbeza .
• Pusingan ini menyaksikan kepelbagaian teknikal yang semakin meningkat meliputi pelbagai resipi ketepatan FP4 (termasuk MXFP4 dari AMD) dan pelbagai kerangka kerja perisian, seperti yang dinyatakan oleh pengerusi bersama MLPerf Training, Shriya Rishab .
• AMD Instinct MI355X yang menggunakan MXFP4 memberikan prestasi kompetitif berbanding Nvidia B200 pada penalaan halus Llama 2-70B dan pra-latihan Llama 3.1-8B .

Rangkaian Skala Luas & Kemenangan Peringkat Sistem

• Rakan kongsi Nvidia mencapai skala 8,192 GPU Blackwell merentasi kluster hiperskala, memanfaatkan Spectrum-X Ethernet dengan Penghalaan Adaptif dan Kawalan Kesesakan untuk mengekalkan jalur lebar fabrik hampir-teoretikal bagi corak komunikasi all-to-all yang bersifat letusan (bursty) untuk MoE .
• Gabungan domain suis NVLink dan fabrik skala luas ini mencatat masa rekod dalam semua penanda aras, termasuk pra-latihan Llama 3.1 8B (5.2 minit), penalaan halus Llama 2 70B (0.40 minit), penjanaan imej FLUX.1 (12.5 minit), DLRM-DCNv2 (0.71 minit), dan RetinaNet (1.4 minit) .