Rekor CoreWeave untuk DeepSeek-V3

• CoreWeave melatih DeepSeek-V3 671B hanya dalam 2,02 menit menggunakan 8.192 GPU NVIDIA GB300 NVL72 — klaster GB300 terbesar di putaran ini — yang berjalan di infrastruktur cloud produksi .
• Ini adalah hasil pelatihan DeepSeek-V3 tercepat di benchmark tersebut, dicapai melalui optimasi full-stack yang mencakup lapisan jaringan, orkestrasi, dan penyimpanan .

NVIDIA GB300 NVL72 vs. GB200 NVL72

• Sistem GB300 NVL72 (Blackwell Ultra) memberikan peningkatan kecepatan token per detik hingga 2,77x dibandingkan GB200 NVL72 dalam inferensi, dan menunjukkan throughput pelatihan yang jauh lebih tinggi di putaran ini .
• Blackwell Ultra diuntungkan oleh anggaran memori dan daya yang lebih besar, sehingga memungkinkan lokalitas model dan throughput yang lebih tinggi dibandingkan GB200 .
• Tumpukan perangkat lunak NVIDIA menambahkan keuntungan lebih lanjut: throughput pelatihan DeepSeek-V3 meningkat 1,3x hanya dalam tiga bulan pada perangkat keras yang identik, berkat inovasi perangkat lunak seperti full-iteration CUDA graphs dan CuTe DSL fusions .

Partisipasi & Diversitas Teknis yang Memecahkan Rekor

• 24 organisasi mengirimkan hasilnya di 95 sistem berbeda menggunakan 13 akselerator perangkat keras yang berbeda .
• Putaran ini menampilkan diversitas teknis yang berkembang, mencakup berbagai resep presisi FP4 (termasuk MXFP4 dari AMD) dan kerangka kerja perangkat lunak yang beragam, seperti yang dicatat oleh salah satu ketua MLPerf Training, Shriya Rishab .
• AMD Instinct MI355X yang menggunakan MXFP4 menunjukkan performa kompetitif melawan NVIDIA B200 pada fine-tuning Llama 2-70B dan pra-pelatihan Llama 3.1-8B .

Jaringan Skala Besar & Kemenangan Tingkat Sistem

• Para mitra NVIDIA berhasil melakukan penskalaan hingga 8.192 GPU Blackwell di seluruh klaster hyperscale, memanfaatkan Spectrum-X Ethernet dengan Adaptive Routing dan Congestion Control untuk mempertahankan bandwidth fabric mendekati teoretis untuk pola komunikasi all-to-all yang bersifat bursty khas MoE .
• Kombinasi domain NVLink-switch dan fabric skala besar ini menghasilkan rekor waktu di semua benchmark, termasuk pra-pelatihan Llama 3.1 8B (5,2 menit), fine-tuning Llama 2 70B (0,40 menit), generasi gambar FLUX.1 (12,5 menit), DLRM-DCNv2 (0,71 menit), dan RetinaNet (1,4 menit) .

Rekor CoreWeave untuk DeepSeek-V3

• CoreWeave melatih DeepSeek-V3 671B hanya dalam 2,02 menit menggunakan 8.192 GPU NVIDIA GB300 NVL72 — klaster GB300 terbesar di putaran ini — yang berjalan di infrastruktur cloud produksi .
• Ini adalah hasil pelatihan DeepSeek-V3 tercepat di benchmark tersebut, dicapai melalui optimasi full-stack yang mencakup lapisan jaringan, orkestrasi, dan penyimpanan .

NVIDIA GB300 NVL72 vs. GB200 NVL72

• Sistem GB300 NVL72 (Blackwell Ultra) memberikan peningkatan kecepatan token per detik hingga 2,77x dibandingkan GB200 NVL72 dalam inferensi, dan menunjukkan throughput pelatihan yang jauh lebih tinggi di putaran ini .
• Blackwell Ultra diuntungkan oleh anggaran memori dan daya yang lebih besar, sehingga memungkinkan lokalitas model dan throughput yang lebih tinggi dibandingkan GB200 .
• Tumpukan perangkat lunak NVIDIA menambahkan keuntungan lebih lanjut: throughput pelatihan DeepSeek-V3 meningkat 1,3x hanya dalam tiga bulan pada perangkat keras yang identik, berkat inovasi perangkat lunak seperti full-iteration CUDA graphs dan CuTe DSL fusions .

Partisipasi & Diversitas Teknis yang Memecahkan Rekor

• 24 organisasi mengirimkan hasilnya di 95 sistem berbeda menggunakan 13 akselerator perangkat keras yang berbeda .
• Putaran ini menampilkan diversitas teknis yang berkembang, mencakup berbagai resep presisi FP4 (termasuk MXFP4 dari AMD) dan kerangka kerja perangkat lunak yang beragam, seperti yang dicatat oleh salah satu ketua MLPerf Training, Shriya Rishab .
• AMD Instinct MI355X yang menggunakan MXFP4 menunjukkan performa kompetitif melawan NVIDIA B200 pada fine-tuning Llama 2-70B dan pra-pelatihan Llama 3.1-8B .

Jaringan Skala Besar & Kemenangan Tingkat Sistem

• Para mitra NVIDIA berhasil melakukan penskalaan hingga 8.192 GPU Blackwell di seluruh klaster hyperscale, memanfaatkan Spectrum-X Ethernet dengan Adaptive Routing dan Congestion Control untuk mempertahankan bandwidth fabric mendekati teoretis untuk pola komunikasi all-to-all yang bersifat bursty khas MoE .
• Kombinasi domain NVLink-switch dan fabric skala besar ini menghasilkan rekor waktu di semua benchmark, termasuk pra-pelatihan Llama 3.1 8B (5,2 menit), fine-tuning Llama 2 70B (0,40 menit), generasi gambar FLUX.1 (12,5 menit), DLRM-DCNv2 (0,71 menit), dan RetinaNet (1,4 menit) .