إنفيديا تكتسح اختبارات MLPerf للتدريب: منصة Blackwell تحقق اكتساحاً كاملاً وتدرب نموذج DeepSeek-V3 العملاق في دقيقتين فقط

رقم CoreWeave القياسي في تدريب DeepSeek-V3

• قامت CoreWeave بتدريب نموذج DeepSeek-V3 671B في 2.02 دقيقة على 8,192 وحدة معالجة رسوميات NVIDIA GB300 NVL72 — وهي أكبر مجموعة من هذا النوع في الجولة — تعمل على بنية تحتية سحابية إنتاجية .
• كان هذا أسرع تدريب لنموذج DeepSeek-V3 في هذا المعيار، وقد تحقق بفضل تحسينات شاملة عبر طبقات الشبكات، والتنسيق، والتخزين .

NVIDIA GB300 NVL72 مقابل GB200 NVL72

• يحقق نظام GB300 NVL72 (Blackwell Ultra) تسريعاً في الرموز في الثانية يصل إلى 2.77 ضعف مقارنة بـ GB200 NVL72 في الاستدلال، وأظهر إنتاجية تدريب أعلى بكثير في هذه الجولة .
• يستفيد Blackwell Ultra من ذاكرة أكبر وميزانيات طاقة أعلى، مما يتيح موضعية أفضل للنموذج وإنتاجية أعلى مقارنة بـ GB200 .
• حققت حزمة برمجيات إنفيديا مكاسب إضافية: حيث تحسنت إنتاجية تدريب DeepSeek-V3 بمقدار 1.3 ضعف في ثلاثة أشهر فقط على نفس العتاد، وذلك بفضل ابتكارات برمجية مثل رسوم CUDA البيانية للتكرار الكامل ودمجات CuTe DSL .

مشاركة قياسية وتنوع تقني

• قدمت 24 منظمة نتائج عبر 95 نظاماً مختلفاً باستخدام 13 مسرّع أجهزة مختلفاً .
• شهدت هذه الجولة تنوعاً تقنياً متزايداً شمل وصفات دقة FP4 متعددة (بما في ذلك MXFP4 من AMD) وأطر عمل برمجية متنوعة، كما أشارت شريا ريشاب، الرئيسة المشاركة لاختبار MLPerf للتدريب .
• قدمت وحدات AMD Instinct MI355X باستخدام MXFP4 أداءً تنافسياً ضد NVIDIA B200 في مهمتي ضبط Llama 2-70B والتدريب المسبق لـ Llama 3.1-8B .

شبكات التوسع والمكاسب على مستوى النظام

• تمكن شركاء إنفيديا من التوسع إلى 8,192 وحدة معالجة رسوميات Blackwell عبر مجموعات عملاقة، مستفيدين من شبكة Spectrum-X Ethernet مع توجيه متكيف وتحكم في الازدحام للحفاظ على عرض نطاق قريب من النظري للنسيج الشبكي، وهو أمر ضروري لأنماط الاتصال المتقطعة من الكل إلى الكل في نماذج MoE .
• قدم مزيج نطاقات NVLink-switch ونسيج التوسع أزمنة قياسية عبر جميع المعايير، بما في ذلك التدريب المسبق لـ Llama 3.1 8B (5.2 دقيقة)، وضبط Llama 2 70B (0.40 دقيقة)، وتوليد الصور FLUX.1 (12.5 دقيقة)، و DLRM-DCNv2 (0.71 دقيقة)، و RetinaNet (1.4 دقيقة) .