الإجاباتمنشور18 المصادر
Cambricon تطرح مسار تشغيل DeepSeek-V4.1-Flash على vLLM منذ يومه الأول
تقول Cambricon إنها دعمت DeepSeek V4.1 Flash على مكدس الاستدلال المفتوح vLLM في يوم إصدار النموذج، عبر بيئة NeuWare وعمليات Torch MLU Ops وأنوية BangC المحسّنة.[13] النموذج متعدد الوسائط من نوع MoE، ويضم 552 مليار معلمة في الشبكة الأساسية و196 مليار معلمة إضافية لذاكرة Engram؛ وينشّط نحو 8 مليارات معلمة في مرحلة معا...
نشر بواسطةتم التحرير باستخدام GPT-5.6 Terraتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- تقول Cambricon إنها دعمت DeepSeek V4.1 Flash على مكدس الاستدلال المفتوح vLLM في يوم إصدار النموذج، عبر بيئة NeuWare وعمليات Torch MLU Ops وأنوية BangC المحسّنة.[13]
- النموذج متعدد الوسائط من نوع MoE، ويضم 552 مليار معلمة في الشبكة الأساسية و196 مليار معلمة إضافية لذاكرة Engram؛ وينشّط نحو 8 مليارات معلمة في مرحلة معالجة الإدخال و16 ملياراً عند التوليد.[5][8]
- تذكر DeepSeek أن ذاكرة KV العالمية تستهلك 890 بايت لكل رمز، أي قرابة ربع بصمة DeepSeek V4 Flash، فيما تنخفض الذاكرة الدائمة إلى نحو الثمن.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Cambricon achieve Day-0, production-ready enablement of DeepSeek-V4.1-Flash on the open-source vLLM inference stack using NeuWare, T. Article summary: Cambricon’s claimed Day‑0 result is primarily a software-integration achievement: it brought the new model up on the public vLLM serving path rather than requiring customers to wait for a private, hardware-specific port.. Topic tags: general, general web, documentation, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
تتمحور دعوى Cambricon بشأن «اليوم صفر» حول التكامل وجاهزية البرمجيات: فبدلاً من انتظار نقل خاص بالمورّد بعد إصدار الأوزان، تقول الشركة إن نموذج DeepSeek-V4.1-Flash أصبح قابلاً للتشغيل على مسرّعاتها من فئة MLU عبر محرك الاستدلال مفتوح المصدر vLLM في يوم الإطلاق نفسه. واعتمد المسار على بيئة التشغيل NeuWare، ودعم العمليات عبر Torch-MLU-Ops، وأنوية BangC المحسّنة.13
ما الذي تم دمجه فعلياً؟
يتألف المسار البرمجي المعلن من ثلاث طبقات:
- NeuWare: بيئة التشغيل الخاصة بمسرّعات MLU لدى Cambricon.
- Torch-MLU-Ops: طبقة عمليات متوافقة مع MLU، استُخدمت لدعم مكوّنات في النموذج مثل Engram وCompressor.
9
- BangC: لغة البرمجة المتوازية غير المتجانسة لدى Cambricon لكتابة برامج عالية الأداء لمعمارية MLU، وتُستخدم هنا لتحسين العمليات الحرجة في الأداء.
18
المغزى أن النشر يتم عبر واجهة خدمة عامة ومألوفة هي vLLM، وليس عبر تطبيق استدلال مغلق ومصمم خصيصاً لنموذج واحد. وتقول Cambricon أيضاً إن تحسيناتها لـ vLLM تشمل الاستدلال منخفض الدقة والدقة المختلطة، وتحسين التوازي، والتوازي واسع النطاق للخبراء، وفصل مرحلتي معالجة الإدخال والتوليد.18
لماذا يعد DeepSeek-V4.1-Flash اختباراً صعباً؟
النموذج هو نموذج خليط خبراء (MoE) متعدد الوسائط يتعامل مع النصوص والصور، ويضم 552 مليار معلمة في الشبكة الأساسية إلى جانب 196 مليار معلمة لذاكرة Engram، مع دعم سياقات تصل إلى مليون رمز.5
8
لكن إجمالي المعلمات لا يساوي بالضرورة ما يُفعّل أثناء الاستدلال. تقول DeepSeek إن النموذج ينشّط قرابة 8 مليارات معلمة لكل رمز إدخال في مرحلة prefill، ونحو 16 ملياراً لكل رمز مولّد في مرحلة decode.8 وهذه اللامتماثلية قد تخفف كلفة الأحمال الثقيلة في قراءة المطالبات، لكن الكلفة الفعلية تظل مرتبطة بالدقة، وحجم الدفعات، وسعة الذاكرة، والاتصالات بين المسرّعات، وطبيعة الحمل.
بنية Causal Encoder–Decoder
يعتمد النموذج بنية Causal Encoder–Decoder (CED) من 40 طبقة: 20 طبقة لمشفّر سببي و20 طبقة لفك الترميز. وبدلاً من اشتقاق مفاتيح وقيم KV عالمية بصورة مستقلة من كل طبقة في المفكّك، تُسقِط طبقات المفكّك حالة KV العالمية انطلاقاً من الحالات المخفية النهائية للمشفّر.5
8
وهذا مهم عملياً لأن الاستدلال بسياق طويل غالباً ما تصطدم قدرته بذاكرة KV cache، أي الحالة المحتفظ بها كي يستطيع النموذج الرجوع إلى الرموز السابقة أثناء توليد رموز جديدة.
890 بايت لكل رمز: ماذا تعني مطالبة ذاكرة KV؟
تقول DeepSeek إن إعادة استخدام KV بين الطبقات في تصميم Compressed Sparse Attention 2، مع تخزين KV بصيغة FP4، تخفض بصمة ذاكرة KV العالمية الموجودة في الذاكرة عالية النطاق الترددي (HBM) إلى 890 بايتاً لكل رمز؛ أي نحو ربع بصمة DeepSeek-V4-Flash المقابلة.7
8
وتذكر المواد التقنية نفسها أن أسلوب SWA Bounded Replay يخفض بصمة ذاكرة KV الدائمة، المخزنة على SSD أو في ذاكرة المضيف، إلى قرابة الثمن مقارنة بـ V4-Flash.7
بالنسبة إلى مشغلي العناقيد، قد يعني ذلك إتاحة حيز ذاكرة أكبر لطلبات متزامنة في أحمال السياق الطويل أو الصور مع النص. لكن ينبغي التعامل مع هذه الأرقام بوصفها مطالبات تصميمية صادرة عن DeepSeek، لا كقياسات مستقلة للأداء الطرفي على عنقود Cambricon؛ لذلك لا تثبت وحدها معدل إنتاجية أو زمن استجابة أو تكلفة أو توافر محدداً في كل بيئة نشر.
كيف تتكامل تحسينات الخدمة؟
تسرد Cambricon عدة تقنيات مرتبطة بخدمة نماذج MoE الكبيرة عبر vLLM.18
- الدقة المختلطة والمنخفضة لتقليل نقل البيانات وحجم تخزين الأوزان والتنشيطات.
- تحسين التوازي وتوازي الخبراء واسع النطاق لتوزيع النموذج وتنفيذ الخبراء الموجّهين على مسرّعات متعددة.
- تداخل الاتصال والحوسبة لإبقاء المسرّعات منشغلة أثناء انتقال بيانات الاتصالات الجماعية أو توجيه الخبراء بين العاملين.
- فصل prefill عن decode، بحيث تعالج موارد مخصصة قراءة المطالبة وموارد أخرى التوليد التتابعي، مع ضبط كل مرحلة وفق خصائصها.
هذه الأساليب متكاملة: فمرحلة معالجة الإدخال قد تكون أثقل من حيث عرض النطاق، بينما التوليد تكراري وحساس لزمن الاستجابة، كما أن توجيه الخبراء في MoE يضيف عبء تنسيق موزع. الهدف العملي هو استغلال أفضل للعتاد وخدمة أكثر قابلية للتنبؤ تحت التزامن، وليس مجرد رقم أعلى للأداء النظري.
ولا تعرض المواد العامة المتاحة قياسات قابلة لإعادة الإنتاج لـ V4.1-Flash على عتاد Cambricon تشمل الإنتاجية أو زمن الاستجابة أو جودة النموذج أو طوبولوجيا العنقود أو التوافر. لذا من الأدق فهم عبارة «جاهز للإنتاج» على أنها مسار نشر مدعوم وقابل للاستخدام، مع ضرورة إجراء كل مشغّل اختبارات التأهيل الخاصة به قبل التزامات السعة أو اتفاقيات مستوى الخدمة.
ماذا تعني عضوية PyTorch Foundation؟
في 8 سبتمبر/أيلول 2026، أعلنت PyTorch Foundation انضمام Cambricon عضواً بلاتينياً.49 وذكرت المؤسسة أيضاً أن Cambricon تعاونت مع مجتمع vLLM لإتاحة دعم في اليوم صفر لنماذج مفتوحة المصدر، منها DeepSeek-V4 وGLM-5.
57
الإشارة الأساسية هنا هي التقارب مع المنظومة المفتوحة: يصبح دعم المسرّع أكثر فائدة عندما يعمل من خلال أطر وأدوات خدمة عامة واسعة الاستخدام، بدلاً من إلزام المستخدمين بصيانة مكدس منفصل خاص بالمورّد. العضوية بحد ذاتها لا تضمن دعماً منبعياً لكل نموذج أو ميزة، لكنها تعزز توجه Cambricon المعلن نحو التوافق مع PyTorch وvLLM.
ما العائلات الأخرى التي يشملها الدعم؟
تشير مواد Cambricon البرمجية إلى أعمال دعم تخص DeepSeek V3/V3.1 وQwen2.5 وQwen3 وQwen3-Next وGLM-4.5 وQwen3-VL وFlux وWan 2.1/2.2 وHunyuan-Video.18 لكن هذه القائمة تجمع بين دعم التدريب والتحسينات البرمجية الأوسع؛ لذلك لا تثبت أن جميع هذه العائلات تملك الوضع نفسه من دعم الاستدلال الإنتاجي عبر vLLM في يوم الإطلاق.
الخلاصة الأدق: لدى Cambricon حضور دعم برمجي عبر عدة عائلات نماذج صينية، لكن توافر الاستدلال، وصيغ الدقة، ودعم الوسائط المتعددة، وحالة «اليوم صفر» يجب التحقق منها لكل إصدار على حدة.
لماذا تهم الإتاحة في يوم الإطلاق؟
بالنسبة إلى مشغلي العناقيد، يقلّص التوافق في يوم الإطلاق الفترة الفاصلة بين صدور النموذج وإجراء تقييم مضبوط على البنية التحتية الموجودة. كما يسهّل مسار vLLM العام التخطيط للسعة، والتوجيه، والرصد، وتقييم التكميم، واختبارات التكامل، مقارنةً بتفرع مخصص من خادم الاستدلال.
وتبرز أهمية ذلك مع DeepSeek-V4.1-Flash لأن ضغط ذاكرة KV المعلن يستهدف اختناقات الخدمة ذات السياق الطويل: سعة HBM للجلسات النشطة، واحتياجات التخزين الدائم أو ذاكرة المضيف لإعادة استخدام التخزين المؤقت.7
8
لا يثبت إعلان واحد في «اليوم صفر» أداءً إنتاجياً عاماً في كل السيناريوهات. لكن تكرار الدعم عبر بيئة التشغيل وعمليات الإطار والأنوية والتنفيذ الموزع وأدوات الخدمة يمكن أن يقرّب جاهزية المسرّعات من موعد إطلاق النموذج، خصوصاً مع نماذج مفتوحة أكبر وأكثر تشتتاً وتعدداً للوسائط.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "Cambricon تطرح مسار تشغيل DeepSeek-V4.1-Flash على vLLM منذ يومه الأول"؟
تقول Cambricon إنها دعمت DeepSeek V4.1 Flash على مكدس الاستدلال المفتوح vLLM في يوم إصدار النموذج، عبر بيئة NeuWare وعمليات Torch MLU Ops وأنوية BangC المحسّنة.[13]
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
تقول Cambricon إنها دعمت DeepSeek V4.1 Flash على مكدس الاستدلال المفتوح vLLM في يوم إصدار النموذج، عبر بيئة NeuWare وعمليات Torch MLU Ops وأنوية BangC المحسّنة.[13] النموذج متعدد الوسائط من نوع MoE، ويضم 552 مليار معلمة في الشبكة الأساسية و196 مليار معلمة إضافية لذاكرة Engram؛ وينشّط نحو 8 مليارات معلمة في مرحلة معالجة الإدخال و16 ملياراً عند التوليد.[5][8]
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
تذكر DeepSeek أن ذاكرة KV العالمية تستهلك 890 بايت لكل رمز، أي قرابة ربع بصمة DeepSeek V4 Flash، فيما تنخفض الذاكرة الدائمة إلى نحو الثمن.