Mistral تكشف عن Shieldstral 1.0: ثورة في تصنيف أمان المحتوى بإجابة أسئلة بسيطة

كيف يعمل تصميم الإجابة على الأسئلة في الفحص

يقوم Shieldstral بتقييم المحتوى مقابل سياسة يُعبر عنها كسؤال نعم/لا بلغة طبيعية. يتكون الطلب من ثلاثة أجزاء :

• <تعليمات>: إطار المهمة ذو المستوى العالي — سياق التقييم ومستوى الصرامة (مع إمكانية تحديد ما يعتبر غير آمن).
• <استعلام>: سؤال واحد بنعم/لا حول المحتوى، مثل "هل يعزز هذا المحتوى العنف البدني؟"
• <مستند>: المحتوى المراد تقييمه — قد يكون تعليمات (prompt)، ردًا (response)، زوجًا من التعليمات والرد، أو صورة (مع نص اختياري).

يُرجع النموذج درجة أمان مستمرة واحدة من تمريرة أمامية واحدة، ويمكن تحديد عتبة لاتخاذ قرار ثنائي (آمن/غير آمن) . توصي Mistral باستخدام سياسة واحدة لكل استعلام؛ أما لسياسات متعددة، فيحتاج كل منها إلى استدعاء منفصل .

هذا التصميم يلغي الحاجة إلى تصنيف ضرر ثابت يتم تضمينه أثناء التدريب. بدلاً من ذلك، يتكيف Shieldstral مع أي سياسة يُمكن للمطور التعبير عنها كسؤال نعم/لا — مما يجعل من الممكن دمج مجموعات بيانات أمان متنوعة مبنية على تصنيفات مختلفة في إطار تدريبي واحد .

الأداء في اختبارات الأمان

يتفوق Shieldstral على نماذج الحماية المفتوحة التي تصل إلى 7 أضعاف حجمه في أمان النص ويحقق نتائج قياسية جديدة في الأمان متعدد الوسائط . فيما يلي نتائج التقييمات المنشورة من Mistral :

تصنيف أمان النصوص — F1 (%)

أمان متعدد الوسائط — F1 (%)

متوسط F1 لأمان النصوص: 84.9%؛ للأمان متعدد الوسائط: 83.8% — متقدمًا على كل نموذج تم اختباره . في أمان النصوص، يتعادل Shieldstral (84.9%) مع نموذج GPT-OSS-Safeguard-20B، وهو نموذج أكبر منه بحوالي 7 أضعاف .

المواصفات الرئيسية والترخيص

خطط التطوير المستقبلية

لم تنشر Mistral خارطة طريق محددة لـ Shieldstral بعد إصدار 1.0. يتم وضع النموذج كعضو مؤسس في تحالف Open Secure AI (مع NVIDIA وغيرها) وككتلة بناء أساسية للأمان القابل للتكيف مع السياسات . بالنظر إلى طموح Mistral المُعلن لكونها "لاعبًا متكاملًا" في AI — من الرقائق في مراكز البيانات إلى تطبيقات البرمجيات — يمكن أن تشهد الإصدارات المستقبلية من Shieldstral نطاقًا أكبر، دعمًا أوسع للوسائط، أو تكاملًا أوثق مع أدوات Mistral الوكيلة (Vibe، Forge) ومجموعة النشر للمؤسسات . لم يُعلن عن أي وتيرة إصدار أو جدول زمني محدد للميزات.

الحوكمة والآثار العملية

نظرًا لأن Shieldstral يُصدر بأوزان مفتوحة بموجب ترخيص Apache 2.0، يمكن لأي مؤسسة تنزيله واستضافته ذاتيًا دون اتفاقية تجارية مع Mistral . هذا ينقل حوكمة فحص المحتوى إلى داخل المؤسسة: يمكن للفرق تكييف تصنيفات الضرر لجماهير معينة أو سياقات نشر دون إعادة تدريب النموذج الأساسي، ويمكنهم تحديد عتبات درجات الأمان لتتناسب مع درجة تحملهم للمخاطر . النموذج مصمم لفحص التعليمات، فحص الردود، تصنيف أزواج التعليمات-الردود، اكتشاف رفض الإجابة، والتصفية العامة للأمان عبر مدخلات النص والصورة .