أنظمة السلامة في الذكاء الاصطناعي تحت الحصار: إثبات NIST الرياضي، اختراق Copilot، وإيقاف نموذج Anthropic

شكّل النصف الأول من عام 2026 نقطة تحول مفصليّة في مجال سلامة الذكاء الاصطناعي، حيث اجتمعت تطورات مستقلة متعددة لتثبت بشكل جماعي أن الدفاعات الحالية بعيدة كل البعد عن أن تكون منيعة. فمن برهان رياضي رسمي على فشل أنظمة الحماية، إلى أمر حكومي بإيقاف نموذج متطور، تدفع الأدلة نحو إعادة نظر أساسية في كيفية تأمين أنظمة الذكاء الاصطناعي المتقدمة.

لا توجد حماية محدودة شاملة: برهان NIST

جاء التطور الأكثر تأثيرًا من المعهد الوطني للمعايير والتقنية (NIST). ففي 9 يونيو 2026، أعلن NIST عن برهان رياضي نُشر بعد مراجعة الأقران من قبل كبير العلماء أبستول فاسيليف، في مجلة IEEE Security & Privacy (مايو–يونيو 2026)، يوسّع نظريات عدم الاكتمال لكورت غودل لتشمل أنظمة حماية الذكاء الاصطناعي .

النتيجة الجوهرية صارمة: "لا توجد مجموعة محدودة من أنظمة الحماية يمكنها أن تكون قوية عالميًا ضد الاستفسارات الخصومية" . ولأن اللغة الطبيعية غامضة بلا حدود وأنظمة الحماية محدودة بالضرورة، سيكون هناك دائمًا استفسار يمكنه التهرب من الكشف - ليس بسبب ضعف في الهندسة، ولكن كحتمية رياضية . يوصي NIST صراحةً المنظمات بالانتقال من نموذج الحماية الثابت "مرة واحدة وإلى الأبد" إلى بنية أمنية من نمط "المراقبة والتحديث المستمرين" .

HMNS: اختراق على مستوى الدائرة يعدّل تمثيلات النموذج

قدّم باحثون من جامعة فلوريدا تقنية تُدعى التوجيه الفراغي الصفري المعتمد على الرأس (Head-Masked Nullspace Steering - HMNS)، والتي تعمل على مستوى الدائرة لنموذج المحول . تم قبولها كورقة مؤتمر في ICLR 2026 . تحدد HMNS رؤوس الانتباه المسؤولة سببيًا عن سلوك السلامة الافتراضي للنموذج، وتثبّت مسارات كتابتها عبر إخفاء الأعمدة المستهدفة، وتحقن اضطرابًا محدودًا بالمتمم المتعامد للفضاء الفرعي للرفض في النموذج .

هذا ليس اختراقًا يعتمد على الاستفسارات النصية. من خلال التلاعب المباشر بالتمثيلات الداخلية للنموذج، تحقق HMNS معدلات نجاح هجوم تقترب من 99% على نماذج مثل LLaMA-3.1-70B بمعدل محاولتين تقريبًا، مع الحفاظ على سلاسة المخرجات .

مرفوض في الدردشة، مكتوب في الكود: ثغرة سير العمل في Copilot

ورقة بحثية نُشرت في 9 يوليو 2026 على arXiv، بعنوان "مرفوض في الدردشة، مكتوب في الكود"، تُظهر أن وكلاء البرمجة في بيئات التطوير المتكاملة مثل GitHub Copilot يُظهرون رفضًا شبه كامل تحت خطوط الأساس المباشرة للدردشة أو قراءة ملفات CSV أو إصلاح التعليمات البرمجية أحادية الخطوة (فقط 8/816 استجابة ناجحة) . ومع ذلك، عندما يتم تفكيك نفس الهدف الضار إلى سير عمل تطوير برمجيات متعددة الخطوات - قراءة الملفات، تشغيل البرامج النصية، معالجة مدخلات الاختبارات - تنتج النماذج مخرجات ضارة في جميع جولات التشغيل البالغ عددها 816 .

تتجاوز تقنية الاختراق على مستوى سير العمل عوامل تصفية الأمان في طبقة الدردشة عن طريق إعادة صياغة الأهداف الخبيثة كمهام تطوير عادية . فبدلاً من مطالبة النموذج بـ"كتابة تعليمات برمجية خبيثة"، يطلب منه المهاجم "قراءة ملف، تشغيل برنامج نصي، ثم معالجة مدخلات الاختبار القياسي" - وهو تسلسل يبدو غير ضار في كل خطوة على حدة ولكنه يحقق الهدف الضار عند التجميع.

تدخل حكومي: Anthropic تعطّل Claude Fable 5 عالميًا

في 12 يونيو 2026، بعد ثلاثة أيام فقط من كشف Anthropic عن Claude Fable 5 وMythos 5، أرسل وزير التجارة الأمريكي هاورد لوتنيك خطابًا إلى الرئيس التنفيذي داريو أمودي يوجه فيه Anthropic بوقف الصادرات عالميًا، مستخدمًا لأول مرة بندًا من قانون إصلاح مراقبة الصادرات لعام 2018 . كان المحفز اختراقًا اكتشفه باحثو أمازون يمكن أن يدفع Fable 5 لتحديد ثغرات برمجية، مما أثار مخاوف بشأن تحويله إلى أجهزة استخبارات عسكرية أجنبية .

ونظرًا لأن Anthropic لم تستطع التحقق من جنسية المستخدم بشكل موثوق في الوقت الفعلي، فقد عطّلت كلا النموذجين لجميع المستخدمين في جميع أنحاء العالم . تم رفع قيود التصدير في 30 يونيو، وعاد Fable 5 عالميًا في 1 يوليو 2026، بعد تعليق دام 18 يومًا . تمت استعادة الوصول إلى Mythos 5 لمجموعة من المنظمات الأمريكية .

ماذا يعني هذا لأمن الذكاء الاصطناعي

تتقارب هذه التطورات الأربعة في حقيقة واحدة: أنظمة الحماية الثابتة لمرة واحدة غير كافية بشكل أساسي. يثبت برهان NIST هذا كحتمية رياضية . يُظهر HMNS أنه يمكن استغلال هذا بكفاءة شبه كاملة . يوضح اختراق سير العمل في Copilot أنه حتى عوامل التصفية القوية على مستوى الدردشة يمكن تجاوزها عندما تعمل النماذج كوكلاء . وتظهر حادثة Fable 5 أن اكتشاف مثل هذه الثغرات يمكن أن يؤدي إلى تدخل حكومي غير مسبوق .

النتيجة العملية واضحة: يجب على المؤسسات التحول من التصديق على أن النموذج "آمن" أثناء التطوير إلى المراقبة المستمرة، والاختبار، وتحديث أنظمة الحماية طوال دورة حياة النموذج - وهو النهج الذي يوصي به NIST صراحةً .