داخل مختبر اختبار الاختراق الآلي من OpenAI: الذكاء الاصطناعي يكتشف ثغرات GPT-5.6 بنفسه

تستخدم هذه الطريقة أسلوب "لعب الذات"، حيث يقوم مهاجم آلي يعمل بالذكاء الاصطناعي التوليدي بفحص النموذج المستهدف بحثاً عن نقاط ضعف مثل حقن الأوامر والهروب الأمني . وقد صرحت OpenAI بأن هذا الأسلوب المدعوم بالتعلم المعزز يساعد في اكتشاف الثغرات وسدها بشكل استباقي قبل أن يتم تسليحها في العالم الحقيقي . تصف الشركة حقن الأوامر بأنه "تحدٍ أمني على مستوى حدودي" (frontier security challenge) وتستخدم بنشاط اختبار الاختراق الآلي لتطوير هجمات حقن أوامر جديدة .

اختبار الصندوق الأسود لـ GPT-5.6 بـ 700,000 ساعة GPU

قبل الإتاحة العامة لـ GPT-5.6، أخضعته OpenAI لأطول فترة تقييم له حتى الآن . ينص ملخص بطاقة نظام GPT-5.6 على: 'لقد خصصنا أيضاً أكثر من 700,000 ساعة GPU من نوع A100e للعثور تلقائياً على ثغرات هروب شاملة ونقاط ضعف أخرى' . استكمل هذا الاختبار الآلي أسابيع من اختبار الاختراق البشري وتقييمات الخبراء الخارجيين .

نشرت الشركة ميزانية الحوسبة الضخمة هذه للبحث عن ثغرات هروب شاملة ومنهجية بدلاً من مجرد إخفاقات فردية محدودة . تم تصميم اختبار الاختراق الآلي للعمل بشكل مستمر حتى بعد النشر، مع تطبيق التخفيفات وإعادة الاختبار مع الإبلاغ عن أي هروب جديد .

تصنيفات مخاطر GPT-5.6: عالية ولكن دون الحرج

بموجب إطار التأهب (Preparedness Framework) الخاص بـ OpenAI، تم تصنيف جميع نسخ GPT-5.6 الثلاث — Sol (الرائد)، Terra (منخفض التكلفة)، وLuna (الأسرع) — بقدرة 'عالية' في مجالي الأمن السيبراني والمخاطر البيولوجية/الكيميائية . هذه هي المرة الأولى التي تتجاوز فيها حتى النماذج الأصغر والأرخص ثمنًا عتبة 'العالي' لهذه الفئات .

ومع ذلك، لم يصل أي من النماذج إلى عتبة 'الحرجة'. وجد الاختبار الداخلي للأمن السيبراني أن GPT-5.6 Sol وTerra يمكنهما تحديد نقاط الضعف وأجزاء من الاستغلالات، لكنهما لم يكونا قادرين على تنفيذ هجمات كاملة من البداية إلى النهاية بشكل مستقل . لم يصل أي من النماذج إلى عتبة 'العالي' لتحسين الذات في الذكاء الاصطناعي .

حزمة الأمان متعددة الطبقات

يأتي GPT-5.6 مزوداً بما تصفه OpenAI بأنه 'أقوى إجراءات الحماية لدينا حتى الآن' . تشمل بنية الأمان ما يلي:

• رفض مدمج على مستوى النموذج للطلبات عالية المخاطر.
• مصنفات تنشيط في الوقت الفعلي تفحص الإشارات العصبية الداخلية أثناء الاستدلال ويمكنها إيقاف التوليد فوراً في حال ظهور أنماط عالية الخطورة .
• مصنفات في الوقت الفعلي لسوء الاستخدام السيبراني والبيولوجي .
• مراجعة على مستوى الحساب والتحكم التفاضلي في الوصول .

يعكس هذا النهج متعدد الطبقات استنتاج OpenAI بأن أي إجراء حماية واحد غير كافٍ .

دور الباحث في اختبار الاختراق الآلي (ART)

تبني OpenAI بنشاط قدراتها الداخلية لاختبار الاختراق الآلي. تبحث الشركة عن باحث في اختبار الاختراق الآلي (الراتب الأساسي 295,000 - 445,000 دولار) يتمثل دوره في 'قيادة جهود اختبار الاختراق الآلي، مع التركيز على بناء أنظمة قابلة للتطوير لكشف أنماط الفشل في نماذج الذكاء الاصطناعي وإجراءات الحماية' . كما تبحث الشركة أيضاً عن أخصائي اختبار اختراق للسلامة البيولوجية (158,000 - 320,000 دولار) لقيادة جهود اختبار الاختراق في مجال السلامة البيولوجية والأسلحة البيولوجية .

تحدي Kaggle بقيمة 500,000 دولار

استضافت OpenAI تحدي اختراق على منصة Kaggle بجائزة قدرها 500,000 دولار، ركز على نماذجها مفتوحة الأوزان gpt-oss-120b و gpt-oss-20b . حفزت المسابقة المشاركين لاكتشاف نقاط ضعف جديدة لم يتم تحديدها من قبل . بينما لم يتم التحقق من الرقم المحدد البالغ 500,000 دولار وتفاصيل التحدي بشكل مستقل من مصادر OpenAI الرسمية في هذا التحليل، تؤكد تقارير الطرف الثالث من TechPolicy.Press وجود المسابقة . تشير بطاقة نظام GPT-5.6 إلى "MLE-Bench Revised" الذي يقيم النماذج في مسابقات Kaggle، لكنه لا يذكر جائزة 500,000 دولار بشكل مباشر.

السياق التنظيمي وحالة عدم اليقين

تؤكد الأدلة المتاحة أن GPT-5.6 يُصدر مع حزمة أمان متعددة الطبقات وأن إطار التأهب الخاص بـ OpenAI صنف نماذجها الخاصة . تشير تغطية الطرف الثالث إلى مشاركة الحكومة الأمريكية في سياق 'البوابات' (gatekeeping)، حيث قد تؤثر الحكومة على الوصول إلى النماذج الأكثر قدرة . ومع ذلك، لم يرد ذكر مباشر لمعهد سلامة الذكاء الاصطناعي في المملكة المتحدة أو إجراءات تنظيمية أمريكية محددة في المصادر الأولية التي تم زحفها. توثق وثائق بطاقة النظام الخاصة بـ OpenAI تصنيفات السلامة ولكنها لا تذكر تفاصيل التدقيق التنظيمي الخارجي خارج إطار التأهب الخاص بها .