Abliteration.ai تطرح نماذج ذكاء اصطناعي بلا «رفض»: لماذا يثير ذلك مخاوف أمنية؟

تسوّق شركة Abliteration.ai فكرة مثيرة للجدل في عالم النماذج مفتوحة الأوزان: تعديل النموذج كي يتوقف عن رفض الطلبات الضارة، ثم إتاحته كخدمة عبر الإنترنت. وتستضيف الشركة نسخة مشتقة من نموذج GLM-5.3 التابع لـ Z.ai، يمكن الاستعلام منها عبر المتصفح أو واجهة برمجة التطبيقات (API)، ما ينقل هذه العملية من كونها مهمة تقنية ينفذها المستخدم محلياً إلى منصة مُدارة وجاهزة للاستخدام. 7

تقدّم الشركة خدمتها بوصفها بنية لاختبارات الأمن السيبراني الهجومي، و«الفِرق الحمراء» واختبار وكلاء الذكاء الاصطناعي. لكن ما أورده موقع TechCrunch عن حصوله من النموذج على مخرجات تتصل بسرقة بيانات اعتماد وباستزراع ممرض خطير يوضح جوهر القلق: ما قد يفيد الدفاع المصرّح به يمكن أن يقلل أيضاً عوائق الاستخدام المؤذي في الواقع. 7

ما المقصود بـ«Abliteration»؟

في هذا السياق، تشير Abliteration إلى تعديل نموذج لغوي لكبح أو إزالة سلوكه المتعلّم في رفض الطلبات. وهي تختلف عن مجرد صياغة مطالبة ملتوية لتجاوز طبقة سياسات في روبوت محادثة.

تقول Abliteration.ai إنها تحدد اتجاهات في التفعيلات الداخلية للنموذج ترتبط بحالات الرفض، ثم تزيلها من أوزان النموذج. ووفق طرحها، يسمح ذلك بالحفاظ على قدرات البرمجة والأمن السيبراني والوكلاء، بينما يواصل النموذج سلاسل المهام التي قد توقفها النماذج الأكثر تقييداً من ناحية السلامة. 1315

لكن وصف الآلية والقول إن القدرات المفيدة لا تتأثر يظلان ادعاءين من الشركة. فلا تتضمن المواد المتاحة تقييماً مستقلاً يثبت أن النسخة المعدّلة من GLM-5.3 تعادل النموذج الأساسي في القدرات أو الموثوقية أو السلوكيات المرتبطة بالسلامة. 13

ماذا تبيع الشركة؟

تستضيف Abliteration.ai نماذج مفتوحة الأوزان جرى تعديلها، ومنها نموذج قائم على GLM-5.3 يحمل اسم abliterated-model-large-v2. ويُسوّق للاستخدام في العمل السيبراني الهجومي، واختبارات الفرق الحمراء، واختبار الوكلاء، مع إتاحة الوصول من خلال واجهة ويب وواجهة برمجة تطبيقات. 17

وهنا تكمن أهمية نموذج التوزيع: إذ يستطيع المستخدمون ذوو الخبرة والموارد الحاسوبية اللازمة تعديل نماذج مفتوحة الأوزان وتشغيلها محلياً بالفعل. أما الخدمة المستضافة فتجعل النموذج المعدّل متاحاً على نحو أكثر مباشرة، وتخفف عبء التنزيل والتعديل والاستضافة الذاتية. 37

ما الذي حصل عليه TechCrunch في الاختبار؟

أفاد TechCrunch بأن صحفييه أنشأوا حساباً مجانياً على الويب بسرعة، ثم تلقوا من النموذج المستضاف ردوداً على طلبات ترفضها عادة الأنظمة السائدة. ومن المخرجات التي أوردها التقرير:

• شيفرة بايثون تستهدف استخراج كلمات المرور المحفوظة في متصفح Chrome.
• بروتوكول منزلي مفصل لاستزراع ممرض بشري خطير. 7

تتجاوز هذه الأمثلة نقاش التعليم الأمني غير المؤذي؛ فهي تشير إلى أن النموذج قد يقدّم، عبر واجهة مستضافة يسهل الوصول إليها، مواد ذات صلة بسرقة بيانات الاعتماد والإضرار البيولوجي. 7

حجة الشركة: فائدة للفِرق الحمراء

تستند Abliteration.ai إلى حجة «الاستخدام المزدوج» المعروفة: يحتاج المدافعون إلى محاكاة السلوك الهجومي من أجل اكتشاف الثغرات ومعالجتها. فقد يحتاج فريق أمن يختبر بنكاً أو شركة طيران أو جهة تدير بنية تحتية حيوية إلى التحقق مما إذا كانت دفاعاته تصمد أمام تطوير استغلالات أو إنشاء حمولات برمجية أو أتمتة خبيثة أو مسارات هجوم متعددة الخطوات. وإذا رفض مساعد الذكاء الاصطناعي كل مرحلة، فقد تقل فائدته في الاختبارات الواقعية والمصرّح بها، وفق منطق الشركة. 47

وتشمل الاستخدامات المشروعة اختبار الاختراق بتفويض، وتحليل البرمجيات الخبيثة، ومسابقات «التقاط العلم» (CTF)، والبحث الأمني. غير أن التقنيات نفسها قد تفيد المهاجمين خارج بيئة مضبوطة ومصرح بها. 24

لماذا يثير الأمر انتقادات؟

الاستضافة قد تخفّض عتبة إساءة الاستخدام

لا ينحصر القلق في إمكانية وجود نماذج أزيل منها سلوك الرفض؛ فالنماذج مفتوحة الأوزان تتيح أصلاً للمستخدمين القادرين تقنياً تجربة تعديلات مختلفة. لكن الخدمة المتاحة عبر المتصفح أو API تجعل الوصول إلى قدرات قد تكون مؤذية أسهل، من دون أن يحتاج المستخدم إلى إدارة أوزان النموذج أو البنية الحاسوبية بنفسه. 37

الحفاظ على القدرات ليس مثبتاً بصورة مستقلة

تقول الشركة إن تعديلات الأوزان تُبقي القدرات الأساسية للنموذج في البرمجة والأمن السيبراني. لكن تغيير الأوزان لتعديل الرفض قد يؤثر منطقياً في سلوكيات متعلّمة أخرى. ولا تقدم الأدلة المتاحة مقارنة مستقلة وشاملة للمعايير تثبت عدم تغيّر القدرات أو الموثوقية أو السلوكيات الأخرى بعد التعديل. 1315

يصعب التحقق من النية عبر نص الطلب

قد يكون طلب شيفرة استغلال أو مساعدة في سلسلة هجوم جزءاً من تقييم مصرح به، وقد يكون في المقابل تمهيداً لاختراق فعلي. وتوضح المخرجات المتعلقة بكلمات مرور Chrome والممرض الخطير لماذا لا يمكن للخدمة استنتاج مشروعية النية من وصف المستخدم وحده. 7

نقاش الضمانات: الفرز والتحقق والمساءلة

يشير تقرير TechCrunch إلى أن ضوابط وصول قوية لم تكن ظاهرة في المسار الذي اختبره: أنشأ الصحفيون حساباً بسرعة ووصلوا إلى النظام مجاناً عبر المتصفح. 7

ولا تثبت التقارير المتاحة مجموعة الضوابط الحالية كاملة لدى الشركة، لذلك لا يصح الجزم بعدم وجود ضوابط محددة. لكنها تترك أسئلة أساسية بلا إجابة:

• مصنّفات النشاط الضار: هل تفحص الخدمة الطلبات أو المخرجات لاكتشاف الأنشطة عالية الخطورة؟
• التحقق من هوية العميل: هل تُربط الحسابات بهويات حقيقية يمكن مساءلتها؟
• إجراءات «اعرف عميلك» (KYC): هل يقتصر الوصول على مؤسسات خضعت للتدقيق أو مختصين أمنيين مخولين؟
• المراقبة والإنفاذ: هل توجد آليات لاكتشاف إساءة الاستخدام والتحقيق في المخالفات وسحب الوصول؟

لن تقضي هذه الإجراءات على مشكلة الاستخدام المزدوج، لكنها قد تجعل إساءة الاستخدام المجهولة أو الانتهازية أصعب، مع الإبقاء على مسار لاختبارات أمنية مصرح بها وقابلة للمساءلة.

الخلاصة

تحوّل Abliteration.ai تقنية تعديل النماذج إلى منتج مستضاف، إذ تتيح نسخة مشتقة من GLM-5.3 أزيل منها سلوك الرفض لأعمال الأمن السيبراني واختبار الوكلاء. 17 وحجتها بشأن فائدة الفرق الحمراء مفهومة، لكن نتائج الاختبار التي أوردها TechCrunch تبيّن أن الأمر ليس مجرد خطر نظري. 7

المسألة الأساسية هي الحوكمة: عندما تُصمَّم خدمة لتقديم مساعدة ترفضها النماذج التقليدية، فإن مبررات السلامة تعتمد بدرجة كبيرة على ضوابط وصول قابلة للتحقق، وفرز فعّال، ومساءلة حقيقية، لا على تأكيد المستخدم أن غرضه دفاعي فقط.