ذكاء ميثوس الاصطناعي من أنثروبيك يكمل أول محاكاة هجوم سيبراني كاملة – وهذا يثير أسئلة أمنية جديدة

هذه القدرة مهمة لأنها تنقل أنظمة الذكاء الاصطناعي إلى ما هو أبعد من مجرد الإجابة على أسئلة أمنية أو كتابة مقاطع برمجية منعزلة. بدلاً من ذلك، يمكنها اتباع سيرورة هجوم واقعية – تخطيط وتنفيذ خطوات متعددة نحو هدف محدد.

أدلة على تقدم قدرات الذكاء الاصطناعي السيبرانية بسرعة

حذرت الحكومة البريطانية من أن نماذج الذكاء الاصطناعي الجديدة أصبحت قادرة بشكل متزايد على مهام كانت تتطلب في السابق خبرات نادرة في الأمن السيبراني. وتشمل هذه المهام:

• تحديد الثغرات البرمجية
• كتابة أكواد استغلال الثغرات
• تسريع عملية الاكتشاف والاستغلال

يقول المسؤولون إن هذا التحول يمكن أن يزيد بشكل كبير من سرعة وحجم العمليات السيبرانية مقارنة بالهجمات التقليدية التي يقودها البشر.

من الناحية العملية، قد لا يعود عنق الزجاجة متمثلاً في توفر مخترقين ماهرين، بل في من لديه إمكانية الوصول إلى أنظمة ذكاء اصطناعي يمكنها أتمتة أجزاء من العمل.

لماذا يعتبر احتواء النموذج أمراً بالغ الأهمية

بسبب هذه القدرات، لا يتم إطلاق نماذج مثل ميثوس على نطاق واسع.

لقد وضعت أنثروبيك هذا النظام كقوي بشكل خاص في مهام أمن الحاسوب وقيدت توفره بحيث يمكن استخدامه في الأبحاث الدفاعية واكتشاف الثغرات في بيئات محكومة.

المنطق هنا واضح ومباشر: نفس أدوات الذكاء الاصطناعي التي تساعد باحثي الأمن في العثور على نقاط الضعف بشكل أسرع يمكن أن تساعد أيضاً المهاجمين إذا حصلوا على وصول غير مقيد إليها.

مخاوف بشأن الوصول غير المصرح به

حتى مع وجود قيود، يشعر الخبراء بالقلق من مدى صعوبة احتواء أنظمة ذكاء اصطناعي قوية بمجرد مشاركتها مع شركاء أو مقيمين أو بائعين.

أشارت بعض التقارير إلى أن مجموعة صغيرة من المستخدمين غير المصرح لهم ربما تمكنوا من الوصول إلى نموذج ميثوس من خلال بيئة بائع خارجي، على الرغم من أن أنثروبيك قالت إنها لم تجد أي دليل على تعرض أنظمتها الخاصة للاختراق. ونظراً لأن المعلومات مستمدة من تقارير ثانوية، فإن التفاصيل لا تزال غير مؤكدة.

ومع ذلك، يوضح الحادث قلقاً أوسع: يمكن أن تصبح النماذج السيبرانية عالية القدرة أهدافاً قيّمة للسرقة أو إساءة الاستخدام.

الفجوة المتزايدة بين المدافعين المدعومين بالذكاء الاصطناعي والآخرين

هناك قلق آخر أثاره صانعو السياسات وباحثو الأمن يتمثل في "عدم المساواة الدفاعية" المحتملة.

قد تتمكن المؤسسات التي لديها إمكانية الوصول إلى أدوات أمنية متقدمة مدعومة بالذكاء الاصطناعي من فحص الأنظمة واكتشاف الثغرات ونشر التصحيحات بشكل أسرع بكثير من الفرق التي تعتمد على سير العمل التقليدية. وفي الوقت نفسه، يمكن للمهاجمين الذين يستخدمون الذكاء الاصطناعي تسريع اكتشاف نقاط الضعف واستغلالها.

هذا يخلق سيناريو تستفيد فيه المؤسسات الغنية بالموارد من دفاعات معززة بالذكاء الاصطناعي، بينما تواجه المؤسسات الأصغر تهديدات آلية متزايدة بدون أدوات مماثلة.

ما الذي يشير إليه تقييم ميثوس حقاً

نتائج معهد أمن الذكاء الاصطناعي البريطاني لا تعني أن الذكاء الاصطناعي يمكنه اختراق شبكات العالم الحقيقي بشكل مستقل دون قيود. فقد جرى التقييم في بيئة خاضعة للرقابة ولا يعكس بالضرورة الأداء ضد أنظمة محصنة يدافع عنها خبراء بشكل نشط.

لكن النتائج تظهر بالفعل تحولاً واضحاً: بدأت نماذج الذكاء الاصطناعي المتطورة في تنفيذ عمليات سيبرانية معقدة بشكل مستقل في محاكاة واقعية.

بالنسبة للحكومات ومحترفي الأمن، لم يعد التحدي افتراضياً. فمع استمرار تحسن أنظمة الذكاء الاصطناعي في اكتشاف الثغرات واستغلالها، قد يصبح التحكم في الوصول وضمان التبني الدفاعي بنفس أهمية تحسين النماذج نفسها.