كيف قد تضاعف أنظمة الذكاء الاصطناعي المتقدمة مخاطر الأوبئة والهجمات والحروب؟

ليس السؤال الأهم ما إذا كان نموذج واحد يستطيع، بمفرده، إحداث كارثة. السؤال هو: ماذا يحدث عندما تصبح المعرفة الحساسة أسهل تناولاً، وتُسند إلى أنظمة ذكاء اصطناعي قادرة على استخدام الأدوات خطواتٌ كانت تستغرق وقتاً وجهداً بشريين؟ هنا قد تتقلص فرصة التدخل قبل وقوع الضرر. لكن التقارير عن إساءة الاستخدام لا تعني تلقائياً نجاحها، فضلاً عن إثبات كارثة.182258

في المختبر: المساعدة البحثية ليست سلاحاً بيولوجياً

تستطيع روبوتات المحادثة العامة شرح المعلومات العلمية، بينما تساعد أدوات متخصصة الباحثين في تحليل البيانات والتخطيط للتجارب. وتقول OpenAI إن نموذج GPT-Rosalind يعزز الاستدلال في علوم الحياة وسير العمل التجريبي. وتعرض مجلة Nature فوائد أدوات الذكاء الاصطناعي البيولوجي، ومنها AlphaFold، إلى جانب القلق من إمكان استخدامها لأغراض ضارة.1019

هذا القلق لا يقوم على الافتراض وحده: نشرت نيويورك تايمز تقريراً عن محادثات قدّمت فيها روبوتات إرشادات تتعلق بأسلحة بيولوجية، وتناولت سبل تفادي الكشف.21 وقالت Anthropic إنها عطّلت خمس حالات محتملة كان فيها استخدام نموذجها Claude قد يدعم تطوير أسلحة بيولوجية؛ وبحسب Axios، تعلقت حالتان بطلبات مساعدة في أبحاث خطرة لـ«تعزيز الوظيفة»، أي تعديل الكائنات لإكسابها خصائص بيولوجية جديدة أو أقوى.25 لا يثبت أيٌّ من التقريرين إنتاج سلاح فعلي.

فالحصول على إجابة شيء، وتأمين الخبرة والمواد وتنفيذ العمل المختبري اللازم شيء آخر. تظل هذه عوائق عملية، حتى لو جعلت الأدوات الجديدة تجاوز بعضها أسهل.1926 ومن باب الاحتياط، صنّفت OpenAI قدرة GPT-5 البيولوجية ضمن الفئة عالية الخطورة في إطار استعدادها، لكنها قالت صراحةً إنها لا تملك دليلاً حاسماً على أن النموذج يستطيع مساعدة مبتدئ مساعدةً ملموسة في إحداث ضرر بيولوجي جسيم.31

في الفضاء السيبراني: السرعة لا تُثبت حجم الضرر

يمكن للأنظمة التي تستخدم الأدوات أن تساند مراحل متعددة من الاختراق، ما قد يوسع قدرة المهاجم ويختصر الوقت المتاح للمدافعين. وتشير تقارير عن إفصاحات Anthropic إلى استخدام الذكاء الاصطناعي في عمليات سيبرانية وسرقة بيانات.5053

ومن الحالات المبلّغ عنها هجوم استخدم فيه شخص واحد أدوات ذكاء اصطناعي ضد تسع جهات حكومية مكسيكية.54 وتذكر روايات ثانوية انكشاف نحو 400 مليون سجل، لكن الأدلة المتاحة هنا لا تتحقق من هذا الإجمالي بصورة مستقلة.5657 أما الحديث عن أسراب من الأنظمة المتعاونة هاجمت نحو 50 مؤسسة، فلا تسنده المصادر المتاحة بما يكفي لتقديمه بوصفه واقعة مثبتة.

ولهذه القدرة وجه دفاعي أيضاً: اكتشاف ثغرة قد يساعد مهاجماً على استغلالها أو مدافعاً على إصلاحها. لكن المصادر المتاحة لا تثبت الادعاء المحدد بأن GPT-5.6-Cyber اكتشف ثغرات أُصلحت لاحقاً في متصفح Chrome؛ لذا لا يصح تقديمه مثالاً موثقاً.

التضليل والأسلحة الذاتية: كيف تتفاقم الأزمات؟

تشمل حالات إساءة الاستخدام التي أبلغت عنها Anthropic عمليات تأثير في الرأي العام.2250 والخطر المحتمل أن تزيد الرسائل الملفقة أو انتحال الهويات صعوبة فهم ما يجري أثناء هجوم سيبراني أو نزاع مسلح. لكن الحالات المذكورة لا تثبت أن حملة تضليل واسعة تسببت في نتيجة وجودية.

وفي المجال العسكري، قالت Anthropic إن مطورين يُرجح وجودهم في روسيا استخدموا Claude للعمل على برمجيات لسرب من المسيّرات الهجومية، تشمل التوجيه والتنسيق واختيار الأهداف.5160 تطوير البرمجيات لا يساوي إثبات استخدامها في ساحة المعركة. كما أن وجود الذكاء الاصطناعي في مسيّرة لا يحدد، وحده، مقدار سيطرة الإنسان على قرار استخدام القوة المميتة. وتحذر اللجنة الدولية للصليب الأحمر من أسلحة ذاتية التشغيل قد يعجز البشر عن فهم سلوكها أو توقعه أو التحكم فيه على نحو كافٍ، بما يهدد المدنيين ويزيد خطر تصعيد النزاع.58

الوقاية تتطلب أكثر من رفض الطلبات

رفض روبوت المحادثة لطلب خطير إجراء مفيد، لكنه ليس خط الدفاع الوحيد. يناقش باحثون في التكنولوجيا الحيوية أنظمة الرفض وتقييد الوظائف عالية الخطورة؛ وترى مؤسسة RAND أن تعدد طبقات الحماية ضروري لأن إجراءً واحداً لا يكفي لردع جهة مصممة على إساءة الاستخدام.1729 وتقول Anthropic إنها رصدت حالات إساءة استخدام وعطّلتها، وعززت ضوابطها المتعلقة بالأبحاث البيولوجية الحساسة.2223

الأولوية العملية هي اختبار ما تستطيع الأنظمة إنجازه عبر مهام متعددة الخطوات، وتقييد الأدوات والصلاحيات الممنوحة لها، ومراقبة إساءة الاستخدام، والإبقاء على القدرة على وقف العمليات. وفي أنظمة السلاح، لا تكفي مشاركة بشرية شكلية؛ بل يجب أن يمتد التحكم البشري الفعلي إلى قرار استخدام القوة المميتة. وقد دعت الأمم المتحدة واللجنة الدولية للصليب الأحمر إلى قواعد دولية أقوى للأسلحة الفتاكة ذاتية التشغيل، وهي دعوة لا تعني وجود حظر عالمي نافذ بالفعل.5558

ما تؤيده الأدلة هو الاستعداد للخطر، لا اعتباره حتمياً. ثمة تقارير عن مساعدات خطرة ومحاولات إساءة استخدام في مجالات الأحياء والهجمات السيبرانية وتطوير الأسلحة. أما القول إن ذلك أفضى إلى كارثة أو يثبت تهديداً وجودياً، فيحتاج إلى أدلة على ضرر تحقق بالفعل، لا مجرد نموذج قادر أو خطة مقلقة.212246