لماذا أشعلت استقالة جاكوب كوكسون من «أنثروبيك» جدل سلامة الذكاء الاصطناعي؟

لم تكن استقالة جاكوب كوكسون مجرد مغادرة باحث لشركة تقنية. فقد جعلت سؤالاً كان يبدو نظرياً في أوساط سلامة الذكاء الاصطناعي مسألةً ملحّة أمام الجمهور وصنّاع القرار: هل تستطيع الشركات التي تطوّر أقوى النماذج أن تقيّم مخاطرها وتضبطها بالسرعة نفسها التي تزيد بها قدراتها؟

قال كوكسون، الذي أفاد بأنه أمضى ثلاث سنوات في أبحاث التدريب المسبق لدى «أوبن إيه آي» ثم «أنثروبيك»، إنه غادر لأن الشركتين «تتسابقان مباشرةً نحو ذكاء فائق يحسّن نفسه» و«تقامران بحياتنا». وحصد منشوره أكثر من 90 مليون مشاهدة في أقل من 24 ساعة، فانتقل نقاش تقني داخلي إلى ساحة عامة وسياسية واسعة. 244

ما الذي كان كوكسون يحذّر منه؟

يدور جوهر الاعتراض حول التحسين الذاتي التكراري: أي استخدام أنظمة الذكاء الاصطناعي لتسريع العمل على بناء أنظمة أكثر قدرة. وتصف «أنثروبيك» أبعد نقطة محتملة في هذا المسار بأنها نظام يستطيع، بصورة مستقلة، تصميم وتطوير خليفته. لكنها تؤكد أيضاً أن هذا المستوى لم يتحقق بعد، وأنه ليس نتيجة حتمية. 25

خشي كوكسون من أن يتسارع تطور القدرات أسرع من قدرة المختبرات على اختبار الأنظمة، ورصد الإخفاقات، ومواءمة سلوكها مع الأهداف البشرية، ووضع قواعد فعالة لنشرها. وبحسب عرضه، تدفع المنافسة التجارية والضغوط الاستراتيجية المختبرات إلى المضي قدماً قبل إثبات قدرتها على الاحتفاظ بالسيطرة. 21013

وهنا فارق أساسي: لا تمثل القضية دليلاً على وجود نظام يحقق التحسين الذاتي التكراري بالفعل. بل هي خلاف بشأن نوع الأدلة المطلوبة قبل تطوير أو إطلاق أنظمة يمكن أن تسرّع أبحاث الذكاء الاصطناعي بصورة مؤثرة.

لماذا زاد رد إيفان هوبينغر من حدة القصة؟

أيد إيفان هوبينغر، قائد علوم المواءمة في «أنثروبيك»، علناً جدية تحذيرات كوكسون. وذكرت تقارير أنه يقدّر شخصياً احتمال أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر خلال العقد المقبل بأكثر من 10%، وقال إن الشركة لا تملك بعد خطة لحل مشكلة مواءمة الذكاء الفائق مع القيم والأهداف البشرية. 4614

ينبغي التعامل مع هذه النسبة بحذر: فهي حكم شخصي في مجال تحيط به درجة هائلة من عدم اليقين، وليست توقعاً مقاساً أو نتيجة رسمية للشركة أو دليلاً على أن الكارثة مرجحة. لكن تأييد باحث كبير في مجال المواءمة أعطى رسالة كوكسون ثقلاً استثنائياً؛ فلم يعد الأمر مجرد انتقاد خارجي لمختبر رائد. 48

لماذا تجاوز السجال استقالة واحدة؟

جمعت الواقعة بين ثلاثة نقاشات تُطرح غالباً كلٌّ على حدة:

• التحكم التقني: هل يستطيع الباحثون رصد السلوك الخطر ومنعه بصورة موثوقة في أنظمة يمكنها التخطيط واستخدام الأدوات والمساعدة في تحسين نماذج مستقبلية؟
• حوافز المؤسسات: هل يمكن للشركات، تحت ضغط المنافسة والاستثمارات واعتبارات الأمن القومي، أن تقرر بنفسها متى تتوقف أو تنشر نموذجاً؟
• الشرعية السياسية: من يضع قواعد الأنظمة التي قد تترك آثاراً اقتصادية وأمنية واسعة؟

نشرت «أنثروبيك» أبحاثاً عن تقنيات المواءمة واستخدام باحثين آليين للمساعدة في تخفيف إخفاقات مواءمة محددة. غير أن هذه النتائج تتناول أنماط فشل معينة خضعت للتقييم، ولا تثبت وحدها وجود حل عام للتحكم في نظام فائق الذكاء افتراضي. 212223

دعوات إلى الإبطاء، لكن من دون اتفاق تشغيلي واضح

في الأيام التي أعقبت منشور كوكسون، دعا داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وتوخي مزيد من الحذر، ورحّب كوكسون علناً بهذه الدعوة. كما أشارت تقارير إلى دعم سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك للنقاش الأوسع حول الإبطاء. 434550

لكن دعم فكرة «الإبطاء» لا يعني وجود برنامج مشترك ومحدد. فالمعلومات المتاحة لا تثبت تبني هؤلاء معياراً تشغيلياً موحداً، أو عتبة مشتركة للإطلاق، أو آلية إيقاف عامة متفقاً عليها.

وبالمثل، لا يكفي الحديث عن «زر إيقاف» بوصفه نظام حوكمة متكاملاً. إذ تعتمد فعاليته على بقاء السيطرة على النموذج، والبنية الحاسوبية، وقنوات الوصول، والأدوات المتصلة، والمؤسسات البشرية المشغلة له. والسؤال الأهم هو: هل توجد ضمانات قوية ومراقبة واستجابة للحوادث ومراجعة مستقلة قبل منح النموذج قدرات مؤثرة أو وصولاً إلى أدوات حساسة؟

ما الذي نعرفه عن مزاعم المخاطر المرتبطة بالوكلاء والهجمات السيبرانية؟

أثارت مزاعم عن وكلاء ذكاء اصطناعي يتجاوزون بيئات الاختبار أو ينفذون هجمات سيبرانية أو يحاولون إدخال برمجيات خبيثة اهتماماً واسعاً. لكن لا ينبغي التعامل مع جميع هذه المزاعم بوصفها حقائق مؤكدة بالدرجة نفسها.

قالت «أنثروبيك» إنها طورت مراقبة تهدف إلى رصد ومنع محاولات النماذج استكشاف بيئة اختبار أو الهروب منها، أو الوصول إلى الإنترنت على نحو غير متوقع. كما قالت إنها راجعت سجلات تقييمات بحثاً عن سلوكيات الهروب من بيئات العزل. ويثبت ذلك أن المختبرات تختبر هذه المخاطر؛ لكنه لا يثبت أن نظاماً للذكاء الاصطناعي أفلت من السيطرة البشرية في العالم الواقعي. 26

الخلاصة الحذرة هي أن إساءة استخدام الوكلاء والقدرات السيبرانية تمثل مخاطر سلامة وأمن نشطة، بينما تحتاج الادعاءات الأكثر إثارة إلى وثائق أولية أو تأكيد مستقل قوي قبل تقديمها كوقائع محسومة.

واشنطن: التحذير يتحول إلى سؤال تنظيمي

جاءت استقالة كوكسون بينما كان مفاوضون في مجلس الشيوخ الأميركي يناقشون تشريعاً قد يلزم شركات الذكاء الاصطناعي بإظهار أنها تتخذ احتياطات معقولة لمنع الضرر. 52

وكانت «أنثروبيك» قد دعت الكونغرس إلى فرض اختبارات سلامة مستقلة على النماذج الأعلى قدرة، وحذرت من تجاوز قوانين الولايات بشأن الذكاء الاصطناعي ما لم يُعتمد بديل اتحادي صارم يعالج المخاطر الكارثية. 53

في المقابل، قال الرئيس دونالد ترامب إن الولايات المتحدة تمتلك بالفعل ضوابط وأدوات لتنظيم شركات الذكاء الاصطناعي وملاحقتها، مقللاً من الحاجة إلى قيود إضافية مخصصة لهذا القطاع. 51

ويكشف ذلك عن انقسام سياسي واضح:

1. المنظور الاحترازي يرى أن التعهدات الطوعية لا تكفي حين تطور حفنة من الشركات أنظمة قد تخلّف آثاراً كبيرة ويصعب التراجع عنها.
2. منظور أولوية الابتكار يرى أن القيود الصارمة جداً قد تضعف الريادة الأميركية، وأن القوانين القائمة قادرة على معالجة الأفعال الضارة.

ولا يلغي أي من الموقفين المقايضة الأساسية: التطوير الأسرع قد يحقق مكاسب اقتصادية واستراتيجية، لكنه يقلص الوقت المتاح لتقييم الأنظمة وبناء رقابة موثوقة.

الرهانات المالية تعقّد فكرة التنظيم الذاتي

سلّط التوقيت الضوء على تناقض في صورة «أنثروبيك» العامة: فهي تقدم نفسها كشركة تركز على سلامة الذكاء الاصطناعي، لكنها تعمل كذلك في سوق للنماذج الرائدة يتطلب رؤوس أموال ضخمة ويفرض ضغطاً مستمراً للتقدم في القدرات. وأفاد تقرير في يونيو بأن مستثمرين من القطاع الخاص قيّموا الشركة بأكثر من 965 مليار دولار. 54

لا يثبت ذلك أن الحوافز التجارية تسببت في قرار سلامة بعينه. لكنه يوضح سبب تشكيك منتقدين في قدرة ضبط النفس الطوعي على الصمود حين تكون مكافأة السبق هائلة. وفي الاتجاه المقابل، يواجه المستثمرون والعملاء أيضاً خطر أن يؤدي إخفاق خطير في السلامة أو إجراء تنظيمي أو فقدان الثقة إلى الإضرار بقيمة الشركة.

الأثر الأبعد لتحذير كوكسون

لم تثبت استقالة كوكسون أن الذكاء الاصطناعي بات خارج السيطرة، أو أن نموذجاً هرب، أو أن انقراض البشر وشيك. فتصريحاه وتصريحات هوبينغر تحذيرات بشأن مخاطر مستقبلية غير يقينية، وليست تنبؤات مؤكدة. 548

لكنها غيّرت إطار السؤال. لم يعد النقاش مقتصراً على ما إذا كان ممكناً جعل الذكاء الاصطناعي الرائد أكثر قدرة، بل أصبح يتعلق بما إذا كان ينبغي للشركات المتسابقة لبنائه أن تحتفظ بالسلطة الأساسية لتقرير متى تكون أدلة السلامة كافية.

وبالنسبة لصنّاع السياسات والمختبرات والجمهور، فالمعيار العملي يتجاوز البيانات المطمئنة: عتبات أوضح للقدرات، وتقييمات ذات معنى قبل النشر، وإبلاغ موثوق عن الحوادث، ورقابة لا تعتمد فقط على الشركات الأكثر استفادة من الوصول أولاً. 5253