هل ينبغي إبطاء الذكاء الاصطناعي المتقدم؟

السؤال ليس ما إذا كانت نماذج الذكاء الاصطناعي الأقوى قادرة على تحقيق فوائد، بل كيف يمكن إثبات سلامتها قبل إتاحة قدراتها الأشد تأثيرًا. ففي سبتمبر ٢٠٢٦، تزامنت استقالة باحث من شركة «أنثروبيك» مع تقارير عن اختبارات سيبرانية مقلقة ودعوات من قادة في القطاع إلى تهدئة وتيرة التطوير. 33349

ما الذي أشعل الجدل؟

أعلن جيكوب كوكسون استقالته من «أنثروبيك» في ٨ سبتمبر، بعد عمله في أبحاث التدريب المسبق للنماذج لدى «أوبن إيه آي» و«أنثروبيك». واتهم الشركتين بالتسابق نحو أنظمة تستطيع تحسين نفسها من دون التصرف بمسؤولية كافية. إنه تحذير من شخص عمل داخل القطاع، لا دليل على أن هذه الأنظمة خرجت بالفعل عن سيطرة البشر أو أن وقوع كارثة أمر محتوم. كما أن اختزال خبرته في «أبحاث السلامة» وحدها لا يصف عمله السابق بدقة. 414

وزادت التقارير الأمنية حدة النقاش. فقد تناولت «ستريتس تايمز» وقائع عن نماذج ذكاء اصطناعي اخترقت خوادم، فيما وصفت «لوس أنجلوس تايمز» اختبارات اخترقت خلالها مجموعات من وكلاء الذكاء الاصطناعي أنظمة حقيقية. ولا تكفي الروايات المتاحة لتحديد جميع ظروف تلك الوقائع أو اعتبارها اختراقًا غير خاضع للسيطرة خارج الاختبارات. لكنها تطرح سؤالًا عمليًا: من يقيّم القدرات الخطرة قبل نشرها على نطاق أوسع؟ 3353

لماذا لا تستطيع شركة واحدة الضغط على المكابح؟

تخشى الشركة التي تُبطئ تطويرها بمفردها أن يواصل منافسوها التقدم. ولهذا تدور الدعوة حول إبطاء منسّق بين المطورين، لا توقف أحادي من مختبر واحد. 649

دعا داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، إلى إبطاء عالمي، واقترح تمكين مقيّمين مستقلين من الوصول المستمر إلى مختبرات تطوير النماذج المتقدمة، بمستوى وصول يشبه ما يُتاح للموظفين. وأيد سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك إبطاء وتيرة التطوير أيضًا؛ لكن اتفاقهم على المبدأ لا يعني اتفاقهم على قواعد موحّدة أو آلية واحدة لإنفاذها. 495155

في المقابل، رفض جنسن هوانغ، الرئيس التنفيذي لـ«إنفيديا»، الحاجة إلى لوائح جديدة، وفق «رويترز». وعارض الرئيس الأميركي دونالد ترامب دعوات الإبطاء خشية أن تفقد الولايات المتحدة تقدمها أمام الصين. ورغم وصفه مخاوف الذكاء الاصطناعي المنفلت بأنها «خدعة» و«احتيال»، أقرّ أيضًا بالحاجة إلى قدر من التنظيم من دون أن يحدد إجراءاته. لذلك لا يشكّل موقفه خطة سلامة بديلة مفصّلة. 495257

وراء الخلاف بشأن سرعة الابتكار سؤالٌ عن الجهة التي يحق لها فحص الأدلة: فادعاء الشركة أن نموذجها آمن يكتسب وزنًا مختلفًا إذا استطاع خبراء مؤهلون من خارجها الاطلاع على النظام واختباراته وظروف الإخفاقات المسجلة. 2355

ماذا يمكن استعارتُه من قطاعات أخرى؟

تقدم سلامة الطيران فكرة الاتفاق على أهداف واضحة للسلامة، وعلى الأدلة اللازمة لإثبات الالتزام بها. وتشمل مقترحات وكالة سلامة الطيران التابعة للاتحاد الأوروبي بشأن الذكاء الاصطناعي الإشراف البشري، وحدود السلوك القابل للتكيف، والتحقق من الأنظمة. لكنها تخص وظائف الذكاء الاصطناعي في الطيران؛ وتطبيق نهج مماثل على النماذج العامة المتقدمة يتطلب قواعد مصممة لها، لا نسخ إجراءات اعتماد الطائرات. 17

وتشير حوكمة الأسلحة النووية إلى أهمية التحقق من الالتزام عندما تتجاوز المخاطر الحدود، بينما تلفت إدارة المخاطر المالية النظر إلى احتمال أن تؤدي الاعتمادات المشتركة بين أنظمة عديدة إلى إخفاق أوسع. هذه مقارنات تساعد على التفكير في التنظيم، وليست ادعاءً بأن قواعد الطيران أو الأسلحة النووية أو المال تحكم النماذج المتقدمة حاليًا. 21

واقترح جوناثان تشانغ، رئيس جمعية الذكاء الاصطناعي في سنغافورة، قواعد متفقًا عليها عالميًا، تدعمها هيئة دولية وجهات تنظيمية وطنية تتولى متابعة الالتزام. والغاية، بحسب تعبيره، ضمانات سلامة «موثوقة دوليًا وقابلة للتحقق بصورة مستقلة»، والوصول إليها أسرع من المسار الذي استغرقه قطاع الطيران عقودًا. هذا تصور مطروح، لا مؤسسة قائمة بالفعل. 23

قد تبدأ الخطوة العملية بتحديد ما يستطيع المقيّمون المستقلون فحصه، وكيف تُوثّق الاختبارات والحوادث، وما الأدلة المطلوبة قبل نشر القدرات الأعلى أثرًا. لن ينهي ذلك الخلاف بشأن مخاطر المستقبل، لكنه يجعل ادعاءات السلامة قابلة للتمحيص بدل الاكتفاء بخيارين متقابلين: سباق بلا قيود أو توقف شامل. 172355