بدلاً من التكهن بنهاية العالم: كيف تتعامل سنغافورة مع مخاطر الذكاء الاصطناعي؟

ماذا يفعل المسؤول عن نظام ذكاء اصطناعي اليوم أمام تحذيرات تتحدث عن خطر قد يهدد البشرية؟ الإجابة التي تطرحها أصوات من قطاع الذكاء الاصطناعي في سنغافورة ليست تجاهل التحذيرات، ولا وقف جميع الأعمال. إنها تحويل القلق إلى أسئلة قابلة للفحص: من يختبر النظام؟ ما إجراءات السلامة التي يمكن التحقق منها؟ وما الصلاحيات التي سيحصل عليها عند استخدامه؟ 732

من التحذير إلى إمكانية التحقق

اشتد النقاش في سبتمبر 2026 بعدما استقال الباحث جاكوب كوكسون من «أنثروبيك». وكان قد عمل في «أنثروبيك» و«أوبن إيه آي»، واتهم الشركتين بالتسابق نحو ذكاء فائق قادر على تحسين نفسه من دون تصرّف مسؤول. وأيّد باحث «أنثروبيك» إيفان هوبينغر جوهر القلق، مقدّراً، في تقييم شخصي، احتمال أن يتسبب الذكاء الاصطناعي في انقراض البشر خلال العقد المقبل بأكثر من 10%. هذا تقدير شخصي، لا احتمال مقاس أو دليل على أن الانقراض وشيك. 34

ودعا الرئيس التنفيذي لـ«أنثروبيك»، داريو أمودي، إلى إبطاء التطوير. وتضمّن مقترحه في 12 سبتمبر إتاحة المجال لمقيّمين مستقلين للتحقق من الالتزام بإجراءات السلامة والتواصل بشأنها، والإبلاغ عن الحوادث. هنا ينتقل السؤال من حجم الخوف إلى ما يستطيع طرف خارج الشركة التثبت منه فعلاً. 1332

ما الذي يستطيع التدقيق إثباته؟

يمكن للاختبارات كشف عيوب الأنظمة المتاحة الآن، لكنها لا تمنح شهادة سلامة لكل نظام سيُطوَّر مستقبلاً. ففي سنغافورة، تتيح أداة «AI Verify»، التي أُطلقت عام 2022، تقييم مدى إنصاف نتائج الذكاء الاصطناعي ومتانتها وقابليتها للتفسير. ويُطرح أيضاً برنامج لاعتماد مختبري الذكاء الاصطناعي لبناء قدرات الاختبار. 1933

ولا يكفي أن تقول الشركة إن نموذجها اجتاز فحصاً داخلياً. يحتاج المقيّمون المستقلون إلى وصول يتيح لهم مراجعة ممارسات السلامة ورصد الحوادث، فيما تحتاج المؤسسات إلى وضوح وضوابط من مزوّدي النماذج قبل ربطها ببياناتها وسير عملها. وحتى إتاحة أوزان النموذج لا تكشف وحدها قرارات التدريب أو الإخفاقات أو جميع الضمانات المتبعة. 3234

هذا النهج لا يستبعد الإبطاء عند الضرورة. فأحد الخبراء المستند إليهم في النقاش يرى أن على المطوّرين تعليق نشاط بعينه إذا لم يستطيعوا احتواء نظامه بما يكفي أو شرح كيفية إدارة مخاطره الجسيمة. الفارق هو بين وقف مرتبط بخطر محدد وعجز عن ضبطه، ووقف شامل لكل التطبيقات. 32

قبل أن يتصرف الوكيل: من يملك القرار؟

تصبح الضوابط أكثر إلحاحاً مع «وكلاء» الذكاء الاصطناعي القادرين على استخدام أدوات وتنفيذ خطوات عبر أنظمة العمل. ففي يناير 2026، أطلقت هيئة تطوير الإعلام والاتصالات في سنغافورة إطاراً نموذجياً لحوكمة هذا النوع من الذكاء الاصطناعي. ويوجّه المؤسسات إلى تقييم المخاطر مسبقاً وتحديد استقلالية الوكلاء ووصولهم إلى الأدوات والبيانات؛ وتنص نسخة محدّثة منه على منحهم الحد الأدنى اللازم من الصلاحيات. الإطار إرشادي، وليس حظراً قانونياً عاماً على نشر الوكلاء. 504852

عملياً، يعني ذلك تعيين شخص مسؤول عن كل وكيل، وتضييق صلاحياته، وإمكان تتبّع أفعاله والتراجع عنها حيثما أمكن، مع مراقبة تشغيله باستمرار. تلك إجراءات أوضح من عبارة عامة مثل «الوكيل آمن». 34 وقد شبّهت الوزيرة جوزفين تيو دور الضمانات والمعايير في بناء الثقة بالذكاء الاصطناعي بممارسات السلامة في الطيران المدني. 17

الخلاصة ليست حسم الجدل بشأن المخاطر البعيدة، بل تحديد المسؤولية الآن: اختبار ما يمكن اختباره، وإتاحة التدقيق المستقل، وعدم منح الأنظمة صلاحيات لا يمكن ضبطها بأمان. 3248