إبطاء الذكاء الاصطناعي يبدأ من الأنظمة الأقدر… وسنغافورة تملك أدوات البناء

ينبغي أن يركز أي إبطاء مجدٍ على وتيرة تطوير الأنظمة الأقدر، لا على وقف الذكاء الاصطناعي في الاقتصاد كله. فقد أعادت دعوات علنية حديثة من قادة شركات الذكاء الاصطناعي طرح التقييم المستقل والتنسيق على جدول الأعمال. لكن تحويل هذه المقترحات إلى ضمانات موثوقة يتطلب أكثر من تعهدات طوعية: أن تكون الاختبارات مستقلة، وأن تترتب نتائج على قرارات الإطلاق، وأن تتناسب القواعد مع مستوى المخاطر.

تملك سنغافورة أدوات يمكن البناء عليها، منها إطار لحوكمة الذكاء الاصطناعي الوكيلي، وأدوات اختبار AI Verify، وبرنامج للاعتراف بجهات الاختبار الخارجية. والتحدي المقبل هو وصل هذه الأدوات بقرارات واضحة تستند إلى الأدلة بشأن الأنظمة التي تُستخدم فعلياً. 4

ما الذي تثبته الدعوات إلى إبطاء الذكاء الاصطناعي، وما الذي لا تثبته؟

تركز المقترحات الأخيرة على وتيرة تطوير الذكاء الاصطناعي المتقدم: أي الأنظمة الأقدر، التي قد يصعب معها على إجراءات السلامة والرقابة الخارجية مواكبة زيادة القدرات. وتشمل المقترحات التي تناولتها التغطيات إتاحة وصول مستمر لمقيّمين خارجيين إلى الشركات المطوّرة لهذه الأنظمة، وتنسيق معايير السلامة، والعمل على تعاون دولي أوسع.

تعكس هذه المقترحات اهتماماً متزايداً، لكنها لا تعني وجود سياسة محسومة أو اتفاق ملزم بين شركات الذكاء الاصطناعي. ويصف التقرير الدولي لسلامة الذكاء الاصطناعي جهود إدارة المخاطر بأنها ما تزال في طور التطور، مشيراً إلى أن معظم مبادرات الشركات طوعية. وهذا فارق مهم: فتعهد شركة باختبار نموذج لا يشكل، بحد ذاته، قاعدة قابلة للإنفاذ تلزمها بتأجيل إطلاقه إذا ظلت مخاطر جسيمة قائمة.

اجعلوا الإطلاق مشروطاً بمستوى المخاطر

يمكن اعتماد نهج عملي يفرض شروطاً أشد على الأنظمة الأعلى قدرة أو صلاحية، من دون فرض حظر شامل على استخدامات الذكاء الاصطناعي المعتادة. فمن غير المنطقي إخضاع أداة بسيطة لصياغة النصوص، ووكيل مخوّل بتنفيذ إجراءات ذات عواقب مهمة، للمتطلبات نفسها تلقائياً. ويوصي إطار سنغافورة للذكاء الاصطناعي الوكيلي بتقييم المخاطر والحد منها، وتحديد نقاط تتطلب موافقة بشرية قبل تنفيذ الإجراءات المهمة أو الحساسة. 46

وبالنسبة إلى النماذج المتقدمة والتطبيقات عالية التأثير، يمكن لصانعي السياسات البناء على هذا المبدأ من خلال مسار لإقرار الإطلاق يشمل:

• تقييماً مستقلاً قبل الإطلاق: إتاحة وصول آمن للمقيّمين الخارجيين المؤهلين إلى الأنظمة والأدلة ذات الصلة، وفحص القدرات الخطرة وإساءة الاستخدام المتوقعة. وقد طُرح الوصول المستمر للمقيّمين ضمن الدعوات الأخيرة لضبط وتيرة تطوير الأنظمة المتقدمة؛ لكنه ليس متطلباً معمولاً به على نحو شامل.
• عتبات محددة وإجراءات تترتب عليها: توضيح النتائج التي تستدعي ضمانات إضافية أو تقييد الوصول أو تأجيل الإطلاق. وينبغي أن يقود الإخفاق في الاختبار إلى استجابة موثقة، وإلى حجب الإطلاق عندما تقتضي المخاطر ذلك، لا إلى مراجعة داخلية أخرى فحسب. هذه تدابير حوكمة مقترحة، وليست متطلبات واردة في إطار سنغافورة الحالي. 4
• ضوابط تتناسب مع طريقة الاستخدام: عند منح الوكلاء صلاحيات لتنفيذ إجراءات مهمة، يمكن النظر في تقييد الصلاحيات، واشتراط موافقة بشرية عند نقاط القرار المهمة، وتوفير المراقبة والمساءلة الواضحة. ويدعم إطار سنغافورة الحد من المخاطر والإشراف البشري الفاعل، على أن تتحدد الضوابط الدقيقة بحسب النظام واستخدامه. 48
• إعادة التقييم عند حدوث تغييرات جوهرية: فحص التغييرات المهمة في النموذج أو أدواته أو سياق نشره، بدلاً من اعتبار الاختبار السابق ضماناً دائماً. وهذا اقتراح للحفاظ على ملاءمة التقييم مع تطور النظام المستخدم.

أما التطبيقات الأقل خطراً، فينبغي أن يتاح لها مسار أوضح وأخف نحو الاستخدام. وتسمح القواعد القائمة على المخاطر باستيعاب التطبيقات التجارية من دون اعتبار اجتياز اختبار واحد دليلاً على أن النظام آمن في كل سياق. ويُعد قانون الذكاء الاصطناعي للاتحاد الأوروبي مثالاً على تنظيم يرتب القواعد بحسب مخاطر استخدامات الذكاء الاصطناعي.

قواعد عامة واختبارات مستقلة

يمكن للتنسيق الدولي أن يجعل التقييمات أكثر قابلية للمقارنة، ويحد من دوافع البحث عن جهات رقابية أقل تشدداً. وتستطيع الحكومات العمل على توحيد أساليب الاختبار وتبادل معلومات الحوادث والاتفاق على حد أدنى من المتطلبات للأنظمة الأعلى خطراً، ثم يقدم المقيّمون المستقلون أدلة وفق تلك المتطلبات. كما تدعو المقترحات الأخيرة لإبطاء التطوير إلى التنسيق بين الشركات وعبر الحدود.

ومن المهم توزيع المسؤوليات بوضوح: على السلطات العامة وضع عتبات قابلة للإنفاذ وتحديد تبعات تجاوزها. ويمكن للشركات أن تقدم خبرتها التقنية، لكن لا ينبغي أن تكون الجهة الوحيدة التي تحكم على استيفاء أنظمتها للمعايير. كما ينبغي أن تكون منهجيات الاختبار المستقل شفافة، وأن تُكشف تضارب المصالح. هذه مبادئ لتصميم منظومة رقابة مقترحة، وليست سمات أثبتتها الدعوات الصناعية التي تناولتها التقارير.

ما الذي تستطيع سنغافورة البناء عليه؟

يوفر إطار سنغافورة النموذجي لحوكمة الذكاء الاصطناعي الوكيلي إرشادات للجهات التي تنشر الوكلاء، بما في ذلك تقييم المخاطر، والمساءلة البشرية، والضوابط. وهو إرشاد للنشر المسؤول، وليس بحد ذاته شرطاً ملزماً للسماح بإطلاق الأنظمة. 468

وتوفر AI Verify أدوات للاختبار، فيما يعترف برنامج اعتماد مختبري الذكاء الاصطناعي بجهات اختبار خارجية تمتلك القدرات التقنية والاستعداد التشغيلي المناسبين. ويمكن لهذه المبادرات، مجتمعة، أن تدعم تقييماً أكثر اتساقاً في قطاعات الأعمال والتمويل. كما يمكن لسنغافورة تشجيع اعتماد ملفات موحدة للتقييم وعقود توضح ما يُتوقع من مزودي النماذج ومتكاملي الأنظمة والجهات الناشرة والمختبرين إثباته. وهذه خطوات محتملة وليست سياسات مقررة في الأطر المشار إليها.

ومن الأهداف المفيدة السعي إلى اعتراف عابر للحدود بأدلة الاختبار ومنهجياته، لا الادعاء بأن شهادة وطنية واحدة تضمن سلامة كل نظام أو استخدام. فالأطر وأدوات الاختبار تساعد على تنظيم الأدلة، لكن السلطات والمؤسسات تظل مطالبة بتحديد ما إذا كانت تلك الأدلة تعكس ظروف الاستخدام الفعلية ومخاطره.

تقييم سلامة الذكاء الاصطناعي والبرمجيات والأمن السيبراني معاً

لا يكفي اختبار مخرجات النموذج لتقييم وكيل ذكاء اصطناعي. ينبغي أن يشمل التقييم أيضاً النظام البرمجي المحيط به وأمن الأدوات والصلاحيات التي يمكنه الوصول إليها. وهذه أسئلة مترابطة لكنها مختلفة: ما السلوك الضار الذي قد ينتجه الذكاء الاصطناعي؟ وكيف يتصرف التطبيق المتكامل عند حدوث عطل أو تغيير؟ وهل يستطيع مهاجم اختراق النظام أو توجيهه على نحو مختلف؟

إن الجمع بين هذه الجوانب توسعة موصى بها للتقييم، وليس ادعاءً بأن كل أداة قائمة تغطي المجالات الثلاثة بالفعل. وتوضح مجموعة أدوات AI Verify وجود اختبارات تقنية لأنظمة التعلم الآلي التقليدية، تشمل الإنصاف وقابلية التفسير والمتانة. لذلك من المهم تحديد الاختبارات الإضافية اللازمة للأنظمة الوكيلة من البداية إلى النهاية، بدلاً من افتراض أن نتيجة اختبار النموذج وحده تصادق على النظام الكامل.

كيف نعرف أن الإبطاء مجدٍ؟

يكون الإبطاء مجدياً عندما تستطيع الأدلة المستقلة تغيير ما يحدث لاحقاً: فيمكن تأجيل إطلاق نظام عالي المخاطر أو تقييده أو تصحيحه إذا لم تكن ضماناته كافية، مع إبقاء مسار متناسب لنشر الاستخدامات العادية الأقل خطراً. وتوفر أطر سنغافورة وبرامج الاختبار أساساً لبناء هذا النوع من التقييم، لكن لا بد من توضيح عتبات الإطلاق وآليات الإنفاذ ونطاق الاختبارات.