سلامة الذكاء الاصطناعي عالمياً: الاختبار المستقل قبل منح الثقة

لن تكفي شهادة تحمل عبارة «آمن» لبناء الثقة في الذكاء الاصطناعي. السؤال الأهم هو: من اختبر النظام، وبأي صلاحيات، وماذا يحدث إذا كشف الاختبار خللاً؟ أي إطار عالمي جاد يحتاج إلى معايير مشتركة، وجهات تقييم مستقلة، ورقابة وطنية قادرة على فرض الإجراءات التصحيحية.

استحضرت وزيرة التنمية الرقمية والإعلام في سنغافورة جوزفين تيو تجربة الطيران، مشيرةً إلى أن الثقة باستخدامه اليوم تستند إلى طبقات من تدابير السلامة. ودعت إلى بناء ضمانات للذكاء الاصطناعي بالتوازي مع اتساع استخدامه. 36

درس الطيران: التعاون يتدرّج ولا يلغي دور الدول

لم تولد قواعد الطيران الدولية مكتملة. سبقتها قوانين وطنية واتفاقات ثنائية، ثم جاءت اتفاقية باريس عام 1919، واتفاقية شيكاغو عام 1944، قبل أن تبدأ منظمة الطيران المدني الدولي «إيكاو» عملها بصيغتها الدائمة عام 1947. 313935 الدرس ليس نسخ قواعد الطيران حرفياً، بل البدء بما تستطيع الدول تطبيقه والتحقق منه، ثم توسيع التعاون مع تراكم الخبرة.

في الذكاء الاصطناعي، يمكن أن تتولى جهة دولية مقترحة وضع حد أدنى من المعايير، واعتماد جهات التقييم، ومقارنة بيانات الحوادث. أما السلطات الوطنية فتحتفظ بحق التفتيش، وطلب التعديلات، وتقييد نشر الأنظمة، وفرض العقوبات. فالمعيار الدولي لا يفيد كثيراً إذا لم توجد جهة تستطيع إنفاذه داخل كل دولة.

ولا ينبغي أن ينتهي فحص السلامة عند إطلاق النظام. يمكن أن يشمل الاختبارَ قبل النشر، ومراقبةَ الأداء بعده، وإعادةَ التقييم عند إجراء تغييرات جوهرية، وخططَ التراجع عن التحديثات أو سحب النظام. وأي موافقة يجب أن تحدد نسخة النظام وسياق استخدامه، لا أن تتحول إلى تصريح دائم لكل استخدام لاحق.

ما معنى أن يكون الفحص «مستقلاً»؟

نشر نتيجة اختبار أو منح شارة امتثال لا يكفيان وحدهما. تحتاج جهة تقييم معتمدة إلى وصول آمن إلى النموذج، وإعدادات تشغيله، والوثائق ذات الصلة، وسجلات الإخفاقات المهمة. ويجب توثيق طرق الفحص ونتائجه بما يسمح لجهة مؤهلة أخرى بمراجعتها والطعن فيها، مع حماية البيانات الشخصية والأسرار التجارية والمعلومات الحساسة أمنياً.

وبالنسبة إلى الأنظمة عالية المخاطر، يمكن إلزام المطوّر بتقديم ملف إثبات للسلامة يوضح حدود ما يستطيع النظام فعله، وكيف اختُبر، وما الضمانات التي ثبتت فعاليتها، وما المخاطر المتبقية، وكيف سيُتعامل مع الحوادث. إذا كانت الأدلة غير كافية، ينبغي أن تتمكن الجهة الرقابية من طلب معالجة الخلل أو تقييد النشر. المقصود امتثال قابل للتحقق، لا وعد باستحالة وقوع الضرر.

حتى طريقة تمويل الفحص تؤثر في استقلاله. فبدلاً من أن تختار الشركات الكبرى الجهة التي تقيمها وتدفع لها مباشرة، يمكن أن تسهم في صندوق اختبارات مشترك أو تديره جهة تنظيمية. ويمكن للتحقيق المستقل في الإخفاقات الجسيمة والحوادث التي كادت تقع أن يركز على منع تكرارها؛ على أن تشجع حمايةُ المبلّغين الإفصاحَ من دون أن تمنح حصانة لإخفاء الوقائع أو سوء السلوك.

سنغافورة: فرصة للمساهمة، لا ثقة مفترضة

تشير التقارير إلى أن أداة «AI Verify» ومعهد سلامة الذكاء الاصطناعي في سنغافورة يشكلان أساساً لعملها في الاختبار وضمان السلامة، بالتوازي مع دعوة تيو إلى تطوير الضمانات أثناء تبني التقنية. 13 ويمكن لسنغافورة، ضمن شبكة أوسع من المختبرات المعتمدة، استضافة تقييمات مشتركة أو تبادلات تقنية سرية.

لكن استضافة مركز فحص لا تعني تلقائياً أن الولايات المتحدة والصين ستثقان بنتائجه. ذلك يتطلب حوكمة شفافة، وقواعد واضحة للوصول إلى الأنظمة والبيانات، وآلية اعتراض مستقلة، ومشاركة فعلية من الطرفين. كما أن توزيع قدرات الاختبار بين عدة مراكز يقلل الاعتماد على مركز واحد.

ابدأوا بالمخاطر المشتركة، لا بالاتفاق على إبطاء التطوير

الانقسام السياسي والصناعي قائم: فقد ذكرت رويترز أن داريو أمودي وسام ألتمان وإيلون ماسك دعوا إلى إبطاء منسق لتطوير الذكاء الاصطناعي، فيما فضّل مارك زوكربيرغ ضمانات تقودها السوق، ورفض جنسن هوانغ الحاجة إلى تنظيمات جديدة. 4748 ورفضت الصين دعوات الإبطاء، بينما قال الرئيس الأميركي دونالد ترامب إنه لا يتوقع تقدماً بشأن ضوابط الذكاء الاصطناعي خلال قمته مع الرئيس الصيني شي جين بينغ في 24 سبتمبر؛ ووصفت تغطية القمة توقعات تحقيق اختراق كبير بأنها منخفضة. 585049

مع ذلك، لا يلزم حسم الخلاف حول سرعة التطوير قبل التعامل مع أخطار لا يرغب أي طرف في وقوعها. فقد تناولت تقارير مقترحات من خبراء أمنيين أميركيين وصينيين لوضع خطوط حمراء تتعلق بالأنظمة النووية، والإبقاء على السيطرة البشرية على الهجمات السيبرانية ذات العواقب الجسيمة، وإنشاء خط اتصال للحوادث المرتبطة بالذكاء الاصطناعي المستقل. 20 ويمكن البناء على ذلك بآليات اتصال طارئ، وإخطار بالحوادث الخطيرة، ونقاشات تقنية متبادلة. ومشاركة واشنطن وبكين مهمة، لكنها لا تغني عن تمثيل الدول الأخرى في وضع المعايير وإتاحة قدرات التقييم لها.

التزامات أشد حيث تكون المخاطر أكبر

تقدم اتفاقات الحد من التسلح فكرة مفيدة: التزامات متبادلة ومحددة بما يكفي للتحقق منها. وتقدم الرقابة المالية فكرة ثانية: تكثيف الإشراف حيث قد يكون أثر الإخفاق واسعاً. وهما مصدران لمبادئ تصميم، لا نموذجان جاهزان لنسخهما في قطاع مختلف.

يمكن، وفق هذا المنطق، أن تخضع الجهات المطوّرة والمشغّلة للأنظمة عالية المخاطر لتقييمات مستقلة، ومساءلة إدارية، وخطط للتعافي، وإبلاغ سريع عن إخفاقات السلامة الجسيمة وتسربات البيانات المهمة والاختراقات أو سرقة النماذج. وفي المقابل، يمكن للشركات الأصغر التي تقدم خدمات منخفضة المخاطر الاستفادة من بنية اختبار مشتركة ووثائق أبسط. صِغر الشركة ليس إعفاءً إذا كان نظامها خطيراً.

أما معاهدة دولية وهيئة دائمة بحلول عام 2030، فهما هدف سياسي طموح لا توقع مضمون. والمقياس الأقرب للنجاح الآن هو اتفاق الدول على تعريف الحوادث، وضمان استقلال المقيّمين، وتبادل ضمانات محددة، ثم إثبات قدرة الجهات الرقابية على التصرف عندما لا تكفي الأدلة.