شرح برنامج اعتماد مختبري الذكاء الاصطناعي في سنغافورة (AI TAP)

أعلنت وزيرة التنمية الرقمية والمعلومات في سنغافورة جوزفين تيو (Josephine Teo) عن البرنامج خلال فعالية دولية حول سلامة الذكاء الاصطناعي في مايو 2026.

تفاصيل الإطلاق المتوقعة تشمل:

• الجهة المشغلة: AI Verify Foundation
• موعد بدء البرنامج: النصف الثاني من عام 2026
• فتح باب التقديم للاعتماد: متوقع في الربع الثالث من 2026

لماذا أنشأت سنغافورة هذا البرنامج؟

الهدف الرئيسي من AI TAP هو تعزيز الثقة في خدمات اختبار سلامة الذكاء الاصطناعي.

في الوقت الحالي تعتمد كثير من المؤسسات على شركات متخصصة لاختبار نماذج الذكاء الاصطناعي عبر أساليب مثل “الهجوم الاختباري” أو محاولة تجاوز القيود الأمنية. لكن جودة هذه الشركات وخبرتها قد تختلف بشكل كبير.

لذلك يسعى البرنامج إلى إنشاء معيار اعتماد رسمي يحدد ما إذا كانت شركة الاختبار تمتلك الكفاءة والخبرة اللازمة فعلاً.

كما أن البرنامج جزء من استراتيجية أوسع لسنغافورة تهدف إلى بناء منظومة ذكاء اصطناعي موثوقة تجمع بين الابتكار التقني والضوابط التنظيمية.

ومن المبادرات المرتبطة بهذه المنظومة:

• إطار اختبار AI Verify الذي يساعد الشركات على تقييم مدى التزام أنظمة الذكاء الاصطناعي بمبادئ الحوكمة المعترف بها دولياً.
• برنامج Global AI Assurance Pilot وصندوق الاختبار (Sandbox) الذي يربط الشركات المطورة للذكاء الاصطناعي بخبراء الاختبار لتطوير أساليب تقييم عملية.

كيف سيعتمد البرنامج شركات اختبار الذكاء الاصطناعي؟

الشركات التي تتقدم للحصول على اعتماد AI TAP ستخضع لتقييم في محورين رئيسيين.

أولاً: التقييم التقني

يجب على شركات الاختبار إثبات أن منهجياتها تتوافق مع الإرشادات المعترف بها لاختبار أنظمة الذكاء الاصطناعي، مثل:

• سلامة تطبيقات نماذج اللغة الكبيرة (LLMs)
• اختبارات الموثوقية والصلابة
• اكتشاف الثغرات ومحاولات الاستغلال

كما يجب أن توضح الشركات أنها تستخدم منهجيات منظمة وبيانات اختبار مناسبة لتقييم الأنظمة الذكية.

ثانياً: تقييم الشركة نفسها

لا يقتصر التقييم على الجانب التقني فقط، بل يشمل أيضاً تقييم المؤسسة المتقدمة للاعتماد، مثل:

• السمعة والسجل المهني
• القدرات التشغيلية وخبرة الموظفين
• الاستقرار المالي
• مدى تطابق الخدمات المعلنة مع القدرات الفعلية

يهدف هذا التقييم المزدوج إلى ضمان أن الشركات المعتمدة قادرة تقنياً ويمكن الوثوق بها تنظيمياً وتشغيلياً.

أنواع المخاطر التي يجري اختبارها

لم يُعلن البرنامج حتى الآن عن قائمة موحدة بكل الاختبارات، لكن مبادرات اختبار الذكاء الاصطناعي في سنغافورة تشير إلى عدة مجالات رئيسية للمخاطر، مثل:

• الثغرات الأمنية ومحاولات تجاوز الضوابط
• فشل سلامة المحتوى مثل توليد محتوى ضار أو غير مناسب
• تسرب البيانات خصوصاً في أنظمة RAG المرتبطة بقواعد معرفة داخلية
• فجوات السلامة بين اللغات حيث قد تعمل الضوابط جيداً في لغة وتفشل في أخرى
• مشاكل الدقة أو الهلوسة في إجابات النماذج

وقد أظهرت تجارب الاختبار أن بعض أنظمة الحماية قد تنجح في اللغة الإنجليزية لكنها تفشل في لغات أخرى مثل الصينية، ما يكشف تحديات إضافية في الأنظمة متعددة اللغات.

أساليب اختبار الذكاء الاصطناعي المستخدمة

عادة تجمع شركات اختبار الذكاء الاصطناعي بين التحليل الآلي والمراجعة البشرية. وتشمل الأساليب الشائعة:

• الهجمات الاختبارية (Red Teaming) لمحاولة كسر القيود أو تنفيذ “جلبريك” للنموذج
• إنشاء بيانات اختبار اصطناعية لمحاكاة حالات نادرة أو صعبة
• اختبارات الدقة والمعايير المرجعية لقياس الأداء
• مراجعة بشرية للنتائج للتأكد من جودة المخرجات
• استخدام نماذج ذكاء اصطناعي كمقيّم (LLM‑as‑Judge) لتوسيع نطاق تقييم الإجابات

تساعد هذه الأساليب في تقييم أداء النظام نفسه وقوة آليات الحماية المدمجة فيه.

كيف قد يؤثر البرنامج على منظومة سلامة الذكاء الاصطناعي عالمياً؟

من خلال اعتماد الشركات التي تقوم بالاختبارات نفسها، يحاول البرنامج معالجة مشكلة متنامية في حوكمة الذكاء الاصطناعي: من يختبر المختبرين؟

إذا نجح البرنامج، فقد يؤدي إلى:

• زيادة الثقة عند الاستعانة بشركات خارجية لتقييم أنظمة الذكاء الاصطناعي
• توضيح المعايير المهنية لاختبارات سلامة الذكاء الاصطناعي
• تسهيل مقارنة نتائج الاختبارات بين القطاعات والدول
• تعزيز التعاون بين مطوري الذكاء الاصطناعي والمدققين المتخصصين

وباعتباره أول برنامج اعتماد من هذا النوع في آسيا، قد يؤثر AI TAP في كيفية تصميم الدول الأخرى لأنظمة ضمان سلامة الذكاء الاصطناعي مستقبلاً.

ما الذي لا يزال غير واضح؟

رغم الإعلان عن أهداف البرنامج وهيكله العام، ما تزال بعض التفاصيل التشغيلية غير معلنة، مثل:

• نموذج التقييم الدقيق لمنح الاعتماد
• البروتوكولات الفنية المحددة للاختبار
• ما إذا كانت هناك معايير مختلفة لقطاعات حساسة مثل الصحة أو التمويل

ومن المتوقع أن تتضح هذه الجوانب عندما يبدأ البرنامج رسمياً ويُفتح باب التقديم للشركات.

الصورة الأكبر

مع انتشار الذكاء الاصطناعي في مختلف الصناعات، أصبح اختبار سلامة هذه الأنظمة خطوة أساسية قبل نشرها. وتبحث الحكومات والشركات عن طرق موثوقة للتحقق من أن النماذج الذكية آمنة وموثوقة ومتوافقة مع مبادئ الحوكمة.

يركز نهج سنغافورة على اعتماد الشركات التي تقوم بالاختبار نفسها، مما يخلق طبقة مستقلة من الخبراء يمكن للمؤسسات الاعتماد عليها عند تقييم تقنيات الذكاء الاصطناعي.

وإذا أثبت البرنامج نجاحه، فقد يصبح نموذجاً عالمياً لكيفية تنظيم اختبارات سلامة الذكاء الاصطناعي في المستقبل.