سلامة الذكاء الاصطناعي على طريقة الطيران: ما الذي تفعله سنغافورة، وما الذي لم يكتمل بعد؟

حين يصعد الناس إلى الطائرة، لا تعتمد ثقتهم بوصولها سالمة على الشركة المصنّعة وحدها؛ بل على معايير وإجراءات سلامة وأشخاص مؤهلين يؤدون أدواراً مختلفة. هذا هو جوهر المقارنة التي طرحتها جوزفين تيو، وزيرة التنمية الرقمية والإعلام في سنغافورة، في 17 سبتمبر/أيلول 2026: إذا أصبح الذكاء الاصطناعي أكثر قدرة وانتشاراً، فسيحتاج إلى ضمانات متكاملة تجعل الاعتماد عليه أمراً يطمئن إليه الناس. وهي تتحدث عن اتجاه ينبغي العمل نحوه، لا عن منظومة مماثلة لسلامة الطيران قائمة بالفعل. 31924

ما المقصود بضمانات «على طريقة الطيران»؟

تشبّه تيو صانعي نماذج الذكاء الاصطناعي بمصنّعي الطائرات، لكنها تؤكد أن مسؤولية السلامة لا تتوقف عند الصانع. وفي تطبيق ذلك على الذكاء الاصطناعي، تبرز الحاجة إلى اختبار الأنظمة، ونشرها بمسؤولية، وتأهيل العاملين عليها، ووضع معايير تعمل معاً. ففائدة النظام وحدها لا تكفي لبناء الثقة به. 1924

وتصبح هذه الأسئلة أكثر إلحاحاً عندما يؤثر النظام في قرارات تمس الناس. فقد أثارت تيو مخاوف تتعلق بفقدان الرقابة البشرية والتحيز، واستشهدت باستخدام الذكاء الاصطناعي في قرارات الموافقة على الائتمان لتوضيح حاجة المتعاملين إلى الاطمئنان إلى عدالة النتائج. كما شملت المخاطر التي عالجها تحديث إطار الاختبار السنغافوري تسرّب البيانات الحساسة، والنتائج المختلقة أو غير الدقيقة، والمخرجات الضارة. وأشارت تغطية تصريحاتها في سبتمبر/أيلول أيضاً إلى الهجمات السيبرانية وإساءة الاستخدام البيولوجي. هذه مخاطر تستدعي الاستعداد، وليست دليلاً على وقوع كل منها في حادثة موثقة مرتبطة بمقترحها. 25262739

وفي نقاش آخر عن السلامة، تناولت تيو الصور الضارة المُنشأة بالذكاء الاصطناعي والتزام الخدمات بإزالة هذا المحتوى بعد إخطارها به. وهو مثال ملموس على نوع الضرر الذي تتناوله، لكن المصادر المتاحة لا تثبت أن حادثة بعينها دفعتها إلى تشبيه الذكاء الاصطناعي بالطيران. 13

ما الذي أنجزته سنغافورة حتى الآن؟

قدّمت سنغافورة AI Verify، وهو إطار وأدوات لتشجيع اختبار أنظمة الذكاء الاصطناعي بشفافية ومسؤولية. وأعلنت تيو برنامجاً لاعتماد جهات اختبار مستقلة من أطراف ثالثة، بهدف مساعدة المؤسسات التي تستخدم هذه الأنظمة على اختيار مَن تكلّفه بتقييمها. 827

وعلى الجانب التقني، درس مشروع تجريبي عالمي لضمان موثوقية الذكاء الاصطناعي طرق اختبار تطبيقات الذكاء الاصطناعي التوليدي. واستفادت هيئة تطوير الإعلام والاتصالات السنغافورية IMDA من دروسه لإعداد مجموعة أولية من أساليب الاختبار. وأصدرت سنغافورة أيضاً إطاراً لحوكمة الذكاء الاصطناعي القادر على التصرف باستقلالية أكبر، يركز على إدارة المخاطر مع الإبقاء على الرقابة البشرية. 299

لماذا لا تزال المقارنة طموحاً لا واقعاً؟

تعبر منتجات الذكاء الاصطناعي الحدود، لذلك تدعو سنغافورة إلى أساليب تقييم تستند إلى الأدلة ويمكن استخدامها عبر أنظمة تنظيمية مختلفة. وترى تيو أن المعايير المعترف بها دولياً مهمة، لكنها تحتاج إلى وقت كي تتبلور. وحتى ذلك الحين، فالأدق وصف ما يجري بأنه بناء للضمانات وتحسين لها بالتوازي مع انتشار التقنية، لا أنه نظام سلامة شامل ومستقر يضاهي ما وصل إليه الطيران المدني. 6730