كيف توظّف سنغافورة الذكاء الاصطناعي في الحكومة من دون إطلاق العنان للوكلاء الرقميين؟

وتكتسب هذه الآلية أهميتها لأن وكيل الذكاء الاصطناعي لا يقتصر بالضرورة على كتابة النصوص. فبحسب الصلاحيات والأنظمة المرتبط بها، قد يتخذ قرارات، أو يستدعي أدوات أخرى، أو ينفذ مهام بسرعة آلية. لذلك يُفهم السجل بوصفه قائمة جرد وآلية للمساءلة عن «موظفين رقميين»، وليس مجرد كتالوج للبرمجيات.

وتصف GovTech المنصة الأوسع بأنها بيئة آمنة للمساعدات الرقمية التي يستخدمها الموظفون في إعداد التقارير، وإدارة المواعيد، والبرمجة، والبحث، وغيرها من الأعمال المتكررة.

حواجز تقنية تحدد ما يستطيع الوكيل فعله

يعتمد النموذج المقترح على فرض الأمان من خلال النظام المحيط بالذكاء الاصطناعي، بدلاً من الاتكال فقط على وسائل الحماية المدمجة في نموذج بعينه. وتشمل الضوابط المعلنة أو الجاري تحديدها ما يلي:

• قواعد قابلة للتخصيص بحسب الجهة الحكومية أو حالة الاستخدام؛
• أدوات ذكاء اصطناعي معتمدة ومصرّح بها؛
• منع إجراءات محددة، مثل حذف الملفات أو إرسال رسائل بريد إلكتروني إلى جهات خارجية؛
• تقييد عدد المستلمين للحد من التوزيع غير المنضبط أو الرسائل المزعجة؛ و
• فحوص آلية للمدخلات والمخرجات لرصد اللغة المسيئة ومشكلات السلامة الأخرى.

يعكس ذلك مبدأ الحد الأدنى من الصلاحيات: لا يحصل الوكيل إلا على الوصول والقدرة على تنفيذ الإجراءات اللازمة للمهمة الموكلة إليه. وتزداد أهمية هذا المبدأ عندما تستخدم الجهات الحكومية نماذج متعددة أو تربط الوكلاء بأنظمة تحتوي على بيانات حساسة.

طبقة حماية مستقلة عن تغيّر النماذج

توفّر منصة AI Guardian من GovTech طبقة منفصلة لحوكمة تطبيقات الذكاء الاصطناعي. وتؤدي مكوّناها الرئيسيان وظيفتين مختلفتين في دورة حياة التطبيق: إذ يقيّم Litmus مخاطر السلامة والأمن قبل الإطلاق من خلال اختبارات هجومية، بينما يوفّر Sentinel مراقبة فورية للمحتوى وفلترة للمخرجات بعد تشغيل التطبيق.

وقد يقلل فصل هذه الوظائف عن النموذج الأساسي من اعتماد الحكومة على مزوّد واحد. كما أوضحت GovTech أن بنية الأمان في AI Assistant Desk صُممت بحيث تظل وسائل الحماية قائمة حتى عند إضافة أدوات ذكاء اصطناعي تابعة لجهات خارجية أو استبدالها.

وتكمن الفكرة الأساسية هنا في أن النموذج قد يتغير، لكن متطلبات الحكومة بشأن حماية البيانات، والإجراءات المسموح بها، والمراقبة، وسلامة المخرجات ينبغي أن تبقى مستقرة. ويحدد إطار الذكاء الاصطناعي المسؤول لدى GovTech السلامة، والمتانة، والأمن والخصوصية، وقابلية التفسير، والشفافية بوصفها متطلبات أساسية.

نشر الأدوات يترافق مع بناء المهارات

لا يقتصر برنامج سنغافورة على الوكلاء المستقلين. فمساعد GovTech المعروف باسم Pair يدعم الكتابة والبحث والتلخيص والتحليل على الأجهزة الحكومية، كما أُجيز استخدامه مع بيانات حكومية حساسة لا تستطيع روبوتات المحادثة التجارية التعامل معها بالطريقة نفسها.

وتطوّر GovTech أيضاً أدوات للمساعدة في هندسة البرمجيات، إلى جانب أساليب منخفضة البرمجة، حتى تتمكن الفرق التقنية والموظفون من بناء النماذج الأولية وأتمتة إجراءات العمل بوتيرة أسرع. وتحدثت تقارير سابقة عن خطط لمساعدات برمجية تعتمد على الذكاء الاصطناعي، وهندسة مدعومة بالذكاء الاصطناعي، وأدوات تساعد الجهات الحكومية على نقل النماذج الأولية إلى بيئات أكثر أماناً.

ويشكّل التدريب جزءاً من البنية التحتية أيضاً. فـGovTech توفر موارد للتعلم في مجالي البيانات والذكاء الاصطناعي للموظفين الحكوميين، فيما تتضمن خطط القوى العاملة الأوسع في سنغافورة برامج لتطوير مهارات متخصصي التقنية في البرمجة المؤتمتة وبناء الأنظمة الوكيلة.

والغاية العملية هي بناء قدرة داخلية مستدامة: أن يعرف الموظف متى يكون استخدام الذكاء الاصطناعي مناسباً، وأن تتمكن الفرق التقنية من تقييم ما تبنيه وتأمينه، وأن تعمل الجهات الحكومية على منصات مشتركة بدلاً من تجارب منفصلة لا يجمعها إطار واحد.

لماذا تحتاج التطبيقات الحكومية إلى تقييم واقعي؟

يوضح مشروع LangBuddy أهمية اختبار تطبيق الذكاء الاصطناعي وفق الغرض الحقيقي الذي صُمم من أجله. فهو روبوت محادثة صوتي يساعد الطلاب على ممارسة لغتهم الأم عبر الحوار.

وفي مثل هذا التطبيق، لا يكفي أن تكون الردود سلسة لغوياً. إذ تشمل أعمال التقييم لدى GovTech فحص السلامة، واحتمالات الهلوسة، ومدى التزام الردود بالقواعد التعليمية المحددة للمشروع.

وينطبق هذا المبدأ على الخدمات العامة عموماً: ينبغي للجهات الحكومية اختبار ما إذا كان النظام يؤدي المهمة المقصودة، ويلتزم بقيوده، ويتصرف بصورة مقبولة في تفاعلات واقعية؛ لا أن تكتفي بكونه يبدو مقنعاً.

الأمن السيبراني شرط أساسي ومجال لاستخدام الذكاء الاصطناعي

تظهر الفلسفة نفسها في عمل GovTech بمجال الأمن السيبراني. وتشمل قدراتها المعلنة تصميم الأنظمة الآمنة، واختبارات «الفريق الأحمر» الهجومية، واختبارات الاختراق، وبرامج الإبلاغ عن الثغرات من الباحثين، إلى جانب وظائف «الفريق الأزرق» لرصد التهديدات والاستجابة لها.

كما تختبر الوكالة استخدام الذكاء الاصطناعي في اختبارات الاختراق وفرز تنبيهات عمليات الأمن بصورة آلية. وهكذا يوضع الذكاء الاصطناعي على جانبي العملية الأمنية: للمساعدة في اكتشاف نقاط الضعف، ولمساعدة المدافعين على ترتيب الحوادث بحسب الأولوية.

وتشير بعض التقارير إلى أكثر من ألفي نظام رقمي حكومي في سياق توسيع نطاق اختبارات الأمان. لكن المواد المتاحة تثبت الاتجاه العام، أي اختبارات الفريق الأحمر واختبارات الاختراق وعمليات الأمن المدعومة بالذكاء الاصطناعي، ولا تثبت أن الاختبار المستمر بالذكاء الاصطناعي يعمل بالفعل عبر كل هذه الأنظمة.

ثلاث غايات استراتيجية مترابطة

تدعم هذه المبادرات، مجتمعة، ثلاثة أهداف رئيسية:

1. تحسين تقديم الخدمات العامة: يمكن للمساعدات والوكلاء التعامل مع إعداد المسودات والتحليل والبرمجة والإجراءات المتكررة، بما يتيح للموظفين وقتاً أكبر للملفات المعقدة والعمل الذي يتطلب تواصلاً مباشراً مع المواطنين.
2. تعزيز القدرات التقنية داخل الحكومة: تساعد المنصات المشتركة وأدوات التقييم وطبقات الأمان والتدريب سنغافورة على الاحتفاظ بالخبرة التشغيلية، بدلاً من الاعتماد الكامل على مزوّد نموذج أو منتج تجاري واحد.
3. حماية الثقة العامة والأنظمة الوطنية: توفر السجلات، وإدارة الصلاحيات، وقابلية التدقيق، واختبارات السلامة، والدفاع السيبراني رقابة على الذكاء الاصطناعي مع ازدياد وصوله إلى أعمال الحكومة وبياناتها.

الخلاصة أن توسيع استخدام الذكاء الاصطناعي بأمان هو مشكلة في هندسة المنظومة بقدر ما هو مشكلة في النموذج نفسه. وتحاول سنغافورة إتاحة الذكاء الاصطناعي على نطاق واسع، مع إبقاء الملكية والصلاحيات والاختبارات ومراقبة النشاط مرئية للمؤسسات المسؤولة عن تقديم الخدمات العامة.