دليل سنغافوري من 116 صفحة يضع الذكاء الاصطناعي على طاولة مجلس الإدارة

ولهذا يمكن لمجلس الإدارة أن يطرح أسئلة عملية:

• ما المشكلة التجارية التي يحلها النظام؟
• ما النتيجة التي يُفترض أن تتحسن، وبأي مقدار؟
• كيف ستقيس الشركة هذا التحسن؟
• ما الأدلة التي تبرر الانتقال من تجربة محدودة إلى استخدام أوسع؟
• ما تكلفة الرقابة والأمن والدمج، وما كلفة الفشل؟

قد يشير العدد الكبير من التجارب إلى اهتمام المؤسسة، لكنه لا يثبت وحده تحقيق عائد على الاستثمار.

3. تحويل تجارب الموظفين إلى قدرة مؤسسية منضبطة

غالباً ما يكتشف الموظفون استخدامات مفيدة للذكاء الاصطناعي قبل إطلاق برامج رسمية داخل الشركة. ويشجع الدليل مجالس الإدارة والإدارة التنفيذية على الاستفادة من هذه المعرفة، مع إدخال التجارب ضمن بيئة الرقابة المؤسسية.

ويعني ذلك توثيق الأدوات التي أنشأها الموظفون باستخدام الذكاء الاصطناعي، وتحديد من يحق له استخدامها ولأي أغراض، والتحقق من استيفائها متطلبات السلامة والحوكمة المعمول بها.

الهدف ليس القضاء على التجريب، بل منع تحول النماذج الأولية المفيدة إلى أنظمة غير مرئية أو غير مدعومة، تؤثر في العملاء أو الموظفين أو بيانات الشركة من دون ضوابط كافية.

4. اعتبار مخاطر الذكاء الاصطناعي مخاطر مؤسسية

لا تقتصر حوكمة الذكاء الاصطناعي على أداء النموذج. إذ يُطلب من المديرين فحص المخاطر الأخلاقية والسيبرانية ومخاطر البيانات والسلامة والخصوصية والموارد البشرية، إلى جانب تأثير الذكاء الاصطناعي في المرونة المؤسسية وخلق القيمة على المدى الطويل.

لذلك ينبغي أن يعرف مجلس الإدارة أين تُستخدم هذه الأنظمة، وما البيانات والأطراف الثالثة المشاركة فيها، ومن المسؤول عن كل نظام، وكيف تُبلّغ الحوادث، ومتى يجب تعليق الاستخدام أو إعادة مراجعته.

ويجب أن تتناسب الضوابط مع حجم الضرر المحتمل. فأداة داخلية منخفضة التأثير لتحسين الإنتاجية لا تحتاج إلى المستوى نفسه من الرقابة المطلوب لنظام يؤثر في التوظيف أو وصول العملاء إلى الخدمات أو السلامة.

5. وضع قواعد للرقابة البشرية و«الخطوط الحمراء»

يدعو الدليل إلى تحديد حدود واضحة لاتخاذ القرار. وعلى مجالس الإدارة تحديد الحالات التي تصبح فيها المراجعة البشرية إلزامية، ووضع «خطوط حمراء» لا يُسمح عندها باتخاذ قرارات آلية، ولا سيما عندما تمس القرارات العملاء أو الموظفين أو السلامة أو الخصوصية.

لكن الرقابة البشرية لا تكون حقيقية لمجرد وجود خانة موافقة. يجب أن يمتلك المراجع معلومات كافية، وصلاحية فعلية، ووقتاً مناسباً للطعن في التوصية المدعومة بالذكاء الاصطناعي أو إلغائها. وإلا تحولت المراجعة إلى إجراء شكلي يمرر النتيجة الآلية من دون تدقيق.

6. إضافة ضمانات لقرارات العمل المدعومة بالذكاء الاصطناعي

يمكن لاستخدام الذكاء الاصطناعي في التوظيف أو الترقية أو تقييم الأداء أن يؤثر مباشرة في فرص الناس وسبل عيشهم. ويوصي الدليل بالمراجعة البشرية، واختبارات التحيز، وفحوص جودة البيانات عند استخدامه في هذه المجالات، إلى جانب مسار واضح يتيح للأشخاص المتضررين الاعتراض على القرار أو طلب مراجعته.

وبالنسبة إلى مجالس الإدارة، يحول ذلك مبدأ الإنصاف من شعار عام إلى سؤال رقابي محدد: ما الأدلة على أن النظام يعمل كما ينبغي؟ وما الفئات التي قد تتعرض للضرر؟ وكيف يستطيع الشخص المتأثر الاعتراض على النتيجة؟

7. إبقاء المرونة السيبرانية والمساءلة ضمن اختصاص المجلس

يضع الدليل الذكاء الاصطناعي ضمن المسؤولية الأوسع المتمثلة في الحفاظ على المرونة التنظيمية والرقمية. وتعكس توصياته توقعات متزايدة بأن تشرف مجالس الإدارة بنشاط على المخاطر المرتبطة بالذكاء الاصطناعي، بما فيها التهديدات السيبرانية، بدلاً من افتراض أن الفرق التقنية وحدها قادرة على إدارتها.

وينبغي للمديرين أن يسألوا الإدارة كيف يغير الذكاء الاصطناعي مساحة الهجوم الإلكتروني للشركة، وكيف تُحمى البيانات الحساسة، وكيف يجري تقييم الموردين، وكيف ستستجيب المؤسسة إذا تعرض نظام للذكاء الاصطناعي للاختراق أو أنتج مخرجات ضارة.

قد تختلف الضوابط التفصيلية من شركة إلى أخرى، لكن مسؤولية طرح هذه الأسئلة تظل على عاتق مجلس الإدارة.

من أين تبدأ مجالس الإدارة؟

يمكن أن تبدأ المراجعة الأولى بخمسة أسئلة مباشرة:

1. أين يُستخدم الذكاء الاصطناعي بالفعل، بما في ذلك الأدوات التي أنشأها الموظفون؟
2. ما الأنظمة ذات الأهمية الاستراتيجية أو التأثير المرتفع؟
3. ما مؤشرات القيمة والمخاطر التي ترفعها الإدارة إلى المجلس؟
4. أين تكون المراجعة البشرية إلزامية، وأين تُحظر القرارات الآلية؟
5. هل يستطيع المتضررون الاعتراض على القرارات، وهل يمكن للمؤسسة إيقاف النظام بأمان؟

والخلاصة الأوسع للدليل هي أن حوكمة الذكاء الاصطناعي المسؤول ليست وثيقة تُعتمد مرة واحدة. تحتاج مجالس الإدارة إلى معرفة كافية للإشراف على الاستراتيجية، وأدلة كافية للحكم على القيمة، وصلاحية كافية لفرض القيود عندما تتجاوز المخاطر الفوائد.