ماذا ينبغي لمجالس إدارات الشركات أن تفعل الآن لمراقبة الذكاء الاصطناعي؟

وهذا يتطلب التمييز بين مؤشرات الأداء الحقيقية ومؤشرات النشاط. فعدد المشاريع التجريبية، أو تراخيص البرامج المشتراة، أو الموظفين الذين تلقوا تدريبًا، قد يثبت وجود جهد، لكنه لا يثبت أن برنامج الذكاء الاصطناعي يحقق قيمة.

لذلك ينبغي أن تطلب مجالس الإدارات من الإدارة تقارير تشمل النتائج المحققة، والتكاليف، والقيود، والمخاطر، إلى جانب معدلات الاستخدام والتبني.

ويساعد هذا النهج على تجنب فشلين شائعين: تمويل تجارب متفرقة لا تملك طريقًا واضحًا للتوسع، أو تعطيل تطبيقات مفيدة لأن أحدًا لم يحدد معنى النجاح. ويركز الدليل على الاستراتيجية، واختيار حالات الاستخدام، وقياس العائد، لربط الإنفاق على الذكاء الاصطناعي بالأولويات الأوسع للمؤسسة.

لا تتجاهل تجارب الموظفين… بل أدخلها ضمن الحوكمة

قد يستخدم الموظفون بالفعل أدوات الذكاء الاصطناعي بصورة غير رسمية، أو يطورون أساليب عمل خاصة بهم. ولا يرى الدليل أن الحل هو تجاهل هذه الممارسات، بل تحويل التجارب المفيدة إلى قدرة مؤسسية منظمة.

وعلى مجالس الإدارات أن تتوقع من الإدارة معرفة الأدوات وحالات الاستخدام الموجودة، والجهة المسؤولة عنها، والبيانات التي تتعامل معها، والضوابط المطبقة عليها. ومن الاعتبارات التي يذكرها الدليل توثيق الأدوات التي أنشأها الموظفون بالذكاء الاصطناعي، ووضع حوكمة لاستخدامها، والتأكد من استيفاء متطلبات السلامة.

عمليًا، يتطلب ذلك قواعد مؤسسية تحدد الأدوات المعتمدة، والمعلومات الحساسة، والمسؤوليات، وآليات المراقبة، وسبل التصعيد عند وقوع مشكلة. كما يتطلب الاعتراف بالمهارات الموجودة لدى الموظفين وتطويرها، بدل التعامل مع التبني على أنه قرار يُفرض من أعلى إلى أسفل فقط.

فلا يمكن لاستراتيجية تفتقر إلى خطة للمهارات، ونموذج واضح للملكية، وانضباط تشغيلي، أن تنتقل بثبات من مرحلة التجربة إلى التنفيذ.

اجعل المجلس بأكمله قادرًا على مساءلة الإدارة

يضع الدليل الثقافة الخاصة بالذكاء الاصطناعي ضمن كفاءات مجلس الإدارة. ولا يحتاج كل مدير إلى أن يصبح مهندسًا لتعلم الآلة، لكن ينبغي للمجلس ككل أن يفهم كيف يمكن للذكاء الاصطناعي أن يغير القطاعات، ونماذج التشغيل، والمنافسة، وصنع القرار، والمخاطر.

وينبغي أن يتمتع عدد من المديرين بالقدرة على فحص افتراضات الإدارة، وادعاءات القيمة، وتقييمات المخاطر. كما يجب أن يملك المجلس إمكانية الاستعانة بشخص واحد على الأقل—سواء كان مديرًا أو مستشارًا أو عضوًا في لجنة—يمتلك عمقًا تقنيًا كافيًا لمراجعة الخيارات المتعلقة بالأنظمة والبيانات والاختبارات والضوابط.

وهذا يتجاوز مجرد إحالة ملف الذكاء الاصطناعي إلى لجنة التكنولوجيا وتلقي تحديثات دورية. فالمطلوب هو إدخاله في صميم الإشراف الاستراتيجي والائتماني لمجلس الإدارة، مع الاستعانة بخبراء متخصصين عندما تتجاوز الأسئلة التقنية خبرة المجلس.

حدد صلاحيات القرار قبل تشغيل الأنظمة

تصبح حوكمة الذكاء الاصطناعي قابلة للتطبيق عندما تحدد المؤسسة بوضوح من يملك صلاحية اعتماد النظام وتشغيله ومراقبته وإيقافه. وينبغي للمجالس أن تطلب وضع حدود لاتخاذ القرار على أساس مستوى المخاطر، مع التمييز بين:

• القرارات التي يمكن للإدارة اتخاذها ضمن حدود معتمدة؛
• القرارات التي تتطلب تصعيدًا إلى مجلس الإدارة أو إحدى لجانه؛
• القرارات التي يجب ألا يتخذها الذكاء الاصطناعي بصورة مستقلة.

وكلما كانت عواقب القرار أكبر، وجب أن تكون الضوابط أقوى. وفي الاستخدامات عالية التأثير المتعلقة بالتوظيف—مثل التعيين، والترقية، وإنهاء الخدمة، وتقييم الأداء—ينبغي وضع خطوط حمراء واضحة تضمن مراجعة بشرية مؤثرة ووجود مسؤول معروف عن القرار.

ويجب ألا تتحول مخرجات الذكاء الاصطناعي إلى حكم آلي غير خاضع للمراجعة بشأن مصدر رزق شخص أو مستقبله المهني.

وينسجم هذا المبدأ مع التوقع الأوسع بأن يدعم الذكاء الاصطناعي الحكم البشري، لا أن يحل محله بصمت. وقبل إطلاق أي نظام، ينبغي أن تكون الجهة المالكة، وحدود الموافقة، ونقطة الإشراف البشري، وآلية الإيقاف واضحة للجميع.

اختبر العدالة وجودة البيانات وإمكانية الاعتراض

لا ينبغي أن تتوقف عملية الموافقة على النظام عند معرفة أدائه المتوسط. فعلى مجلس الإدارة أن يسأل كيف تختبر المؤسسة جودة البيانات، وكيف توثق القيود، وكيف تراجع احتمالات التحيز، وكيف تراقب الأداء بعد التشغيل.

وعندما يؤثر نظام الذكاء الاصطناعي تأثيرًا ملموسًا في الأشخاص، يجب أن تتوافر للمتضررين وسيلة حقيقية لفهم القرار، والطعن في النتيجة، وطلب إعادة نظر بشرية. ولا يلزم أن تكشف التفسيرات أسرار تقنية مملوكة، لكنها يجب أن تكون كافية للمراجعة والمساءلة والاستئناف.

ويمثل ذلك جزءًا من بيئة رقابية أوسع. إذ تشير مواد الحوكمة المؤسسية في سنغافورة إلى أهمية اتخاذ قرارات بالذكاء الاصطناعي تتسم بالشفافية والمساءلة، مع مراعاة المعايير التنظيمية والأخلاقية. ودور مجلس الإدارة هو تحويل هذه التوقعات إلى إجراءات موثقة، ومسؤوليات محددة، وأدلة يمكن التحقق منها، بدل تركها في صورة مبادئ عامة بلا مالك واضح.

تعامل مع الذكاء الاصطناعي باعتباره قضية مرونة سيبرانية وتشغيلية

ينشئ الذكاء الاصطناعي تحديًا أمنيًا ذا جانبين. فعلى المؤسسات الاستعداد لهجمات التصيد والهندسة الاجتماعية والاحتيال والهجمات المؤتمتة واكتشاف الثغرات بصورة أسرع بفضل الذكاء الاصطناعي. وفي الوقت نفسه، عليها حماية أنظمة الذكاء الاصطناعي نفسها من تسرب البيانات، وحقن التعليمات، والتلاعب بالنماذج، ونقاط الضعف التي قد يدخلها الموردون أو الأطراف الثالثة.

لذلك ينبغي أن تظهر مخاطر الذكاء الاصطناعي في تقارير المرونة السيبرانية، وأعمال التدقيق والضمان، وخطط الاستجابة للحوادث، لا أن تبقى داخل «جزيرة تقنية» منفصلة.

ومن الأسئلة العملية: من يستطيع تعطيل النظام؟ كيف يجري الإبلاغ عن الحوادث؟ كيف تُحقق المؤسسة في البيانات والقرارات المتأثرة؟ وكيف تستعيد عملياتها إذا أصبحت خدمة الذكاء الاصطناعي غير متاحة أو تعرضت للاختراق؟

ويمتد هذا التركيز إلى التوقعات القائمة بشأن المرونة السيبرانية وإدارة المخاطر. فإرشادات SID الخاصة بالأمن السيبراني تتعامل أيضًا مع المرونة باعتبارها عنصرًا ينبغي دمجه في استراتيجية الشركة، لا مهمة تقنية بحتة.

ارفع مستوى الرقابة على الأنظمة الحيوية وعالية العواقب

تختلف نتائج فشل الذكاء الاصطناعي بدرجة كبيرة بحسب حالة الاستخدام. فأداة داخلية منخفضة المخاطر لرفع الإنتاجية لا تحتاج إلى المستوى نفسه من الرقابة الذي يحتاج إليه نظام يدعم خدمات أساسية، أو بنية تحتية حيوية، أو عمليات قد تترتب عليها عواقب واسعة.

وفي هذه البيئات، ينبغي للمجالس أن تتوقع متطلبات أكثر صرامة في المرونة، والأمن، والاختبار، والمراقبة، والتصعيد، والتعافي. فالخلل أو الاختراق قد لا يؤثر في أموال المؤسسة وسمعتها فحسب، بل قد يعطل خدمات مهمة أو يؤدي إلى نتائج تشغيلية أوسع.

ويجنب النهج القائم على المخاطر معاملة جميع تطبيقات الذكاء الاصطناعي بالطريقة نفسها؛ إذ يطلب من مجالس الإدارات مواءمة الصلاحيات والضوابط مع حجم الضرر المحتمل عند الفشل.

لوحة متابعة عملية لمجلس الإدارة

يمكن تحويل توصيات الدليل إلى سجل أو لوحة متابعة مختصرة على مستوى مجلس الإدارة. ولكل حالة استخدام جوهرية، ينبغي أن تتمكن الإدارة من تحديد:

1. المالك: الشخص المسؤول عن النظام ونتائجه.
2. النتيجة التجارية المستهدفة: وكيف سيجري قياس النجاح.
3. صلاحيات القرار: وحدود التصعيد والموافقة.
4. مصادر البيانات وقواعد التعامل معها.
5. فئة المخاطر: ومبررات تصنيف الحالة.
6. الضوابط: بما في ذلك فحوص الأمن والعدالة وجودة البيانات.
7. نقطة الإشراف البشري: والشخص المسؤول عن القرار النهائي.
8. نتائج الاختبارات والمراقبة: والقيود المعروفة.
9. الحوادث أو الشكاوى أو طلبات الاستئناف: وكيف عولجت.
10. موعد المراجعة التالية: أو الحدث الذي يستدعي إعادة التقييم.

ويربط هذا الهيكل خلق القيمة وإدارة المخاطر في سجل واحد. كما يمنح المديرين أدلة يمكنهم فحصها بدل الاكتفاء بتأكيدات عامة بأن المؤسسة «تستخدم الذكاء الاصطناعي بمسؤولية».

الخلاصة: المطلوب ليس مزيدًا من النشاط، بل مزيد من القدرة على القياس والحوكمة

لا يضع دليل SID تبني الذكاء الاصطناعي وحوكمته في معسكرين متعارضين. بل يطلب من مجالس الإدارات السعي إلى التطبيقات المفيدة بالانضباط نفسه الذي يطبقونه على الاستثمارات الاستراتيجية الجوهرية الأخرى: تحديد القيمة، وتوزيع المسؤوليات، وفهم المخاطر، واختبار الضوابط، ومراجعة النتائج.

والخطوة الفورية أمام المديرين هي إدراج الذكاء الاصطناعي في جدول أعمال المجلس بانتظام، ومراجعة حالات الاستخدام الجوهرية في المؤسسة، وتحديد الثغرات في الثقافة والملكية وصلاحيات القرار والإشراف البشري والاختبار والمرونة.

فأقوى استراتيجية للذكاء الاصطناعي ليست التي تسجل أكبر عدد من الأنشطة، بل التي يستطيع مجلس الإدارة شرحها وقياسها وحوكمتها.