ما الذي يجب أن يفعله مزودو الذكاء الاصطناعي عالي المخاطر قبل 2027؟

الخلاصة الأهم للشركات: قواعد الاتحاد الأوروبي الكاملة الخاصة بأنظمة الذكاء الاصطناعي عالية المخاطر لم تبدأ بعد بالنسبة إلى معظم هذه الأنظمة، لكنها لم تُلغَ. إذ يبدأ تطبيق الالتزامات على الأنظمة المستقلة المصنفة ضمن الملحق الثالث في 2 ديسمبر 2027، بينما يبدأ تطبيقها على أنظمة الذكاء الاصطناعي عالية المخاطر التي تكون جزءاً من منتجات خاضعة لتنظيمات أوروبية محددة في 2 أغسطس 2028. 18

لذلك، على الشركات التي تنوي طرح هذه الأنظمة في سوق الاتحاد الأوروبي أن تتعامل مع الفترة المتبقية بوصفها مرحلة لبناء امتثال قابل للإثبات، لا مجرد مهلة للانتظار.

ما المقصود بنظام ذكاء اصطناعي عالي المخاطر؟

تشمل هذه الفئة، في المجمل، نوعين رئيسيين من الأنظمة:

• أنظمة تُستخدم كمكوّنات سلامة في منتجات تخضع لتشريعات أوروبية محددة، عندما يتطلب المنتج تقييماً للمطابقة من جهة خارجية مستقلة.
• أنظمة تُستخدم في حالات واردة في الملحق الثالث من القانون، مع مراعاة الشروط والاستثناءات المنصوص عليها فيه. 15

أهمية هذا التصنيف كبيرة، لأن وصف النظام بأنه «عالي المخاطر» يفعّل مجموعة أوسع وأكثر صرامة من الالتزامات التي تمتد على كامل دورة حياة المنتج.

ما الذي ينبغي أن يستعد له مزودو الأنظمة؟

لا يكفي جمع المستندات عند طلب الجهة الرقابية ذلك. فالمطلوب أن تكون ضوابط السلامة والمساءلة جزءاً من تصميم النظام وتطويره وتشغيله منذ البداية.

إدارة المخاطر وحوكمة البيانات

يتعين على المزودين إنشاء إجراءات لتقييم المخاطر والحد منها. كما ينبغي أن تكون البيانات المستخدمة بجودة كافية للحد من مخاطر النتائج التمييزية. ويركز الإطار الخاص بالأنظمة عالية المخاطر على أن تكون بيانات التدريب والتحقق والاختبار ملائمة للغرض، وممثلة بدرجة كافية، وخاضعة لحوكمة مناسبة. 115

التوثيق وإمكانية التتبع

ينبغي الاحتفاظ بسجلات للأنشطة تتيح تتبع نتائج النظام، إلى جانب وثائق تقنية تفصيلية تشرح النظام والغرض المقصود منه. وتساعد هذه الأدلة السلطات المختصة على تقييم الامتثال للقواعد. 1

الرقابة البشرية والمتانة التشغيلية

يتطلب القانون تدابير مناسبة للرقابة البشرية، ومستوى مرتفعاً من الدقة والمتانة والأمن السيبراني. كما يجب أن يقدم المزود للمشغّل معلومات واضحة وكافية تشرح كيفية استخدام النظام وفق الغرض المحدد له، وحدوده المعروفة. 1

تقييم المطابقة والتسجيل والمتابعة بعد الطرح

قبل طرح النظام عالي المخاطر في السوق، يجب على المزود إتمام تقييم المطابقة الواجب تطبيقه. وعندما يكون ذلك مطلوباً، يتعين تسجيل النظام ومتابعة أدائه بعد الإطلاق والإبلاغ عن الحوادث الجسيمة. وبذلك يصبح الامتثال وظيفة تشغيلية مستمرة، لا موافقة تُنجز مرة واحدة فقط. 115

قائمة استعداد عملية قبل مواعيد 2027 و2028

ينبغي أن تتمكن الشركات من الإجابة بوضوح عن الأسئلة التالية:

1. هل النظام عالي المخاطر بالفعل؟ طابق حالة الاستخدام مع الفئات الواردة في الملحقين الأول والثالث.
2. من يتحمل المسؤولية؟ حدّد مالكي المسؤولية عن سلامة المنتج والامتثال القانوني والتوثيق والاستجابة للحوادث.
3. هل يمكن إثبات المخاطر والحد منها؟ احتفظ بعملية متكررة لإدارة المخاطر، مع سجلات الاختبارات والقرارات.
4. هل ضوابط البيانات قابلة للدفاع عنها؟ وثّق ملاءمة مجموعات البيانات وتمثيلها وفحوص الجودة والقيود المعروفة فيها.
5. هل يمكن تدقيق النظام؟ احتفظ بالسجلات والملفات التقنية وتعليمات المستخدم التي توضح الاستخدام المقصود والقيود.
6. هل الرقابة البشرية فعّالة عملياً؟ حدّد متى يستطيع البشر التدخل أو تجاوز المخرجات أو إيقاف استخدام النظام.
7. هل المتابعة بعد الطرح جاهزة؟ جهّز آليات لرصد الأداء واتخاذ الإجراءات التصحيحية والإبلاغ عن الحوادث.

ما الغرامات المحتملة؟

يربط قانون الذكاء الاصطناعي الأوروبي العقوبات بمبالغ ثابتة وبنسبة من إجمالي المبيعات السنوية العالمية. ويمكن أن تصل العقوبة في أشد الحالات، الخاصة بممارسات الذكاء الاصطناعي المحظورة، إلى 35 مليون يورو أو 7% من إجمالي المبيعات السنوية العالمية. أما المخالفات الأخرى فقد تصل غراماتها إلى 15 مليون يورو أو 3% من إجمالي المبيعات السنوية العالمية. 3

وتعني هذه الأرقام أن برنامج الامتثال للأنظمة عالية المخاطر لا ينبغي أن يقتصر على الفريق القانوني؛ بل يحتاج إلى مساهمة فرق المنتجات والأمن السيبراني وعلوم البيانات والمشتريات والامتثال والعمليات، مع أدلة تثبت أن الضوابط تعمل فعلياً.

لماذا يبدأ العمل الآن رغم تأجيل الموعد؟

منحت المواعيد المعدلة الشركات وقتاً إضافياً، لكن المتطلبات الجوهرية لا تزال واسعة. وقد تحتاج الشركة التي تؤجل الاستعداد حتى أواخر 2027 إلى بناء منظومات توثيق، وتعديل ممارسات تطوير النماذج، وتطبيق التسجيل الآلي للأنشطة، واختبار إجراءات الرقابة البشرية، وإنشاء مسارات للإبلاغ والمتابعة بعد الطرح، في وقت قصير.

الأفضل هو التعامل مع قانون الذكاء الاصطناعي الأوروبي كمعيار لحوكمة المنتج: تحديد حالات الاستخدام عالية المخاطر مبكراً، وجمع أدلة الامتثال أثناء بناء النظام، وجعل السلامة وقابلية التتبع والتحكم البشري شروطاً أساسية قبل الإطلاق. 115