مفوض حقوق الإنسان بالأمم المتحدة يدعو إلى قواعد مُلزِمة للذكاء الاصطناعي المتقدم

يرى مفوض الأمم المتحدة السامي لحقوق الإنسان، فولكر تورك، أن السباق نحو تطوير ذكاء اصطناعي أشد قدرة لا يمكن أن يُدار عبر التزامات الشركات وحدها. ففي رسالة مفتوحة، دعا إلى تحرك متعدد الأطراف وعاجل يستند إلى القانون الدولي لحقوق الإنسان، محذراً من أن التنظيم الذاتي الطوعي «ليس كافياً على الإطلاق». 7

ما الذي طلبه تورك من الحكومات والشركات؟

وُجّهت دعوة تورك إلى الدول وإلى الشركات التي تطوّر ما يُعرف بـالذكاء الاصطناعي المتقدم، أي الأنظمة الواقعة عند حدود القدرات التقنية الحالية. وخلاصتها أن قرارات المخاطر التي قد يتحملها الناس لا ينبغي أن تُترك لعدد محدود من الشركات وحدها. 7

ومن أبرز التدابير التي شدد عليها:

• حوكمة مُلزِمة قائمة على الحقوق: على الدول تعزيز القواعد التنظيمية بدلاً من الاكتفاء بتعهدات الشركات الطوعية، والتعاون دولياً لمنع ظهور ثغرات بين التشريعات الوطنية. 7
• عناية واجبة مستمرة بحقوق الإنسان: ينبغي للمطورين رصد آثار أنظمتهم الفعلية والمحتملة على حقوق الإنسان ومعالجتها طوال دورة حياة النظام، لا باعتبارها مراجعة امتثال تُجرى مرة واحدة. وتعرض إرشادات الأمم المتحدة هذه العناية كعملية مستمرة تشمل تحديد المخاطر، واتخاذ الإجراءات، ومتابعة الفاعلية، والإفصاح عن كيفية التعامل معها.
• تقييم تقني وتحقق مستقلان: دعا تورك إلى ضمانات يمكن لجهات مستقلة فحصها، بدلاً من التسليم بتأكيدات الشركات عن نفسها فقط. 7
• تحرك دولي عاجل: يعدّ تورك حوكمة الذكاء الاصطناعي المتقدم قضية عابرة للحدود، ما يستلزم تطوير القواعد وضمانات السلامة بتنسيق بين الدول والمؤسسات. 79

لماذا جاء التحذير الآن؟

أتت رسالة تورك في خضم جدل متصاعد داخل قطاع الذكاء الاصطناعي حول سرعة اندفاع المختبرات الكبرى نحو أنظمة أكثر استقلالية، وقد تكون قادرة على تحسين نفسها.

فقد استقال جاكوب كوكسون، الباحث الذي عمل سابقاً في كل من OpenAI وAnthropic، من Anthropic في سبتمبر/أيلول 2026. وقال إن الشركتين تتسابقان نحو «ذكاء فائق» قادر على تحسين ذاته، وإنهما «تقامران بحياتنا». 68 كما قال إن بعض العاملين في تطوير الذكاء الاصطناعي يعتقدون أنه قد «يقتلنا جميعاً» بحلول نهاية العقد. وهذه تصريحات تحذيرية منسوبة إلى كوكسون ومطورين قلقين، وليست توقعاً علمياً مثبتاً. 6

وفي السياق نفسه، طالبت مبادرة يقودها موظفون باسم Pacing the Frontier الحكومة الأميركية بدعم جهد دولي لتطوير الأدوات التقنية وأدوات الحوكمة اللازمة لإبطاء تطوير الذكاء الاصطناعي المتقدم عمداً عندما تتجاوز وتيرته قدرة البشر على الإشراف الآمن عليه. ويعرض موقع المبادرة 1,386 موقّعاً من موظفي شركات الذكاء الاصطناعي المتقدم. 15

هذا التأييد المتنامي لفكرة «ضبط الوتيرة» مهم، لكنه لا يحسم مسألة المساءلة. فموقف تورك هو أن الالتزامات الطوعية، حتى عندما تحظى بدعم موظفين أو قيادات في القطاع، لا يمكن أن تحل محل ضمانات عامة قابلة للإنفاذ. 7

أضرار قائمة ومخاطر بعيدة المدى في إطار واحد

لم يحصر تورك القضية في سيناريوهات كارثية بعيدة. فقد قال إن التنظيم الذاتي الطوعي غير كافٍ لمعالجة الأضرار القائمة ولمنع النماذج الذاتية المتقدمة من الالتفاف على الضمانات البشرية. 7

ولا يقدّم ما هو متاح من تقارير قائمة تفصيلية وحاسمة بالأضرار الحالية التي ذكرها تورك في رسالته. لذلك لا يصح نسبة أنواع محددة من الأضرار إلى الرسالة، بما يتجاوز هذا التحذير العام. لكن الواضح أن اختباره لأي حوكمة هو بقاء حقوق الإنسان في صلب تصميم الذكاء الاصطناعي ونشره وتقييمه وإدارته. 7

الفجوة التي يلفت إليها تورك

ثمة تقارب ملحوظ بين بعض الأصوات داخل صناعة الذكاء الاصطناعي وتحذير الأمم المتحدة: كلاهما يقر بأن تطوير القدرات قد يحتاج إلى إبطاء متعمد وتقييم مستقل. 715

لكن الفجوة غير المحسومة سياسية. فبيانات القطاع قد تشجع التنسيق، لكنها لا تضع بمفردها عتبات موحدة، ولا تفرض الإفصاح، ولا تُلزم بتقييم مستقل، ولا تنشئ سبل إنصاف ومساءلة عند وقوع الضرر. ولهذا يدعو تورك الحكومات إلى سد هذه الفجوة عبر تنظيم دولي عاجل يستند إلى القانون الدولي لحقوق الإنسان. 79

أما بالنسبة إلى صانعي السياسات والجهات التي تشتري أنظمة الذكاء الاصطناعي، فالخلاصة العملية واضحة: ينبغي أن تقترن ادعاءات السلامة بأدلة على تقييم مستمر لمخاطر حقوق الإنسان، وتدقيق خارجي، ومساءلة محددة؛ لا أن تقتصر على وعود طوعية من الشركات المطوّرة للأنظمة.