تقرير الأمم المتحدة الأول لسلامة الذكاء الاصطناعي: مخاطر حرجة وفجوة حوكمة عالمية

سلوك الذكاء الاصطناعي الخادع. يعرف المجلس الاستشاري العلمي للأمم المتحدة خداع الذكاء الاصطناعي بأنه قيام النظام بتضليل الأشخاص أو الأنظمة الأخرى بشأن ما يعرفه أو ينويه أو يمكنه فعله - وهو مختلف عن الأخطاء العادية أو الهلوسات . ظهرت أدلة على هذا السلوك بالفعل في أنظمة ذكاء اصطناعي واسعة الاستخدام، ومن المتوقع أن ينمو الخطر مع زيادة قدرة الذكاء الاصطناعي واستقلاليته واندماجه في صنع القرار اليومي .

تآكل نزاهة المعلومات. يشير التقرير إلى أن تزييف ومعالجة الصوت والفيديو بالذكاء الاصطناعي يشكل تهديداً مباشراً لنزاهة المعلومات، مما يغذي الاستقطاب ويقوض الثقة في الخطاب العام .

أضرار على الصحة النفسية والرفاهية. العديد من الأضرار الناجمة عن الذكاء الاصطناعي العام أصبحت راسخة بالفعل. وتشمل هذه الاحتيال، والصور الحميمية غير الرضائية (NCII)، ومواد الاعتداء الجنسي على الأطفال (CSAM) - وكلها تضر بشكل مباشر بالصحة النفسية .

مخاطر الأمن السيبراني والاحتيال. لا تزال الأساليب الموحدة محدودة لتقييم التهديدات المتعلقة بالأمن السيبراني ومنع الاحتيال المرتبطة بالذكاء الاصطناعي، مما يترك فجوة حرجة في القدرات الدفاعية .

فجوة الحوكمة العالمية

يؤكد التقرير على مشكلة هيكلية أساسية: الذكاء الاصطناعي يتقدم بشكل أسرع من العلم والتنظيم، ولا توجد حالياً وظائف مؤسسية دولية موثوقة لتقييم مخاطر الذكاء الاصطناعي بشكل مستقل . تفتقر معظم الدول إلى القدرة على تقييم نماذج الذكاء الاصطناعي المتقدمة على الإطلاق، مما يوسع الفجوة بين حفنة من الدول والشركات القادرة على تطوير الذكاء الاصطناعي وبقية العالم .

هذه الفجوة ليست افتراضية. يلاحظ التقرير أن صانعي السياسات يواجهون معضلة متزايدة: فهم يحتاجون إلى أدلة علمية لحوكمة الذكاء الاصطناعي، لكن قدرات التكنولوجيا ذاتها تتجاوز العلم نفسه .

كيف يعمل الفريق: 'IPCC للذكاء الاصطناعي'

تم تصميم الفريق صراحةً على غرار الهيئة الحكومية الدولية المعنية بتغير المناخ (IPCC) والمنصة الحكومية الدولية للعلوم والسياسات المتعلقة بالتنوع البيولوجي وخدمات النظم الإيكولوجية (IPBES) . يعني نموذج العلوم-السياسات هذا أن الحكومات تساعد في تحديد الأسئلة التي يفحصها الفريق، لكن العلماء يحتفظون بالمسؤولية الكاملة عن تقييم الأدلة، وصياغة التقارير، والحفاظ على سلامة الاستنتاجات العلمية .

تفاصيل هيكلية رئيسية:

• التفويض: يُكلف الفريق بإنتاج تقرير علمي سنوي قائم على الأدلة حول فرص الذكاء الاصطناعي ومخاطره وتأثيراته. قد يعد أيضاً موجزات مواضيعية حول القضايا المثيرة للقلق .
• القيد: يقوم الفريق بتقييم وتجميع العلوم - فهو لا يضع قواعد أو ينشئ لوائح ملزمة أو يفرض سياسات .
• التكوين: 40 من كبار العلماء والخبراء من خلفيات متنوعة، يخدمون بصفتهم الشخصية .
• العمل الافتتاحي: عقد الفريق أول قمة حضورية له وبدأ العمل على التقرير الأول قبل الموعد النهائي في يوليو 2026 .

ما سيفعله الحوار العالمي حول حوكمة الذكاء الاصطناعي

سيتم تقديم التقرير السنوي الأول رسمياً في الحوار العالمي الافتتاحي حول حوكمة الذكاء الاصطناعي في جنيف، 6-7 يوليو 2026 . تم إنشاء الحوار العالمي إلى جانب الفريق بموجب قرار الجمعية العامة للأمم المتحدة A/RES/79/325 كمنصة تضم الحكومات وجميع أصحاب المصلحة المعنيين لمناقشة حوكمة الذكاء الاصطناعي . تشمل ولايته سد الفجوات في الذكاء الاصطناعي، وبناء القدرات، والانتقال من السياسات المجزأة إلى أطر دولية أكثر تماسكاً .

لماذا هذا مهم

التقرير غير توجيهي عمداً: فهو لا يوصي بسياسات أو لوائح محددة . تكمن قوته في إنشاء قاعدة أدلة موثوقة ومستقلة ومقبولة دولياً يمكن للحكومات والمنظمين والجمهور استخدامها لاتخاذ قرارات مستنيرة بشأن مخاطر الذكاء الاصطناعي . كما صرح الأمين العام للأمم المتحدة أنطونيو غوتيريش، فإن العالم بحاجة ماسة إلى "فهم مشترك وعالمي للذكاء الاصطناعي؛ لا يقوم على الأيديولوجيا، بل على العلم؛ لا على الأخبار المزيفة، بل على المعرفة" .