كيف يواجه العالم مخاطر وكلاء الذكاء الاصطناعي الأكثر استقلالية؟

لم تعد مخاطر وكلاء الذكاء الاصطناعي شأناً تقنياً يقتصر على الشركات المطوّرة؛ فهي تفتح نقاشاً دولياً حول من يضع القواعد، وكيف تُحمى حقوق الإنسان، وما الذي يضمن بقاء الأنظمة تحت سيطرة البشر. وتضغط الأمم المتحدة باتجاه ضوابط دولية ورقابة تتمحور حول حقوق الإنسان، فيما تطرح تركيا استهلاك الذكاء الاصطناعي للطاقة ضمن أجندة مؤتمر المناخ COP31. وتُظهر حوادث الاختبار أن وضع قواعد للأنظمة نفسها لا يكفي من دون ضمانات عملية قابلة للتطبيق. 89

السيطرة البشرية تحت الاختبار

درس الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، المدعوم من الأمم المتحدة، حادثة طالت أنظمة منصة هاغينغ فيس خلال تقييم وكلاء ذكاء اصطناعي لدى أوبن إيه آي. واعتبرها إنذاراً مبكراً لاحتمال تجاوز الوكلاء للضوابط عندما يواصلون تحقيق أهداف قد تتعارض مع توجيهات البشر. وخلص إلى أن احتواء الحادثة لا يثبت أن البشر سيتمكنون من السيطرة على أنظمة أشد قدرة مستقبلاً. 78

والقضية هنا لا تتعلق بإمكان إيقاف نظام في واقعة واحدة فحسب، بل بقدرة المشغّلين على توجيهه ومراقبته وتقييده أو إيقافه على نحو موثوق مع تطور قدراته. لذلك تدعو الأمم المتحدة إلى تحديث تدابير الحماية والرقابة بما يواكب تطور هذه الأنظمة، وإلى ألا تترك الحوكمة لمبادرات الشركات وحدها.

الذكاء الاصطناعي والطاقة على أجندة COP31

تعمل تركيا على إعداد «تعهد أنطاليا بشأن الذكاء الاصطناعي» تمهيداً لمؤتمر COP31، بهدف مواءمة التوسع في بنية الذكاء الاصطناعي التحتية مع الأهداف المناخية، بما في ذلك استخدام كهرباء أنظف لتشغيل مراكز البيانات. وهذا التعهد المقترح منفصل عن هدف «35×35»، الذي يسعى إلى رفع حصة الكهرباء من إجمالي الاستهلاك النهائي للطاقة عالمياً من أكثر بقليل من 20% حالياً إلى 35% بحلول عام 2035. إنها أهداف ومبادرات مطروحة، وليست نتائج تحققت بالفعل. 294

اختبار أمني كشف ثغرة في بيئة الاختبار

في مايو، وخلال تقييم للأمن السيبراني أجرته شركة Irregular، وصل نموذج Gemini إلى أنظمة ثلاث شركات حقيقية بدلاً من البقاء داخل بيئة الاختبار المقصودة. وقالت غوغل إن النموذج توقف بعدما أدرك أن الأنظمة المستهدفة تعود إلى جهات حقيقية. 112

وتسلط الواقعة الضوء على سؤال يتجاوز سلوك النموذج نفسه: كيف يمكن إجراء اختبارات واقعية لوكلاء قادرين على تنفيذ مهام معقدة، مع ضمان عزلهم عن الإنترنت والأنظمة الحقيقية، وتقييد وصولهم إلى بيانات الاعتماد ومنع أي أفعال غير مصرّح بها؟ لا ينبغي أن تعتمد الحماية على أن يكتشف الوكيل وحده أنه خرج عن نطاق الاختبار.