شين ليغ يحذّر: سلامة الذكاء الاصطناعي يجب أن تواكب التقدم نحو AGI

رسالة شين ليغ، المؤسس المشارك لـGoogle DeepMind، واضحة: لا ينبغي أن تسبق قدرات الذكاء الاصطناعي المتنامية ضوابط السلامة القادرة على مراقبتها والتحكم فيها. وجاء تحذيره مع إطلاقه معهد ديب مايند (DeepMind Institute أو DMI)، وهو منصة جديدة تناقش نشر الذكاء الاصطناعي العام وآثاره. 141

ما الذي حذّر منه ليغ؟

حذّر ليغ من أن التقدم المتسارع في الذكاء الاصطناعي يجب ألا يتجاوز ضوابط السلامة. فالمسألة لا تتعلق فقط بازدياد كفاءة النماذج، بل بمدى تطور آليات الإشراف والمراقبة والحوكمة والتحكم بالسرعة نفسها، بما يحافظ على قابلية إدارة هذه الأنظمة. 1

ولهذا لا يقتصر نطاق المعهد على الأبحاث التقنية. إذ يهدف، بحسب ما أعلنه ليغ، إلى تحفيز البحث والتعاون والنقاش متعدد التخصصات حول الأسئلة التقنية والاجتماعية الأهم في عصر AGI، ومنها كيفية بناء أنظمة الذكاء الاصطناعي العام ومجتمعات الوكلاء التي قد تنشئها، وحوكمتها بأمان. 16

ما هو «معهد ديب مايند»؟

المعهد منصة للنشر والحوار، وليس بديلاً عن أعمال Google DeepMind البحثية الأساسية. ويُفترض أن يجمع مساهمات من Google DeepMind ومن مجتمع الباحثين الأوسع، لمناقشة كيفية بناء الذكاء الاصطناعي الأكثر قدرة وحوكمته ونشره واستخدامه. 3642

ويمتد جدول أعماله إلى العلم والتعليم والمجتمع والسياسات والفلسفة والاقتصاد والسلامة وازدهار الإنسان. وبعبارة عملية، يناقش المعهد تقليل المخاطر الجسيمة، وكذلك المؤسسات والسياسات والأهداف الاجتماعية التي قد تحتاج إلى التكيف أو إعادة التصور إذا أصبح AGI واسع الانتشار. 1636

موقفه من إبطاء إطلاق النماذج المتقدمة

وصف ليغ اقتراح داريو أمودي، الرئيس التنفيذي لشركة Anthropic، بـإبطاء إطلاق نماذج الذكاء الاصطناعي المتقدمة من دون وقفه بأنه «مثير للاهتمام من حيث الاتجاه» و«جدير بالنظر». 2

ولا يعني ذلك إعلان سياسة من DeepMind، لكنه يشير إلى أن ليغ يرى الوتيرة الأكثر حذراً في الإطلاق خياراً جدياً في النقاش الأوسع حول مواءمة نشر النماذج مع وجود ضمانات كافية. 2

لماذا يرى أن إعلان الوصول إلى AGI سابق لأوانه؟

قال ليغ إن الوقت لا يزال مبكراً لإعلان تحقق الذكاء الاصطناعي العام، رغم تصريحات حديثة لمسؤولين تنفيذيين في Nvidia وOpenAI. ولا تقدم التقارير المتاحة شرحاً مباشراً ومفصلاً لكل فجوات القدرات التي يقصدها؛ لذا فإن الاستنتاج المدعوم بالأدلة هو أن ليغ لا يرى الأنظمة الحالية مستوفية لمعيار DeepMind الخاص بـAGI. 4

وتعرّف Google DeepMind الذكاء الاصطناعي العام بأنه نظام يمتلك القدرات المعرفية للدماغ البشري. وهو معيار أوسع بكثير من التفوق في اختبارات معيارية محددة أو مهام منفردة. 13

ومع ذلك، قال ليغ إنه ما زال «مرتاحاً» لتقديره القديم بوجود احتمال قدره 50% للوصول إلى «AGI أدنى» بحلول عام 2028. وهذا توقع وليس جدولاً زمنياً مؤكداً. 210

ماذا تتناول المقالات الأولى؟

تتضمن مجموعة الإطلاق مقالة تمهيدية وعدة مقالات معمقة. وتوضح ثلاثة موضوعات مبكرة اتساع مقاربة المعهد:

1. شفافية الاستدلال: تدعو مقالة لروهين شاه وأنكا دراغان إلى الحفاظ على استدلال قابل للتفسير، كي يتمكن البشر من مراقبة النماذج بحثاً عن الخداع أو السلوك التآمري. 11
2. السياسة الاقتصادية للـAGI: تقيّم مقالة 11 سياسة محتملة لمعالجة الاضطراب الاقتصادي الذي قد ينشأ عن ذكاء اصطناعي متقدم واسع الانتشار، وفق معايير تشمل الرفاه والمرونة والقدرة على الاختيار والاستقرار الاقتصادي. 39
3. مبادئ ليوتوبيا جديدة: تناقش المقالة معنى ازدهار الإنسان في مجتمع يشكله AGI، مع التحذير من التعامل مع «اليوتوبيا» بوصفها وعداً بالكمال. 37

كما يدرج المعهد مقالة رابعة ضمن مواد الإطلاق بعنوان: «إطار للذكاء الاصطناعي المتقدم وبزوغ عصر جديد»، إلى جانب المقدمة والموضوعات الثلاثة السابقة. 4138

الخلاصة

يجمع موقف ليغ بين الإلحاح والحذر. فهو لا يعدّ AGI متحققاً بالفعل، لكنه ما زال يمنح وصول «AGI أدنى» بحلول 2028 احتمالاً ذا وزن يبلغ 50%. وعليه، فإن تحذيره ليس رهناً بتوقع واحد، بل هو مطلب حوكمة: إذا تسارعت قدرات الذكاء الاصطناعي، فيجب أن تتسارع معها وسائل فهم تلك القدرات والإشراف عليها وتوجيه نشرها. 1216