أندرو نغ: مخاوف انقراض البشر بسبب الذكاء الاصطناعي «أقرب للخيال العلمي»

لا يقول أندرو نغ إن الذكاء الاصطناعي بلا مخاطر. لكن رسالته الأساسية هي أن سيناريوهات الانقراض البشري الوشيك شديدة الافتراض، ولا ينبغي أن تكون الأساس الذي تُبنى عليه سياسات الذكاء الاصطناعي.

في مقابلة مع تلفزيون بلومبرغ في 17 سبتمبر، وصف نغ، المشارك في تأسيس Google Brain وCoursera، تلك التحذيرات بأنها «أقرب بكثير إلى الخيال العلمي منها إلى العلم». ودعا إلى التعامل مع سلامة الذكاء الاصطناعي بوصفها مسألة هندسية: اختبارات، وضمانات، وتحسين متواصل للأنظمة بمرور الوقت. 2

ما الذي قاله عن خطر الانقراض؟

يقرّ نغ بأن أنظمة الذكاء الاصطناعي لن تكون قابلة للتنبؤ الكامل أبداً. لكنه يرى أن محدودية القدرة على التنبؤ لا تعني وجوب وقف تطوير هذه التقنيات على نطاق واسع. فالاختبار والحواجز الوقائية والهندسة يمكن أن تجعل الأنظمة أكثر أماناً تدريجياً، بحسب قوله. كما حذّر من أن إبطاء التطوير عموماً قد يبطئ بدوره التقدم في أدوات السلامة. 2

وبذلك يخالف نغ من يرون أن الأنظمة المتزايدة القدرة قد تصبح قريباً خارجة عن السيطرة. موقفه هو أن أجندة السلامة الأكثر فائدة تبدأ من أنماط الإخفاق المرصودة والقابلة للقياس، لا من فرضيات الانقراض.

لماذا شكك في الخطاب الكارثي؟

قال نغ إن التحذيرات من الخطر الوجودي للذكاء الاصطناعي قد تضر بتحقيق أقصى منافع التكنولوجيا للمجتمع. وأضاف أن قطاع التكنولوجيا غذّى في وقت سابق من طفرة الذكاء الاصطناعي المخاوف من الأضرار الكارثية، على ما يبدو سعياً إلى الدعاية والتأثير في مسار التنظيم. 1

وهو نقاش يتعلق بالحوافز بقدر ما يتعلق بتقدير المخاطر: فالادعاءات الدرامية تجذب الانتباه، والقرارات التنظيمية تحدد من يتحمل كلفة الامتثال. نغ لا يطالب بوقف العمل في مجال السلامة؛ بل يعترض على التعامل مع خطر الانقراض كحقيقة علمية محسومة أو كسبب لفرض تجميد شامل للتطوير.

ما أولويات السلامة التي يقترحها نغ؟

بدلاً من ذلك، يدعو نغ إلى خفض المخاطر بصورة عملية. وأشارت التغطية الخاصة بالمقابلة إلى الأمن السيبراني وغيره من الضمانات الملموسة بوصفها أولويات. 5

عملياً، يركز هذا النهج على:

• اختبارات صارمة قبل الإطلاق وأثناء استخدام الأنظمة.
• ضمانات وحواجز وقائية تحد من أنماط الإخفاق المعروفة.
• تحسين هندسي تكراري لرفع الاعتمادية عند اكتشاف مشكلات جديدة.
• التركيز على الأضرار المتوقعة، ومنها مخاطر الأمن السيبراني، بدلاً من جعل سيناريوهات الانقراض محور السياسة. 25

لا يعد هذا الإطار بسيطرة كاملة على الذكاء الاصطناعي؛ بل يفترض أن التكنولوجيا المفيدة يمكن جعلها موثوقة بدرجة مقبولة عبر التقييم والتحسين المستمرين، على غرار ما يجري في مجالات هندسية أخرى.

أين يختلف مع دعاة إبطاء النماذج المتقدمة؟

يتفق عدد من الشخصيات البارزة في القطاع على أن السلامة تحتاج إلى اهتمام أكبر، لكنهم يصلون إلى نتيجة أشد صرامة بشأن سرعة تطوير نماذج الذكاء الاصطناعي المتقدمة.

جاكوب كوكسون: تقدير أعلى بكثير للخطر

استقال الباحث السابق في Anthropic وOpenAI، جاكوب كوكسون، من Anthropic محذراً من أن التطوير السريع لأنظمة قادرة على تحسين نفسها قد يكون كارثياً. وقال إن التباطؤ ضروري، ثم رحّب باقتراح Anthropic تنظيم وتيرة التطوير. 3343

داريو أمودي: إبطاء تقدم القدرات لكسب وقت للضمانات

دعا داريو أمودي، الرئيس التنفيذي لـAnthropic، الشركات إلى خفض سرعة تحسين قدرات نماذج الذكاء الاصطناعي. وهدفه المعلن هو إتاحة وقت لإدارة المخاطر، عبر إطار يتضمن مقيّمين مستقلين. 18

سام ألتمان: تأييد تنظيم وتيرة التطوير المتقدم

أيّد سام ألتمان، الرئيس التنفيذي لـOpenAI، الفكرة الأساسية لمقترح أمودي، وتعهد بأن تعتمد OpenAI أحد ضماناته: منح مقيّمين خارجيين وصولاً ذا معنى لتقييم ممارسات السلامة. 1924

جيفري هينتون: القلق من فقدان السيطرة

قال جيفري هينتون إن هناك «خطراً كبيراً» من أن يفلت الذكاء الاصطناعي من السيطرة البشرية. وهو يؤيد إبطاء التطوير وإجراءات مثل الاختبارات قبل إصدار المنتجات، ويرى أن الحكومات تتحرك ببطء شديد. 20

لذلك يدور الخلاف العملي حول احتمال الخطر والسياسة المناسبة معاً. فكوكسون وأمودي وألتمان وهينتون يرون أن احتمال فقدان السيطرة معقول بما يكفي لتبرير تنظيم وتيرة تطوير أكثر الأنظمة تقدماً. أما نغ فيرى أن ادعاءات الانقراض غير مدعومة بما يكفي، ويفضل تركيز السلامة على إخفاقات ملموسة قابلة للمعالجة. 21820

رفض التباطؤ لا يعني اتفاقاً كاملاً

معارضة نغ للتباطؤ الواسع لا تعني أنه يتبنى جميع حجج السياسيين والتنفيذيين الذين يعارضون بدورهم هذا المسار.

• جنسن هوانغ: قال الرئيس التنفيذي لـNvidia إن القطاع لا يحتاج إلى قوانين أو لوائح جديدة. 53
• مارك زوكربيرغ: رأى الرئيس التنفيذي لـMeta أن تباطؤ القطاع بأكمله غير ضروري، لأن المنافسة وحوافز السوق ستدفع الشركات إلى جعل نماذجها آمنة. 55
• الرئيس دونالد ترامب: رفض ترامب مخاوف الذكاء الاصطناعي المنفلت واصفاً إياها بأنها «خدعة»، وقال إن الولايات المتحدة تمتلك بالفعل أدوات لتنظيم شركات الذكاء الاصطناعي وملاحقتها قانونياً. 4950
• المسؤولون الصينيون: رفض متحدث باسم وزارة الخارجية الصينية الدعوات إلى إبطاء تطوير الذكاء الاصطناعي المتقدم. 52

تلتقي هذه المواقف مع نغ في رفض التجميد أو التباطؤ الواسع، لكن منطلقاتها مختلفة. فحجة نغ تقنية بالأساس: معالجة الأضرار القابلة للقياس وبناء ضوابط أفضل. بينما ركز هوانغ وزوكربيرغ وترامب والمسؤولون الصينيون، بدرجات متفاوتة، على معارضة القيود الجديدة أو حوافز السوق أو اعتبارات المنافسة والاستراتيجية الوطنية. 250525355

نقطة التقاء محدودة: خطر الهجمات السيبرانية

لا ينقسم النقاش ببساطة إلى من يهتم بالسلامة ومن لا يهتم بها. فمثلاً، قال أيدان غوميز، الرئيس التنفيذي لـCohere، إن نماذج الذكاء الاصطناعي أصبحت أدوات سيبرانية شديدة القوة لأنها تستطيع اكتشاف الثغرات واستغلالها على نطاق واسع. 62

وتقترب هذه المخاوف من دعوة نغ إلى معالجة الأخطار السيبرانية الملموسة. لكن التقارير المتاحة لا تكفي لتحديد موقف غوميز الكامل من التباطؤ على مستوى القطاع أو من حوكمة الذكاء الاصطناعي دولياً. وبالمثل، لا تقدم المصادر المتاحة أدلة كافية لوصف موقف المستثمر ستيف إيزمان عبر ملفات التباطؤ وأبحاث السلامة والتنظيم والحوكمة الدولية.

الخلاصة

يعيد نغ صياغة سؤال سلامة الذكاء الاصطناعي: ليس السؤال ما إذا كان ينبغي جعل الذكاء الاصطناعي أكثر أماناً، بل ما إذا كان يجب أن تقود سيناريوهات الانقراض الافتراضية هذه الأجندة. إجابته هي: لا. الأولوية، في رأيه، للاختبارات والضمانات والهندسة لمواجهة الأضرار الحالية والقابلة للتحديد، مع تجنب تباطؤ شامل قد يعرقل الابتكار والتقدم في السلامة معاً. 12