هينتون يحذّر من خطر الذكاء الاصطناعي الفائق: «لا أحد يعرف» كيف يقدّر الاحتمال فعلاً

قال جيفري هينتون، عالم الحاسوب الحائز جائزة نوبل وأحد رواد الذكاء الاصطناعي الحديث، إن احتمالاً بنسبة 10% لأن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر خلال السنوات العشر المقبلة «لا يبدو تقديراً غير معقول». لكنه ألحق ذلك بتحفّظ جوهري: «لا أحد يعرف حقاً كيف يقدّم تقديراً منطقياً» لهذا الخطر. 91012

هذا ليس تنبؤاً بأن الانقراض سيقع، ولا قولاً إن روبوتات الدردشة والنماذج المتاحة اليوم تملك هذه القدرة. بل هو دعوة إلى الحذر أمام احتمال ظهور أنظمة مستقبلية تتفوق على البشر في القدرات الاستراتيجية والتقنية، من دون ضمانة مؤكدة لإبقائها تحت السيطرة.

لماذا لا يعدّ هينتون نسبة الـ10% توقعاً حتمياً؟

في مقابلة مع برنامج Newsnight على بي بي سي، وافق هينتون على أن نسبة 10% ليست غير معقولة لحدث انقراض بشري ناجم عن الذكاء الاصطناعي خلال عقد. ومنطلقه هو حجم المجهول: لم يسبق للبشرية أن عاشت إلى جانب كيانات قد تصبح أذكى منها، ولذلك لا نعرف على وجه اليقين ما الذي قد يحدث. 910

وكان هينتون قد طرح تقديرات مقلقة أيضاً على أفق أطول؛ ففي أواخر 2024 قال إن احتمال أن يقود الذكاء الاصطناعي إلى انقراض البشر خلال ثلاثة عقود يتراوح بين 10% و20%. وفي 2025 وصف ذلك بأنه حكم حدسي لا توقع محسوب. 1415

والفرق هنا أساسي: تقدير المخاطر ليس إعلاناً عن حتمية وقوع الكارثة. فبالنسبة إلى هينتون، فإن ضخامة العواقب المحتملة تجعل عدم اليقين سبباً لزيادة الحذر، لا للاطمئنان.

ما السيناريو الذي يثير قلقه؟

لا يتحدث هينتون عن تمرد آلي على طريقة أفلام الخيال العلمي. فقلقه يدور حول نظام ذكاء اصطناعي يتمتع بقدرات تفوق البشر بفارق كبير، وقد يستخدمها لإحداث فوضى أو لتحقيق أهداف تتعارض مع مصالح الإنسان.

ومن المسارات التي نوقشت: التلاعب بالبشر، وتصميم فيروسات بيولوجية أو حاسوبية، وتنفيذ هجمات سيبرانية، أو المساعدة في تعطيل بنى تحتية حيوية. وهذه آليات ضرر مفترضة لأنظمة مستقبلية بالغة القدرة، وليست قدرات مثبتة لأدوات الذكاء الاصطناعي الحالية. 1011

ويؤكد إيفان هوبينغر، المسؤول عن علم المواءمة في شركة Anthropic، هذا التمييز؛ إذ قال إن خطر النماذج المتاحة حالياً منخفض في تقديره. أما مصدر قلقه فهو أن تصبح الأنظمة اللاحقة أكثر قدرة بكثير، أو أن تحسن أداءها ذاتياً بسرعة تتجاوز قدرة الباحثين على إدارتها بأمان. 11624

استقالة جاكوب كوكسون وتحذير من داخل Anthropic

تصاعد النقاش بعد مغادرة الباحث جاكوب كوكسون شركة Anthropic وقطاع الذكاء الاصطناعي. واتهم كوكسون Anthropic وOpenAI بالتسابق نحو ذكاء فائق قادر على تحسين نفسه، من دون تصرف مسؤول بالقدر الكافي، واصفاً ذلك بأنه مجازفة بأرواح البشر. 317

لكن كوكسون لم يقدّم تنبؤاً رقمياً محدداً بانتهاء البشرية بحلول عام 2030. وكان طرحه أضيق، وإن كان لافتاً: أن العاملين على تطوير أنظمة الذكاء الاصطناعي المتقدمة يعتقدون بجدية أن هذه التكنولوجيا قد تقتل الجميع قبل نهاية العقد. 57

وأيّد هوبينغر جدية هذا القلق علناً، وقال إنه يضع بنفسه احتمالاً يتجاوز 10% لأن يقتل الذكاء الاصطناعي جميع البشر خلال العقد المقبل، مع تأكيده أن Anthropic تبذل ما في وسعها. لكنه أضاف أن الشركة لا تملك بعد خطة لحل مشكلة مواءمة الذكاء الاصطناعي الفائق، وليست بوضوح على مسار تطوير هذه الخطة. 16

ما المقصود بـ«المواءمة»؟

المواءمة هي مشكلة ضمان أن تتصرف أنظمة الذكاء الاصطناعي المتقدمة بصورة متسقة مع الأهداف البشرية المقصودة، وأن تبقى قابلة للسيطرة حتى في ظروف لم يتوقعها مطوروها.

ولا يقتصر الأمر، بالنسبة إلى باحثي السلامة، على جعل النظام يرفض طلباً ضاراً. فالمسألة هي ما إذا كان نظام يتمتع باستقلالية واسعة، ووصول إلى أدوات، وقدرات لا يفهمها مشغلوه بالكامل، يمكن توجيهه بأمان في ظروف العالم الواقعي وتحت الضغط.

ولا تثبت تصريحات هوبينغر أن مواءمة الأنظمة الفائقة مستحيلة، لكنها تعني أنه لا يرى حلاً مثبتاً حتى الآن يضمن مواءمتها قبل احتمال ظهورها. 16

أين يتفق الخبراء وأين يختلفون؟

لا يوجد إجماع على رقم هينتون البالغ 10%.

فغاري ماركوس أيّد الفكرة الاحترازية الأساسية لهينتون: من غير الحكمة تطوير ذكاء فائق قبل وجود توافق علمي على إمكان بنائه بأمان وإبقائه تحت السيطرة. لكن التقارير تشير أيضاً إلى أن ماركوس لا يرى مساراً واقعياً قريب الأجل يقود إلى انقراض البشر. وهذا يوضح جوهر الخلاف: يمكن الاتفاق على ضرورة الحواجز الوقائية من دون الاتفاق على احتمال الكارثة أو توقيتها. 1141

لذلك، ينبغي قراءة الأرقام المتداولة بوصفها أحكاماً شخصية من خبراء في ظل عدم يقين كبير، لا قياسات دقيقة أو حقائق محسومة.

السؤال العملي: ما الدليل المطلوب قبل المضي قدماً؟

أوسع نقاط الاتفاق ليست أن انقراض البشر بسبب الذكاء الاصطناعي أمر مؤكد، بل أن احتمال فقدان السيطرة على أنظمة تفوق مشغليها قدرةً يستحق نقاشاً عاماً ورقابة قبل أن تتجاوز وتيرة التطوير جهود السلامة.

وتقود تحذيرات هينتون، واستقالة كوكسون، وملاحظات هوبينغر عن المواءمة إلى سؤال واحد لم يُحسم: ما الأدلة التي ينبغي أن يطالب بها المجتمع قبل نشر أو مواصلة توسيع أنظمة قد تصبح فائقة القدرة استراتيجياً؟

ومن المفيد الفصل بين ثلاث أفكار تختلط كثيراً في النقاش:

• أن نماذج الذكاء الاصطناعي الحالية تمثل تهديداً وجودياً مباشراً.
• أن أنظمة مستقبلية قد تكتسب قدرات تخلق تهديداً من هذا النوع.
• أن احتمال هذه النتيجة يمكن تقديره بدقة رقمية.

تدعم المصادر اعتبار الفكرة الثانية مصدر قلق جدي لدى باحثين بارزين، بينما يصف هوبينغر خطر النماذج الحالية بأنه منخفض، ويقول هينتون إن حساب الاحتمال نفسه بشكل موثوق غير ممكن حالياً. 11016