جيفري هينتون: تقدير خطر انقراض البشر بسبب الذكاء الاصطناعي بـ10% «ليس غير معقول»

قال جيفري هينتون، أحد رواد الذكاء الاصطناعي والحائز جائزة نوبل في الفيزياء لعام 2024، إن تقدير احتمال قدره 10% لانقراض البشر بسبب الذكاء الاصطناعي خلال العقد المقبل «ليس غير معقول». لكنه أرفق ذلك بتحفظ جوهري: «لا أحد يعرف حقًا كيف يقدّم تقديرًا معقولًا». 14

المقصود ليس أن هينتون يقدّم توقعًا علميًا محسوبًا بدقة. بل إنه يرى أن استبعاد هذا الاحتمال تمامًا لا يبرره حجم المجهول ولا ضخامة العواقب المحتملة إذا أصبحت الأنظمة المستقبلية أشد قدرة بكثير.

ما الذي يثير قلق هينتون؟

يميّز هينتون بين مسألتين مترابطتين: إساءة البشر استخدام الذكاء الاصطناعي، واحتمال أن تصبح أنظمة شديدة القدرة عصية على التحكم في مرحلة لاحقة.

في محاضرته الخاصة بنوبل، أشار إلى مخاطر قائمة أو قريبة المدى، منها أنظمة التوصية التي تغذي الاستقطاب، والمراقبة الجماعية لدى الحكومات السلطوية، ورسائل التصيد الاحتيالي المدعومة بالذكاء الاصطناعي. كما حذّر من إمكان استخدامه مستقبلًا لصنع فيروسات خطرة وأسلحة فتاكة تختار بنفسها من تقتل أو تصيب، ودعا الحكومات والمنظمات الدولية إلى تحرك عاجل وحازم.

ولا يدور القلق حول نقطة ضعف واحدة: فقد تجعل الأنظمة المتقدمة التضليل أكثر إقناعًا وتخصيصًا للأفراد، وتساعد مهاجمين في اكتشاف ثغرات برمجية، أو تخفض عوائق إساءة الاستخدام البيولوجي والسيبراني. وفي السيناريو الأشد تطرفًا لدى المدافعين عن سلامة الذكاء الاصطناعي، قد يكتسب نظام ذو قدرات استراتيجية وتقنية وتشغيلية واسعة موارد أو نفاذًا إلى بنى تحتية حيوية، مع مقاومة محاولات البشر تقييده. 5

«المواءمة»: العقدة التقنية في التحذير

جوهر المسألة هو المواءمة: هل يمكن ضمان أن يسعى نظام يفوق البشر قدرةً إلى الأهداف التي يقصدها البشر فعلًا، وأن يقبل التصحيح أو الإيقاف، وأن يبقى ضمن حدود فعالة؟

جاكوب كوكسون، الباحث السابق في Anthropic وOpenAI، استقال من Anthropic محذرًا من أن مختبرات كبرى «تتسابق مباشرة نحو ذكاء فائق يحسّن نفسه بنفسه»، وتخاطر بحياتنا. 18 ويركز تحذيره على احتمال أن تصبح الأنظمة قادرة على تطوير قدراتها بوتيرة أسرع من تطور أساليب السلامة.

وأيّد إيفان هوبينغر، رئيس علم المواءمة في Anthropic، جوهر هذا التحذير علنًا. وقال إنه يقدّر شخصيًا احتمالًا يزيد على 10% لأن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر خلال العقد المقبل، مضيفًا أن Anthropic لا تملك بعد خطة لحل مواءمة الذكاء الفائق، ولا تبدو بوضوح على مسار يحقق ذلك. 16

ولا يقول هذا المعسكر إن نماذج اليوم على وشك القضاء على البشر من تلقاء نفسها؛ فقد وصف هوبينغر خطر النماذج الحالية بأنه منخفض. القلق يتعلق بمرحلة انتقال مستقبلية: أن تصبح النماذج قادرة بما يكفي على تحسين ذاتها أو التأثير الفعّال في العالم قبل أن يعرف مطوروها كيف يسيطرون عليها على نحو موثوق. 116

لماذا يرفض باحثون آخرون سيناريو الانقراض القريب؟

لا ينكر باحثون متشككون أن الذكاء الاصطناعي قد يفاقم الجرائم السيبرانية والتضليل وإساءة الاستخدام البيولوجي. لكن اعتراضهم يقع عند القفزة من أضرار جسيمة إلى انقراض البشر.

يرى غاري ماركوس أن الذكاء الاصطناعي قد يسهم في هجمات إلكترونية وتهديدات بيولوجية وحملات تضليل وتصعيد نزاعات، لكنه لا يرى مسارًا واقعيًا قريبًا ينتهي حرفيًا بـ«قتل جميع البشر». 15 وبعبارة أخرى، تستحق المخاطر الملموسة معالجة جادة من دون افتراض أن نماذج اللغة الكبيرة الحالية تقود مباشرة إلى ذكاء فائق خارج السيطرة.

أما يان لوكون، فيشكك بدوره في تقديرات «احتمال الهلاك» التي تُطرح بثقة عالية. ووُصف موقفه بأنه يضع خطر انقراض البشر بالذكاء الاصطناعي عند مستوى أدنى بكثير من خطر محرقة نووية، مع التشديد على أن هذه الأرقام نفسها تخمينات بطبيعتها.

لذلك، لا ينقسم النقاش ببساطة إلى قلقين وغير قلقين، بل يتمحور حول سؤالين لم يُحسما:

1. الجدول الزمني للقدرات: متى، إن حدث ذلك أصلًا، ستصبح الأنظمة فائقة في طيف واسع من المهام وقادرة على تحسين أدائها ذاتيًا؟
2. قابلية التحكم: إذا حدث ذلك، فهل يمكن تطوير أنظمة تظل قابلة للسيطرة بصورة موثوقة، أم ستفشل الضمانات أمام قدرات أعلى وضغوط المنافسة على الإطلاق السريع؟

ماذا تعني نسبة 10%، وماذا لا تعني؟

لا توجد طريقة علمية مُثبتة لحساب احتمال دقيق بأن يتسبب الذكاء الاصطناعي في انقراض البشر. لذا فإن تقديرات مثل تقدير هينتون أو هوبينغر أحكام خبراء في ظل عدم يقين عميق، وليست احتمالات مستخرجة من بيانات تاريخية قابلة للتكرار. 14

لهذا لا ينبغي قراءة الرقم باعتباره دليلًا على أن الانقراض مرجح. وفي المقابل، فإن غياب رقم موثوق لا يثبت أن الخطر ضئيل. والخلاصة العملية الأضيق هي أن الخبراء يختلفون بشدة حول الاحتمال والمسار، لكن كثيرين يتفقون على أن الذكاء الاصطناعي القوي قد يخلق تحديات أمنية وحوكمية خطيرة قبل وقت طويل من أي سيناريو افتراضي للانقراض.

ما الذي يعنيه ذلك للسياسات العامة؟

دعا هينتون إلى اهتمام عاجل من الحكومات والمنظمات الدولية بمخاطر الذكاء الاصطناعي، بينما شدد كوكسون على أن التنظيم عنصر أساسي لخفض الخطر.

ويتركز النقاش العملي على ضمانات قابلة للتطبيق قبل الإطلاق: اختبارات صارمة للنماذج المتقدمة، وتعزيز الأمن السيبراني والحماية البيولوجية، والإبلاغ عن الحوادث الخطيرة، والرقابة المستقلة قبل منح الأنظمة استقلالية أكبر أو وصولًا إلى أدوات وموارد حساسة.

سيبقى الجدل حول نسبة 10% مفتوحًا. لكن رسالة هينتون ليست أن أحدًا يستطيع حساب الاحتمالات بثقة، بل أن ضخامة الرهان وعمق عدم اليقين يجعلان انتظار اليقين الكامل معيارًا غير مناسب لاتخاذ الاحتياطات. 14