الإجاباتمنشور22 المصادر
هل يهدد الذكاء الاصطناعي بقاء البشر؟ تحذيرات داخلية تصطدم بالتشكيك والدعوة إلى إبطاء السباق
تقدير إيفان هوبينغر بأن احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد يتجاوز 10% هو حكم شخصي، لا توقع علمي محسوب أو إجماع بحثي. استقالة جاكوب كوكسون وتحذير بلال تشوغتاي زادا القلق، لكن المشككين يرون أن الكفاءة الرقمية لا تمنح النظام تلقائياً القدرة المادية اللازمة لإحداث ضرر كارثي.
نشر بواسطةتم التحرير باستخدام GPT-5.6 Terraتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- تقدير إيفان هوبينغر بأن احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد يتجاوز 10% هو حكم شخصي، لا توقع علمي محسوب أو إجماع بحثي.
- استقالة جاكوب كوكسون وتحذير بلال تشوغتاي زادا القلق، لكن المشككين يرون أن الكفاءة الرقمية لا تمنح النظام تلقائياً القدرة المادية اللازمة لإحداث ضرر كارثي.
- المسار العملي الذي يكتسب زخماً يتمثل في تقييم مستقل، وقياس القدرات الخطرة، وتنسيق قواعد السلامة بين المختبرات والدول، مع معالجة الأضرار الحالية مثل الهجمات السيبرانية والمراقبة والاحتيال.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
ليس الجدل الدائر حول احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشر مواجهةً بسيطة بين من يراه آمناً ومن يراه خطراً. بل يتمحور حول سرعة تطور القدرات، والشروط التي ينبغي أن تتحقق كي يتمكن نظام ما من إحداث ضرر لا رجعة فيه، وحجم الأدلة التي يجب أن يطالب بها المجتمع قبل فرض قيود أشد.
وقد أعادت تحذيرات صادرة عن باحثين عملوا في مختبرات رائدة إلحاح هذا النقاش إلى الواجهة. وفي المقابل، لا يرفض كثير من المشككين في خطاب «نهاية البشرية» اختبارات السلامة أو الحوكمة؛ إنما يعترضون على تحويل سيناريوهات مستقبلية غير مثبتة إلى حقائق مؤكدة. والسؤال السياسي الأهم بات: هل يستطيع مطورو النماذج المتقدمة إثبات السيطرة عليها ونشرها بأمان كلما ازدادت قدراتها؟
تحذيرات من داخل القطاع: سباق نحو أنظمة قد يصعب التحكم فيها
استقال جاكوب كوكسون، الباحث السابق في شركة Anthropic والذي قال إنه عمل أيضاً في OpenAI، في سبتمبر/أيلول 2026. واتهم الشركتين بإعطاء المنافسة أولوية على التطوير المسؤول، قائلاً إنهما تتسابقان نحو «ذكاء فائق يحسن نفسه ذاتياً». 49
وأيّد إيفان هوبينغر، رئيس علم المواءمة في Anthropic، جوهر تحذير كوكسون. وقال إنه يقدّر شخصياً احتمال أن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل بأكثر من 10%، مضيفاً أن Anthropic لا تملك بعد خطة لحل مشكلة مواءمة الذكاء الفائق مع الأهداف البشرية. 16 لكن هذا الرقم تقدير شخصي وليس إجماعاً علمياً أو احتمالاً محسوباً تجريبياً للانقراض.
12
ووجّه بلال تشوغتاي، الباحث السابق في Google DeepMind، تحذيراً مشابهاً، إذ قال إنه يعتقد أن الذكاء الاصطناعي قادر من حيث المبدأ على قتل الجميع، وإن الوقت لتفادي ذلك قد يكون آخذًا في النفاد. 2
ولا تقول هذه التحذيرات عادة إن روبوتات الدردشة الحالية ستتحول فجأة إلى خطر بذاتها. فالسيناريو المخيف، وفق هذا الطرح، مشروط بسلسلة تطورات محتملة: أن تُسرّع الأنظمة المقبلة أبحاث الذكاء الاصطناعي نفسها بصورة ملموسة، وتعمل باستقلالية أكبر، وتفلت من الإشراف البشري الفعال، أو توسّع الوصول إلى قدرات سيبرانية وبيولوجية ومؤسسية أسرع من تحسن وسائل الأمان. ومدى واقعية هذا المسار وتوقيته هو محور الخلاف الحقيقي.
لماذا لا يُعد تقدير 10% توقعاً محسومًا؟
لفت رقم هوبينغر الانتباه لصدوره عن باحث بارز في مواءمة الذكاء الاصطناعي، لكنه يحتاج إلى قراءة دقيقة: إنه حكم فردي في ظل درجة عالية من عدم اليقين، وليس نسبة تستند إلى بيانات تاريخية أو نموذج قادر على قياس خطر انقراض البشر. 12
كما يفترض التقدير عدداً من الأمور التي لم تُحسم بعد:
- أن تصبح الأنظمة أقدر بكثير من نماذج اليوم.
- أن تتحول تلك القدرات إلى استقلال استراتيجي مستمر أو إلى نفوذ ضار في العالم الواقعي.
- أن تفشل الضوابط التقنية والمشغلون والمؤسسات وإجراءات المواجهة في الاحتواء أو منع سوء الاستخدام.
- أن تعجز أبحاث السلامة والمواءمة عن مواكبة نمو القدرات.
ويمكن مناقشة كل حلقة من هذه السلسلة على حدة. وهذا لا يجعل القلق هامشياً، لكنه يعني أن الرقم المتداول في العناوين لا ينبغي التعامل معه كتنبؤ مثبت.
حجة المشككين: الذكاء الرقمي لا يساوي نفوذاً في العالم المادي
يعترض المشككون على القفزة من التفوق في البرمجيات واللغة إلى القدرة على إلحاق ضرر مادي بحجم كارثي. وفي مثال متكرر من مجال الأحياء، قال إريك شينغ إن توليد مخطط افتراضي لجينوم فيروس باستخدام نموذج لغوي يختلف جذرياً عن إنتاج فيروس فعلي: فالحصول على المواد، والتصنيع، وقابلية البقاء البيولوجي، والعمل المخبري، والاختبار، كلها حواجز منفصلة. 46
وهذا التفريق مهم. قد يقدم النموذج معلومات أو تصاميم، لكن تحويلها إلى ضرر واقعي يتطلب في كثير من الحالات مرافق متخصصة، وخبرة عملية ضمنية، وسلاسل توريد، وتجارب متكررة، وإمكانية الوصول إلى مواد خاضعة للرقابة. لا يعني ذلك انعدام مخاطر الأمن البيولوجي، لكنه يشكك في افتراض أن القدرة الرقمية وحدها تمنح فوراً قدرة مادية حاسمة.
ومن أبرز المنتقدين لادعاءات الانقراض جنسن هوانغ، الرئيس التنفيذي لشركة Nvidia، الذي وصف فكرة أن الذكاء الاصطناعي سينهي البشرية بأنها «هراء كامل». 33 كما رأى مارك كوبان أن ردود فعل البشر على الادعاءات المثيرة للذعر قد تكون أخطر من أسراب الوكلاء الذكيين نفسها.
43
وعليه، لا تعني الرؤية المتشككة بالضرورة أن الذكاء الاصطناعي المتقدم لا يحتاج إلى ضمانات. لكنها تقول إن الادعاءات الاستثنائية حول انقراض وشيك تستلزم أدلة أقوى من مجرد الاستقراء من أداء نماذج اليوم ومسارات مستقبلية افتراضية.
أرضية وسط: إبطاء تسارع القدرات والتحقق من السلامة
طرح داريو أمودي، الرئيس التنفيذي لـAnthropic، استجابة أكثر عملية؛ فهو لا يعامل الانقراض كيقين ولا ينفيه تماماً. دعا أمودي إلى إبطاء وتيرة تحسين قدرات النماذج لإتاحة وقت لأعمال السلامة، واقترح إطاراً يضم مقيمين مستقلين داخل الشركات بصلاحيات وصول مماثلة للموظفين، إلى جانب تنسيق بين شركات الذكاء الاصطناعي المتقدمة. 18
وذكرت رويترز أن سام ألتمان، الرئيس التنفيذي لـOpenAI، كان ضمن القادة الداعين إلى تباطؤ منسق، في وقت لا يزال فيه القطاع منقسماً حول مدى الاعتماد على ضمانات تقودها السوق. 19 كما أفادت تقارير بأن ألتمان أيد الاستعانة بمقيمين خارجيين ضمن المقترح.
20
وينقل هذا النهج النقاش من التنبؤات المجردة إلى ممارسات قابلة للفحص:
- تقييم مستقل: منح مراجعين خارجيين مؤهلين وصولاً ذا معنى لتدقيق ادعاءات السلامة، بدلاً من الاكتفاء بتصريحات الشركات.
18
- حدود مرتبطة بالقدرات: تشديد الرقابة أو تقييد النشر عندما تُظهر النماذج تقدماً ملموساً في مجالات خطرة، مثل العمليات السيبرانية أو سلوك الوكلاء المستقلين.
- التنسيق بين المختبرات: تقليل الحوافز التي تدفع الشركات إلى خفض هوامش السلامة خشية التخلف عن المنافسين.
- التعاون الدولي: تنسيق المعايير بين الحكومات وكبار مطوري الذكاء الاصطناعي، بما في ذلك ترتيبات تخفف الضغط التنافسي للنشر دون ضمانات كافية.
27
- تقدم السلامة بالتوازي مع تقدم القدرات: اعتبار إثبات التحكم والمراقبة والاستجابة شروطاً يجب أن تواكب ازدياد قوة الأنظمة.
هل تحجب مخاوف المستقبل الأضرار القائمة بالفعل؟
يوجد نقد آخر يتعلق بالأولويات. فحتى لو استحق الخطر الكارثي البحث والتخطيط الاحتياطي، فإن التركيز الأحادي على سيناريوهات الانقراض غير المؤكدة قد يحجب الأضرار المرتبطة بالفعل بالأنظمة المتقدمة وطريقة نشرها.
تشمل الأجندة الأكثر إلحاحاً: إساءة الاستخدام السيبراني، والاحتيال، والمراقبة، والتضليل، والقرارات الآلية التمييزية، واضطراب سوق العمل، وتركز القوة. وقد أشار أمودي نفسه إلى مخاطر إساءة الاستخدام، بما فيها تطوير الأسلحة والهجمات السيبرانية والمراقبة، في تبريره للدعوة إلى إبطاء التطوير. 29
ولا يلزم أن يكون الاختيار بين أضرار الحاضر والمخاطر الكارثية بعيدة المدى. فالضمانات الأفضل قد تخدم الجانبين معاً: ضوابط وصول أقوى، وتقييمات أفضل، وسياسات نشر حذرة، وتدقيق مستقل، والإبلاغ عن الحوادث، ومساءلة واضحة.
ما الذي يغيّره هذا الجدل فعلياً؟
الخلاصة الأقوى ليست أن الانقراض ثبت وقوعه، ولا أنه يمكن تجاهله لأن مسار الكارثة الكامل لم يُثبت. ما يدعمه هذا السجال هو معيار عملي: ينبغي أن تكون ادعاءات السلامة للأنظمة المتزايدة القدرة قابلة للاختبار والتدقيق المستقل، وأن تتناسب الضمانات مع حجم الضرر المحتمل.
قدّم كوكسون وهوبينغر وتشوغتاي حجة للاحتياط في ظل عدم اليقين. ويطعن مشككون مثل هوانغ وشينغ في كفاية الأدلة الحالية لتبرير استنتاجات وشيكة عن نهاية العالم. أما أمودي وألتمان فيشيران إلى استجابة لا تتطلب حسم كل خلاف فلسفي أولاً: إبطاء سباق النماذج المتقدمة، وقياس القدرات الخطرة، وإتاحة مراجعة خارجية موثوقة، والتنسيق قبل أن تحوّل المنافسة ادعاءات السلامة غير المتحقق منها إلى أساس افتراضي للنشر. 49
16
33
18
19
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "هل يهدد الذكاء الاصطناعي بقاء البشر؟ تحذيرات داخلية تصطدم بالتشكيك والدعوة إلى إبطاء السباق"؟
تقدير إيفان هوبينغر بأن احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد يتجاوز 10% هو حكم شخصي، لا توقع علمي محسوب أو إجماع بحثي.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
تقدير إيفان هوبينغر بأن احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد يتجاوز 10% هو حكم شخصي، لا توقع علمي محسوب أو إجماع بحثي. استقالة جاكوب كوكسون وتحذير بلال تشوغتاي زادا القلق، لكن المشككين يرون أن الكفاءة الرقمية لا تمنح النظام تلقائياً القدرة المادية اللازمة لإحداث ضرر كارثي.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
المسار العملي الذي يكتسب زخماً يتمثل في تقييم مستقل، وقياس القدرات الخطرة، وتنسيق قواعد السلامة بين المختبرات والدول، مع معالجة الأضرار الحالية مثل الهجمات السيبرانية والمراقبة والاحتيال.
المصادر
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns