الإجاباتمنشور17 المصادر
لماذا استقال جاكوب كوكسون من أنثروبيك؟ وما دلالة تحذيره من سباق الذكاء الاصطناعي
قال جاكوب كوكسون إنه غادر أنثروبيك لأن المنافسة بين مختبرات الذكاء الاصطناعي المتقدمة تدفع نحو أنظمة ذاتية التحسن بوتيرة أسرع من قدرة أدوات السلامة والتحكم على مواكبتها. قدّر إيفان هوبينغر، الباحث في مواءمة الذكاء الاصطناعي لدى أنثروبيك، احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد بأكثر من 10%، لكنه تقدير شخ...
نشر بواسطةتم التحرير باستخدام GPT-5.6 Terraتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- قال جاكوب كوكسون إنه غادر أنثروبيك لأن المنافسة بين مختبرات الذكاء الاصطناعي المتقدمة تدفع نحو أنظمة ذاتية التحسن بوتيرة أسرع من قدرة أدوات السلامة والتحكم على مواكبتها.
- قدّر إيفان هوبينغر، الباحث في مواءمة الذكاء الاصطناعي لدى أنثروبيك، احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد بأكثر من 10%، لكنه تقدير شخصي لا توقع علمي محسوم.
- يتحول الجدل إلى معركة سياسات: داريو أمودي يدعو إلى إبطاء تطوير النماذج الأشد قدرة ورقابة مستقلة، فيما يحذر منتقدون من أن القواعد الصارمة قد تعزز نفوذ أكبر الشركات.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
استقال جاكوب كوكسون من شركة أنثروبيك احتجاجاً على ما يراه ديناميكية تنافسية خطرة في سباق الذكاء الاصطناعي المتقدم: شركات تسعى إلى بناء أنظمة أكثر استقلالية، وربما قادرة على تحسين نفسها، قبل توافر وسائل موثوقة لضبطها. وقال كوكسون، الذي ذكر أنه عمل في أبحاث التدريب المسبق للنماذج لدى أنثروبيك وOpenAI، إن الشركتين لا تتصرفان بمسؤولية كافية. 2
3
ما جوهر تحذير كوكسون؟
في سلسلة منشورات علنية على منصة X، اتهم كوكسون أنثروبيك وOpenAI بأنهما «تتسابقان مباشرة نحو ذكاء فائق ذاتي التحسن وتقامران بحياتنا». ولا يقول إن روبوتات الدردشة الحالية على وشك القضاء على البشر من تلقاء نفسها؛ بل يحذر من مرحلة مستقبلية قد تتفوق فيها أنظمة الذكاء الاصطناعي على البشر في مهام عالية التأثير، ومنها القدرات السيبرانية، وتتمكن من اكتساب موارد أو نفوذ فعلي قبل أن ينجح البشر في مواءمة أهدافها مع القيم والمصالح البشرية. 3
5
8
بعبارة أبسط، يدور تحذيره حول تسارع القدرات والحوكمة: إذا تطورت النماذج بسرعة تفوق تقدم أبحاث السلامة، فقد تصبح عواقب الإخفاق جسيمة، حتى إن كانت النماذج المتاحة اليوم محدودة.
لماذا قرر المغادرة؟
قال كوكسون لهيئة الإذاعة البريطانية BBC إن العاملين في مجال الذكاء الاصطناعي المتقدم «خائفون حقاً» من سرعة التقدم. وأضاف أنه إذا لم يتباطأ هذا المسار، فهناك «احتمال قوي» أن يموت الجميع في المستقبل القريب. 1
ويرى أن الإبطاء الفعلي لا يمكن أن تنفذه شركة واحدة أو دولة واحدة منفردة؛ فالحل الدائم، من وجهة نظره، يتطلب تنسيقاً دولياً يشمل الصين، حتى لا يؤدي تشدد طرف واحد إلى انتقال التطوير الأكثر تقدماً إلى مكان آخر. 1
لذلك، لم تكن استقالته اتهاماً بأنه شاهد حادثة سلامة محددة داخل أنثروبيك، بل رفضاً علنياً للحوافز التي تحكم تطوير النماذج المتقدمة. وقدمت التغطية الصحفية رحيله بوصفه اعتراضاً على سباق لبناء أنظمة قد تعجز الشركات عن السيطرة عليها. 2
كيف استقبل باحثون آخرون هذه المخاوف؟
أيد إيفان هوبينغر، الباحث في مواءمة الذكاء الاصطناعي لدى أنثروبيك، القلق العام الذي طرحه كوكسون. وقال إن خطر النماذج الموجودة حالياً منخفض، لكنه قدّر شخصياً احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال السنوات العشر المقبلة بأكثر من 10%. 13
هذا الرقم ليس نتيجة قياس تجريبي ولا توقعاً مثبتاً، بل تقدير شخصي لسيناريو مستقبلي ذي احتمال غير محسوم وعواقب بالغة. والتغطية المرتبطة باستقالة كوكسون تكشف خلافاً واسعاً حول الجدول الزمني واحتمالات الخطر والتدابير المناسبة؛ ولا تثبت وجود إجماع علمي على قرب انقراض البشر. 13
المخاطر الأقرب: إساءة الاستخدام السيبراني وتسارع القدرات
المخاوف العملية في هذا النقاش أقرب إلى إساءة الاستخدام في الهجمات السيبرانية والتجارب الخطرة ووكلاء الذكاء الاصطناعي الأكثر قدرة، لا إلى صورة سينمائية لنظام يهاجم البشرية فجأة من تلقاء ذاته.
وأشارت تقارير إلى إمكان استخدام النماذج المتقدمة في المساعدة على الاختراقات وغيرها من الاستخدامات عالية التأثير. كما ذُكر ادعاء متعلق بوكلاء تابعين لـOpenAI ومنصة Hugging Face، لكن التفاصيل المتاحة لا تكفي للتحقق المستقل من ملابسات الواقعة أو نطاقها أو ما إذا كانت مصرحاً بها. 2
63
الخلاصة العملية هي أن الحديث عن «الذكاء الفائق» لا ينبغي أن يحجب الأسئلة القابلة للاختبار اليوم: ما الذي تستطيع النماذج فعله؟ كيف تُقيَّم قبل الإطلاق؟ هل تُكتشف محاولات إساءة الاستخدام؟ ومن يملك القدرة على التحقق المستقل من ادعاءات شركات المختبرات بشأن السلامة؟
مقترح داريو أمودي: تنظيم سرعة السباق لا إيقافه
بعد تحذير كوكسون بفترة وجيزة، دعا داريو أمودي، الرئيس التنفيذي لأنثروبيك، إلى إبطاء وتيرة تحسين قدرات النماذج المتقدمة في مقال بعنوان We Must Pace the Frontier. ولم تكن الدعوة إلى وقف شامل لتطوير الذكاء الاصطناعي، بل إلى منح تدابير الحد من المخاطر وقتاً لمواكبة القفزات السريعة في القدرات. 1
ويتضمن الإطار المعلن:
- مراقبة وتقييمات مستقلة للنماذج المتقدمة؛
- معايير سلامة مشتركة في القطاع وبين الدول الديمقراطية؛
- وتنسيقاً دولياً لاحقاً لحوكمة الذكاء الاصطناعي، مع إشراك الصين.
1
وأيد سام ألتمان، الرئيس التنفيذي لـOpenAI، الاتجاه العام للمقترح، وقال إن الاستعانة بمقيمين مستقلين يملكون مستوى وصول شبيهاً بالموظفين فكرة جيدة. كما أيد إيلون ماسك دعوة أمودي، وكتب أن «داريو محق». 1
لماذا يخشى منتقدون من مشكلة احتكارية؟
تلقت مقترحات السلامة الصادرة عن كبرى مختبرات الذكاء الاصطناعي المتقدم دعماً وتشكيكاً في آن واحد. إذ حذر منتقدون، بينهم كليمان ديلانغ، الرئيس التنفيذي لمنصة Hugging Face، من أن القيود الصارمة على النماذج المتقدمة قد تصب في مصلحة الشركات الأقدر مالياً على تحمل تكاليف الامتثال. 1
3
هذا النقد لا يثبت أن مخاوف كوكسون غير صادقة، لكنه يطرح سؤالاً مختلفاً: هل يمكن لتنظيم السلامة أن يقلل مخاطر حقيقية، وفي الوقت نفسه يركز النفوذ في أيدي عدد محدود من المختبرات الكبرى؟
وهنا تكمن عقدة النقاش: تحتاج الحوكمة الموثوقة إلى رقابة أشد على الأنظمة الأعلى قدرة، من دون تحويل متطلبات السلامة إلى حاجز يحمي الشركات القائمة من المنافسة.
الخلاصة
غادر كوكسون أنثروبيك لأنه خلص إلى أن السباق بين شركات الذكاء الاصطناعي الرائدة هو الخطر نفسه: إذ قد تتغلب حوافز زيادة القدرات على الوقت المطلوب لاختبار الأنظمة والسيطرة عليها وبناء تنسيق دولي بشأنها. 2
3
أما أكثر ادعاءاته إثارة للقلق فما زالت موضع خلاف. فهي تعبر عن قلق جدي لدى بعض العاملين من داخل القطاع، لكنها ليست دليلاً على أن الانقراض وشيك. والتحدي الأشد إلحاحاً هو بناء ضمانات يمكن التحقق منها بصورة مستقلة للأنظمة المتزايدة قدرة، من دون أن تتحول تلك الضمانات إلى أداة لترسيخ هيمنة الشركات التي تطورها. 1
13
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "لماذا استقال جاكوب كوكسون من أنثروبيك؟ وما دلالة تحذيره من سباق الذكاء الاصطناعي"؟
قال جاكوب كوكسون إنه غادر أنثروبيك لأن المنافسة بين مختبرات الذكاء الاصطناعي المتقدمة تدفع نحو أنظمة ذاتية التحسن بوتيرة أسرع من قدرة أدوات السلامة والتحكم على مواكبتها.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
قال جاكوب كوكسون إنه غادر أنثروبيك لأن المنافسة بين مختبرات الذكاء الاصطناعي المتقدمة تدفع نحو أنظمة ذاتية التحسن بوتيرة أسرع من قدرة أدوات السلامة والتحكم على مواكبتها. قدّر إيفان هوبينغر، الباحث في مواءمة الذكاء الاصطناعي لدى أنثروبيك، احتمال أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد بأكثر من 10%، لكنه تقدير شخصي لا توقع علمي محسوم.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
يتحول الجدل إلى معركة سياسات: داريو أمودي يدعو إلى إبطاء تطوير النماذج الأشد قدرة ورقابة مستقلة، فيما يحذر منتقدون من أن القواعد الصارمة قد تعزز نفوذ أكبر الشركات.