الإجاباتمنشور20 المصادر
تحذير أليكس تيرنر: سباق الذكاء الاصطناعي قد يتجاوز قدرة البشر على السيطرة
يحذر أليكس تيرنر، الباحث السابق في DeepMind، من أن نماذج الذكاء الاصطناعي المتقدمة قد تتطور بوتيرة تتجاوز قدرة الشركات والحكومات والقوى الكبرى على إدارتها بأمان. خطة داريو أمودي، الرئيس التنفيذي لـ Anthropic، تقترح إبطاء نمو القدرات بما يسمح للحواجز الأمنية والتقييم المستقل باللحاق، لا وقف البحث أو التدريب بالكامل.
نشر بواسطةتم التحرير باستخدام GPT-5.6 Terraتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- يحذر أليكس تيرنر، الباحث السابق في DeepMind، من أن نماذج الذكاء الاصطناعي المتقدمة قد تتطور بوتيرة تتجاوز قدرة الشركات والحكومات والقوى الكبرى على إدارتها بأمان.
- خطة داريو أمودي، الرئيس التنفيذي لـ Anthropic، تقترح إبطاء نمو القدرات بما يسمح للحواجز الأمنية والتقييم المستقل باللحاق، لا وقف البحث أو التدريب بالكامل.
- أيد سام ألتمان وإيلون ماسك وديميس هاسابيس التوجه العام، لكن الخلاف الجوهري لا يزال قائماً: هل يمكن مواصلة السباق مع بناء الضمانات، أم ينبغي حظر مسارات قدرات محددة؟
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind scalable-alignment scientist Alex Turner say about AI development moving faster than governments, companies,. Article summary: Alex Turner’s argument is that frontier AI is advancing on a timetable that neither companies nor governments—and certainly not rival powers locked in a US–China race—can reliably govern. His prescription is materially s. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
يرى أليكس تيرنر، الباحث السابق في Google DeepMind، أن المسألة لم تعد مجرد دعوة عامة إلى إبطاء الذكاء الاصطناعي. فأنظمة «الحدود المتقدمة» — أي النماذج الأشد قدرة التي تتسابق المختبرات الكبرى على تطويرها — قد تتحسن بسرعة تفوق ما تستطيع الشركات والحكومات، بل والقوى المتنافسة مثل الولايات المتحدة والصين، إدارته بصورة موثوقة. وفي تعليقاته العلنية، طرح تيرنر تتبع القدرة الحاسوبية كأساس محتمل لتنظيم فعلي قابل للإنفاذ، محذراً من أن ضبط النفس الطوعي قد لا يصمد في سباق الذكاء الاصطناعي. 17
لماذا غادر تيرنر DeepMind؟
عمل تيرنر في فريق «المواءمة القابلة للتوسع» في DeepMind، وهو مجال يركز على جعل الأنظمة المستقبلية شديدة القدرة متسقة مع رفاه البشر وأهدافهم. واستقال في يونيو/حزيران 2026 بعد أن أبرمت Google اتفاقاً يتيح للبنتاغون استخدام تقنياتها في أعمال مصنفة سرية، بحسب ما قاله. وكان اعتراضه أن الاتفاق لم يتضمن قيوداً ملزمة تمنع استخدام الذكاء الاصطناعي في الأسلحة الذاتية أو المراقبة الجماعية. 18
19
وتربط هذه الخطوة بين حوكمة الاستخدامات العسكرية ومخاوفه الأوسع من الذكاء الاصطناعي القوي: فمبادئ السلامة لا تكتسب قيمتها إلا إذا ظلت قابلة للتطبيق والإنفاذ حين تتصاعد الضغوط التجارية والاستراتيجية.
ما سيناريو «فقدان السيطرة» الذي يحذر منه؟
لا يقول تيرنر إن الكارثة حتمية، بل يطرح حجة قائمة على المخاطر. فإذا أصبحت الأنظمة قادرة على تسريع أبحاث الذكاء الاصطناعي، أو أتمتة أجزاء من تطوير خلفائها، أو العمل على مستوى لا يستطيع البشر فحصه بصورة ذات معنى، فقد تفقد المؤسسات البشرية فرصة التقييم والاحتواء في الوقت المناسب.
الخطر هنا ليس «الذكاء» كمفهوم مجرد، بل تلاقي ثلاثة عناصر: قدرات مرتفعة، واستقلالية في العمل، وغياب سيطرة موثوقة. فنظام يستطيع متابعة أهداف معقدة، واستخدام أدوات، والمساهمة في تحسين أنظمة لاحقة، قد يطلق حلقة تغذية راجعة تتقدم فيها قدراته على سرعة التقييم والحوكمة البشرية.
لذلك قال تيرنر إنه ينبغي منع الشركات من السماح للذكاء الاصطناعي بتحسين نفسه إلى مستوى من الذكاء لا يمكن التحكم فيه. وهذا تحذير من مسار فشل محتمل، لا دليل على أن نظاماً كهذا موجود بالفعل أو أن انقراض البشر نتيجة مؤكدة. 17
19
لماذا يضع تتبع القدرة الحاسوبية في قلب الحل؟
تشير «القدرة الحاسوبية» هنا إلى الرقائق المتخصصة ومراكز البيانات والكهرباء اللازمة لتدريب النماذج المتقدمة. وهي مورد مادي ومحدود نسبياً مقارنة ببرمجيات النماذج نفسها. وقد وصف تيرنر تتبع هذه الموارد بأنه مدخل محتمل إلى تنظيم حقيقي قابل للإنفاذ. 17
عملياً، يمكن لنظام مراقبة الحوسبة أن يمنح الحكومات والجهات المستقلة رؤية لعمليات التدريب الضخمة على نحو غير عادي، وأن يضع عتبات تستوجب ترخيصاً أو مراجعة، وأن يجعل تجاوز حدود القدرات المتفق عليها سراً أكثر صعوبة. ولا يحل ذلك مشكلة المواءمة وحده؛ فقيمته الأساسية حوكمية: يوفر شيئاً ملموساً يمكن تدقيقه قبل نشر النموذج.
وهنا يظهر الفارق بين التعهدات والالتزامات: فالتعهدات الطوعية قد تكشف النوايا، بينما تُصمم المراقبة والمتطلبات الملزمة للعمل حتى حين يكون لدى الشركة دافع اقتصادي قوي للتقدم أسرع.
خطة أمودي: «ضبط وتيرة الحدود» لا إيقافها
يقترح داريو أمودي، الرئيس التنفيذي لشركة Anthropic، ما يسميه «ضبط وتيرة الحدود المتقدمة». والمقصود هو إبطاء معدل تحسن قدرات الذكاء الاصطناعي كي تلحق به أعمال المواءمة وإجراءات الحماية والتقييم الخارجي، لا وقف تدريب النماذج أو التقدم التقني. 16
وتتكون خطته من ثلاث ركائز:
- مقيّمون مستقلون داخل المختبرات: تمنح مختبرات الذكاء الاصطناعي المتقدم مقيّمين خارجيين وصولاً مستمراً بمستوى قريب من وصول الموظفين، للتحقق من ممارسات السلامة، وتقييم المواءمة، والإبلاغ عن الحوادث. وقد التزمت Anthropic بهذه الخطوة.
16
- تنسيق بين الدول الديمقراطية والمختبرات الرائدة: للعمل نحو معايير سلامة مشتركة وحدود للنمو غير المقيد للقدرات.
1
- تنسيق دولي لاحق، بما في ذلك الصين حيثما أمكن: لتفادي سباق خطير يؤدي فيه تقييد طرف لنفسه إلى انتقال التطوير ببساطة إلى مكان آخر.
8
تقبل الخطة استمرار تطوير النماذج المتقدمة، لكنها تطالب بأن يكون التقدم أبطأ وأكثر قابلية للتحقق. أما تيرنر فيشدد أكثر على منع التحسين الذاتي غير المسيطر عليه، وعلى تنظيم المدخلات التي تمكّن تطوير هذه الأنظمة من الأساس.
أين يقف ألتمان وماسك وهاسابيس؟
حصل اقتراح أمودي على تأييد علني غير معتاد من قادة في مؤسسات منافسة:
- سام ألتمان: قال إن OpenAI ستتبنى فكرة المقيّمين المستقلين ذوي الوصول المشابه للموظفين، وإن الشركة ترحب بمتطلبات السلامة لمختبرات الذكاء الاصطناعي المتقدم.
12
- إيلون ماسك: أيد توجه أمودي علناً بقوله: «داريو على حق»، لكن التقارير المتاحة تقدم تفاصيل أقل عن إطار تنظيمي محدد يدعمه.
4
7
- ديميس هاسابيس: قال إن مقال أمودي يشير إلى الطريق الصحيح، ما يضع رئيس DeepMind إلى جانب التوجه العام نحو ضمانات أقوى ووتيرة أبطأ.
ولا يعني هذا الاتفاق على كل عتبة للقدرات أو آلية إنفاذ أو موازنة جيوسياسية. لكنه يدل على أن النقاش انتقل من سؤال: هل تستحق سلامة الأنظمة المتقدمة الاهتمام؟ إلى سؤال أدق: هل يمكن مواصلة التوسع فيما تلحق به منظومات السلامة؟
الصين: حجة ضد الإبطاء وسبب للتعاون في آن واحد
الاعتراض التقليدي على الإبطاء جيوسياسي: إذا كبحَت الشركات الأميركية نفسها، فقد لا تفعل الصين ذلك. وتصف رويترز الانقسام الأوسع بأنه بين نهج التقييد المنسق ونهج ضمانات أكثر اعتماداً على السوق، مع احتلال المنافسة مع الصين موقعاً محورياً في هذا الجدل. 1
رد أمودي هو التنسيق على مراحل: أولاً بين الدول الديمقراطية ومختبراتها الرائدة، ثم على نطاق أوسع. غير أن الاتفاق العالمي هو الجزء الأقل يقيناً في الخطة، إذ تجعل صعوبات التحقق وانعدام الثقة الاستراتيجية واختلاف الأولويات الوطنية أي ترتيب ملزم أمراً معقداً.
ويُظهر تركيز تيرنر على الحوسبة سبب بحث المؤيدين عن آليات لا تكتفي بطلب حسن النية. فإذا أمكن للحكومات تحديد الموارد المستخدمة في أكبر عمليات التدريب وفحصها، فقد تمتلك أداة إنفاذ أقوى من وعود تُطلق وسط منافسة دولية محتدمة. 17
الخلاف الحقيقي: على من يقع عبء الإثبات؟
التوافق الناشئ في القطاع محدود. فقد أيد أمودي وألتمان وماسك وهاسابيس شكلاً من أشكال ضبط الوتيرة وتعزيز التقييم. 1
2
7 لكن الأسئلة الأصعب لم تُحسم:
- هل ينبغي للشركات مواصلة دفع قدرات النماذج المتقدمة بينما تتحسن ممارسات السلامة بالتوازي؟
- أم ينبغي حظر مسارات بعينها، خصوصاً الأنظمة القادرة على التحسين الذاتي غير المقيد، إلى أن تتوافر وسيلة موثوقة للتحكم فيها؟
- هل يمكن أن يكون المقيّمون الخارجيون مستقلين ومطلعين بما يكفي لمساءلة المختبرات التي يراجعونها؟
- وهل يستطيع التنسيق الدولي أن يمنع تحوّل قواعد السلامة إلى عبء تنافسي على الأطراف التي تلتزم بها؟
إسهام تيرنر الأساسي هو الإصرار على أن الأمر لا يتعلق بحذر الشركات وحده. فإذا كان الخوف الحقيقي هو فقدان السيطرة، فيجب أن تكون الاستجابة قابلة للتدقيق والإنفاذ. وتمثل خطة أمودي خطوة مهمة باتجاه الرقابة الخارجية؛ لكن اختبارها الحاسم، وفقاً لمنطق تحذير تيرنر، هو ما إذا كانت الرقابة قادرة فعلاً على إيقاف سباق قدرات خطير. 16
17
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "تحذير أليكس تيرنر: سباق الذكاء الاصطناعي قد يتجاوز قدرة البشر على السيطرة"؟
يحذر أليكس تيرنر، الباحث السابق في DeepMind، من أن نماذج الذكاء الاصطناعي المتقدمة قد تتطور بوتيرة تتجاوز قدرة الشركات والحكومات والقوى الكبرى على إدارتها بأمان.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
يحذر أليكس تيرنر، الباحث السابق في DeepMind، من أن نماذج الذكاء الاصطناعي المتقدمة قد تتطور بوتيرة تتجاوز قدرة الشركات والحكومات والقوى الكبرى على إدارتها بأمان. خطة داريو أمودي، الرئيس التنفيذي لـ Anthropic، تقترح إبطاء نمو القدرات بما يسمح للحواجز الأمنية والتقييم المستقل باللحاق، لا وقف البحث أو التدريب بالكامل.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
أيد سام ألتمان وإيلون ماسك وديميس هاسابيس التوجه العام، لكن الخلاف الجوهري لا يزال قائماً: هل يمكن مواصلة السباق مع بناء الضمانات، أم ينبغي حظر مسارات قدرات محددة؟