الإجاباتمنشور19 المصادر
هل تستطيع Anthropic مواصلة السباق من دون التراجع عن السلامة؟
قال داريو أمودي إن التنافس على تطوير النماذج المتقدمة لا يتعارض بالضرورة مع التزام Anthropic بالسلامة. انتقد ناثان كالفن توسع التزامات الحوسبة لدى الشركة، وتنامي دور Claude في تطوير الذكاء الاصطناعي، وتغييرات في سياسة السلامة.
نشر بواسطةتم التحرير باستخدام GPT-6 Lunaتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- قال داريو أمودي إن التنافس على تطوير النماذج المتقدمة لا يتعارض بالضرورة مع التزام Anthropic بالسلامة.
- انتقد ناثان كالفن توسع التزامات الحوسبة لدى الشركة، وتنامي دور Claude في تطوير الذكاء الاصطناعي، وتغييرات في سياسة السلامة.
- استشهد أمودي بدعم قانون للسلامة في كاليفورنيا، وضوابط لمخاطر إساءة الاستخدام البيولوجي، وتأخير إتاحة نماذج Mythos على نطاق أوسع.
- لم تحسم الردود الخلاف بشأن كفاية تعهدات الشركة بإبطاء التطوير أو حدود تدخل الحكومة.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
دافع داريو أمودي، الرئيس التنفيذي لشركة Anthropic، عن استمرارها في منافسة شركات الذكاء الاصطناعي عند حدود التطور التقني، رداً على انتقادات ناثان كالفن، مسؤول الاستراتيجية في منظمة Encode AI. وقال أمودي إن التنافس على تطوير النماذج المتقدمة لا يعني التخلي عن السلامة، مستشهداً بإجراءات قال إنها فرضت على الشركة كلفة تجارية. لكن الرد لم ينهِ الخلاف الأساسي: هل تكفي ضمانات Anthropic والتزاماتها التنظيمية مع تزايد قدرات أنظمتها؟ 4
5
ما الذي انتقده كالفن؟
شكّك كالفن في مدى اتساق خطوات Anthropic مع التزاماتها المعلنة بالسلامة. وتناول النقاش التزامات الشركة الكبيرة بالحوسبة، إلى جانب اتساع دور Claude في أعمال تطوير الذكاء الاصطناعي. ووفقاً لأحد الملخصات، ارتفعت حصة المهام المرتبطة بتطوير الذكاء الاصطناعي التي قادها Claude من صفر في مارس إلى ٢٦٪ في أغسطس. 1
9
وكانت سياسة التوسع المسؤول (Responsible Scaling Policy) موضع خلاف آخر. وتشير التقارير إلى أن تعديل السياسة أزال تعهدات أحادية الجانب بإيقاف التطوير أو إبطائه في ظروف معينة. ودافع أمودي عن التغيير بدلاً من الإعلان عن التراجع عنه. 1
3
وانتقد كالفن أيضاً مسودة مقترح اتحادي أميركي لسلامة الذكاء الاصطناعي. وتصف التقارير المقترح بأنه يضع عتبة مرتفعة لتدخل الحكومة: وجود خطر وشيك متوقع بأن يتسبب النموذج في وفاة أكثر من ٥٠ شخصاً أو إصابتهم إصابات خطيرة، أو خسائر تتجاوز مليار دولار. والمقصود عتبة للأضرار المتوقعة التي قد تبرر التدخل، لا اشتراط وقوعها فعلياً أولاً. كما أن المقترح كان مسودة، لا قانوناً نافذاً. 10
25
حجة أمودي: «سباق نحو القمة»
رفض أمودي فكرة أن على Anthropic الانسحاب من تطوير النماذج المتقدمة كي تأخذ السلامة على محمل الجد. وقال إن مواصلة المنافسة في طليعة المجال يمكن أن تنسجم مع مهمة الشركة، مستشهداً بقرارات قال إنها كلّفتها تجارياً. 4
9
ومن بين الأمثلة التي أوردها دعم قانون SB 53 للسلامة في كاليفورنيا، والإبقاء على ضوابط صارمة للحد من إساءة استخدام الذكاء الاصطناعي في المجالات البيولوجية، وتأخير إتاحة نماذج من فئة Mythos على نطاق أوسع إلى حين تعزيز الحماية السيبرانية. ووفقاً للتقارير، أُتيحت النماذج أولاً لمجموعة محدودة من الشركاء العاملين في الدفاع السيبراني، قبل توسيع نطاق الوصول إليها. 5
11
توضح هذه الأمثلة طريقة دفاع أمودي عن سجل الشركة: فقد قدّم إجراءات السلامة على أنها مقايضات فعلية، لا مجرد تعهدات عامة. لكن التقارير المتاحة لا تشرح بالتفصيل كيف يرى أن البقاء في طليعة التطوير سيرفع معايير السلامة لدى بقية القطاع. 4
5
كلفة التأخير والاعتراف بالأخطاء
أقرّ أمودي بأن تقييد الوصول إلى القدرات المتقدمة أو تأخيره قد يفرض كلفة تتجاوز إيرادات الشركة؛ فقد يبطئ أيضاً فوائد محتملة للجمهور، ومنها التقدم في علم الأحياء. 11
وتصف التقارير أمودي بأنه أقرّ بوقوع أخطاء في التواصل، مع استمراره في الدفاع عن سجل Anthropic الأوسع وعن التعديل الذي أُدخل على سياسة السلامة. وهكذا جمع رده بين الاعتراف ببعض أوجه القصور والتمسك بالنهج العام للشركة، من دون أن يحسم الأسئلة المتعلقة بالسياسة. 4
24
ما الذي حُسم، وما الذي بقي مفتوحاً؟
قدّم أمودي رداً على اتهام كالفن بأن سعي Anthropic للمنافسة يضع السلامة في المرتبة الثانية: قال إن الشركة اتخذت خيارات حدّت من إتاحة بعض القدرات أو أضافت ضمانات، رغم ما قد يترتب على ذلك من كلفة تجارية. لكن اعتراضات كالفن على ضعف الالتزامات المتعلقة بإيقاف التطوير، وعلى حدود تدخل الحكومة في المقترح، لم تُحسم بمجرد سرد تلك الإجراءات. 1
3
5
10
وتلخّص التقارير المتاحة جوانب من النقاش، لكنها لا تعرض القائمتين كاملتين بما يكفي للتحقق من كل بند فيهما. لذا، فإن أوضح ما يكشفه السجال هو طبيعة الخلاف: أمودي يدافع عن مواصلة المنافسة في تطوير النماذج المتقدمة بالتوازي مع إجراءات سلامة محددة، بينما يشكك كالفن في كفاية تلك الإجراءات والتزامات السياسة.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "هل تستطيع Anthropic مواصلة السباق من دون التراجع عن السلامة؟"؟
قال داريو أمودي إن التنافس على تطوير النماذج المتقدمة لا يتعارض بالضرورة مع التزام Anthropic بالسلامة.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
قال داريو أمودي إن التنافس على تطوير النماذج المتقدمة لا يتعارض بالضرورة مع التزام Anthropic بالسلامة. انتقد ناثان كالفن توسع التزامات الحوسبة لدى الشركة، وتنامي دور Claude في تطوير الذكاء الاصطناعي، وتغييرات في سياسة السلامة.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
استشهد أمودي بدعم قانون للسلامة في كاليفورنيا، وضوابط لمخاطر إساءة الاستخدام البيولوجي، وتأخير إتاحة نماذج Mythos على نطاق أوسع.
المصادر
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'