الإجاباتمنشور19 المصادر
ألتمن يعرض ثلاثة مسارات محتملة لحوكمة الذكاء الاصطناعي الفائق
بحسب تقارير، عرض سام ألتمن ثلاثة مسارات محتملة لحوكمة الذكاء الاصطناعي الفائق: هيئة رقابة دولية، أو تعاون يجمع مختبرات الذكاء الاصطناعي الكبرى، أو مطوّر واحد يهيمن على موارد الحوسبة. قيل إن ألتمن مال إلى نموذج رقابة دولية شبيه بالوكالة الدولية للطاقة الذرية، ووصف سيناريو هيمنة شركة واحدة بأنه خيار سيئ.
نشر بواسطةتم التحرير باستخدام GPT-6 Lunaتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- بحسب تقارير، عرض سام ألتمن ثلاثة مسارات محتملة لحوكمة الذكاء الاصطناعي الفائق: هيئة رقابة دولية، أو تعاون يجمع مختبرات الذكاء الاصطناعي الكبرى، أو مطوّر واحد يهيمن على موارد الحوسبة.
- قيل إن ألتمن مال إلى نموذج رقابة دولية شبيه بالوكالة الدولية للطاقة الذرية، ووصف سيناريو هيمنة شركة واحدة بأنه خيار سيئ.
- التصور المنسوب إلى إليعازر يودكوفسكي عن منع تطوير ذكاء اصطناعي غير آمن لا يساوي بالضرورة سيناريو سيطرة شركة على منافسيها.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
بحسب تقارير، استعرض سام ألتمن أمام موظفي OpenAI ثلاثة تصورات محتملة لحوكمة تطوير الذكاء الاصطناعي الفائق: رقابة دولية، أو هيئة مشتركة للمختبرات الكبرى، أو مطوّر واحد يمتلك من النفوذ ما يكفي لإقصاء المنافسين. وتشير التقارير إلى أن ألتمن بدا مؤيدًا للرقابة الدولية، فيما وصف السيناريو الثالث بأنه سيئ للغاية. وهذه تصورات محتملة عُرضت للنقاش، وليست سياسات اعتمدتها OpenAI. 1
4
6
المسارات الثلاثة
1. هيئة رقابة دولية
يقوم المسار الأول على إنشاء هيئة دولية شبيهة بالوكالة الدولية للطاقة الذرية، تتولى وضع معايير سلامة الذكاء الاصطناعي المتقدم أو الإشراف على تطبيقها. وتصف التقارير نموذجًا يشمل الرقابة على الأنظمة المتقدمة، بما في ذلك عمليات التفتيش أو التدقيق. 1
4
6
لكن التقارير المتاحة لا ترسم خطة مكتملة لصلاحيات هذه الهيئة. ولا تثبت، على وجه الخصوص، كل التفاصيل التي أُلحقت أحيانًا بالمقترح، مثل مراقبة استهلاك الحوسبة والطاقة معًا، كما لا تؤكد أن النقاش الداخلي كان امتدادًا مباشرًا لمقترح محدد طُرح في مايو 2023.
2. «خطة ديميس»
يقترح المسار الثاني، الذي أُطلق عليه اسم «خطة ديميس»، جمع مختبرات الذكاء الاصطناعي الكبرى في كيان شبيه بالمركز الأوروبي للأبحاث النووية (CERN)، أو جعلها تعمل تحت مظلة هيئة مشتركة. ويحيل الاسم إلى ديميس هاسابيس من Google DeepMind؛ وربط الصحفي أمير إفراتي الفكرة بمقترح يعود إلى نحو عام 2017. 5
23
وتذكر إحدى الروايات أن الكيان المقترح قد يوفّر نماذج للدول المتعاونة معه. 5 والفكرة الأساسية هي تنسيق العمل عبر ملكية أو حوكمة مشتركة، بدلًا من أن تتنافس المختبرات كلٌّ على حدة.
3. «خطة إليعازر»
سُمّي المسار الثالث نسبة إلى الباحث في سلامة الذكاء الاصطناعي إليعازر يودكوفسكي. وفي الصيغة المنسوبة إلى نقاش ألتمن، يحقق مطوّر واحد تقدمًا حاسمًا بفضل ذكاء اصطناعي يطوّر نفسه، ثم يستخدم ما اكتسبه من نفوذ للحد من وصول المنافسين إلى موارد الحوسبة. وقد لُخّص السيناريو بعبارة «إذابة وحدات معالجة الرسوميات لدى الجميع». وتشير التقارير إلى أن ألتمن رفض هذا الاحتمال. 3
5
6
ما الذي يعنيه افتراض يودكوفسكي، وما الذي لا يعنيه؟
قد يخلط الاسم بين فكرتين مختلفتين. فالروايات عن كتابات يودكوفسكي في عام 2022 تصف «فعلًا محوريًا» يقوم به ذكاء اصطناعي عام متوافق مع متطلبات السلامة، لمنع الآخرين من بناء ذكاء اصطناعي عام غير آمن. 7
10 وهذا ليس السيناريو نفسه الذي تهيمن فيه شركة على منافسيها بفضل تفوقها.
ويفيد تقرير منفصل بأن يودكوفسكي أوضح لاحقًا أن مثاله عن «حرق جميع وحدات معالجة الرسوميات» لم يكن مقترحًا. 34 لكن المصادر المتاحة لا تتضمن ما يكفي من رده كاملًا لإعادة بناء جميع تحفظاته وتفاصيله. والتمييز الأساسي الذي تدعمه المعلومات هنا هو بين تدخل افتراضي هدفه منع تطوير ذكاء اصطناعي عام غير آمن، وسيناريو يتركز على احتكار مطوّر واحد لموارد الحوسبة.
كذلك، لا تثبت التقارير المتاحة أن موظفي OpenAI فهموا تسمية «خطة إليعازر» على أنها تلميح إلى شركة Anthropic. فمجرد تسمية السيناريو باسم يودكوفسكي لا يعني أن Anthropic تؤيده، ولا يثبت أن التسمية كانت موجهة إلى الشركة.
جوهر المفاضلة في حوكمة الذكاء الاصطناعي
تختلف السيناريوهات الثلاثة في موضع تركّز النفوذ: لدى هيئة رقابة دولية، أو ضمن كيان مشترك للمختبرات الرائدة، أو لدى مطوّر واحد مهيمن. وبحسب التقارير، فإن تفضيل ألتمن للمسار الأول ورفضه الثالث يبرزان المفاضلة الأوضح في النقاش: تنسيق الرقابة من جهة، وتركيز السيطرة في يد جهة واحدة من جهة أخرى. 1
4
6
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "ألتمن يعرض ثلاثة مسارات محتملة لحوكمة الذكاء الاصطناعي الفائق"؟
بحسب تقارير، عرض سام ألتمن ثلاثة مسارات محتملة لحوكمة الذكاء الاصطناعي الفائق: هيئة رقابة دولية، أو تعاون يجمع مختبرات الذكاء الاصطناعي الكبرى، أو مطوّر واحد يهيمن على موارد الحوسبة.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
بحسب تقارير، عرض سام ألتمن ثلاثة مسارات محتملة لحوكمة الذكاء الاصطناعي الفائق: هيئة رقابة دولية، أو تعاون يجمع مختبرات الذكاء الاصطناعي الكبرى، أو مطوّر واحد يهيمن على موارد الحوسبة. قيل إن ألتمن مال إلى نموذج رقابة دولية شبيه بالوكالة الدولية للطاقة الذرية، ووصف سيناريو هيمنة شركة واحدة بأنه خيار سيئ.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
التصور المنسوب إلى إليعازر يودكوفسكي عن منع تطوير ذكاء اصطناعي غير آمن لا يساوي بالضرورة سيناريو سيطرة شركة على منافسيها.
المصادر
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI