الإجاباتمنشور19 المصادر
ناديلا: زيادة قدرات الذكاء الاصطناعي لا تضمن توافقه مع أهداف البشر
يقول ناديلا إنه لم يعد يتوقع أن يتحقق توافق الذكاء الاصطناعي مع أهداف البشر تلقائيًا كلما ازدادت قدرات النماذج. يرى أن التوافق ينبغي أن يكون جزءًا من التدريب، بينما تتولى ضوابط خارج النموذج الحد من المخاطر عند استخدامه.
نشر بواسطةتم التحرير باستخدام GPT-6 Lunaتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- يقول ناديلا إنه لم يعد يتوقع أن يتحقق توافق الذكاء الاصطناعي مع أهداف البشر تلقائيًا كلما ازدادت قدرات النماذج.
- يرى أن التوافق ينبغي أن يكون جزءًا من التدريب، بينما تتولى ضوابط خارج النموذج الحد من المخاطر عند استخدامه.
- توسّع مايكروسوفت مشروع Project Perception لتقييم مخاطر الوكلاء وتعديل صلاحياتهم واحتواء التهديدات.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft CEO Satya Nadella’s view changed on whether scaling AI models naturally aligns them with human goals, as explained in his. Article summary: Nadella has moved from expecting alignment to emerge naturally as AI models become more capable to treating it as a separate—and potentially harder—problem that scaling alone will not solve. His response is two-track: pu. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
لم يعد ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، يعتقد أن جعل نماذج الذكاء الاصطناعي أكثر قدرة سيجعلها تلقائيًا أكثر أمانًا أو توافقًا مع أهداف البشر. ففي مقابلة نُشرت في 26 أكتوبر 2026، قال إن نظرته تغيّرت، بعدما كان يتوقع أن يأتي التوافق مع تطور النماذج؛ أما الآن فيراه تحديًا قائمًا بذاته، لا يحله التوسع وحده. 5
11
القدرات لا تعني التوافق
يُقصد بـ«التوافق» أن يتصرف نظام الذكاء الاصطناعي بما ينسجم مع أهداف البشر وتوجيهاتهم. لكن ناديلا قال إن هذا التوافق «لا يأتي تلقائيًا بوصفه قدرةً مع التوسع». كما أشار إلى أن فهم الآليات الداخلية التي تقود سلوك النماذج قد يظل بعيد المنال، حتى مع استمرار تحسن قدراتها. 5
والنتيجة العملية لهذا التحول أن الأداء الأفضل لا يكفي دليلًا على أن النظام أصبح أكثر أمانًا. ووفق ملخصات حديثه، ينبغي العمل على ترسيخ التوافق خلال التدريب، وربما منذ مرحلة التدريب المسبق، بدل انتظار ظهوره تلقائيًا لاحقًا. كما أعرب عن شكه في أن التعلم المعزز وحده قادر على تحقيق التوافق. 2
8
ضوابط خارج النموذج
لا يعني ذلك التخلي عن تحسين سلوك النماذج بالتدريب. لكنه يضع هذا العمل إلى جانب مسار آخر: التحكم بما يستطيع النظام فعله بعد نشره. فالتدريب يحاول تشكيل سلوك النموذج، أما ضوابط النشر فتحد من صلاحياته وتساعد على احتواء تصرفاته غير المتوقعة. 2
5
وفي 19 أكتوبر، أعلن ناديلا توسيع مشروع Project Perception الأمني لدى مايكروسوفت، مضيفًا إمكانات لتقييم مخاطر الوكلاء الذكيين باستمرار، وتعديل صلاحياتهم، واحتواء التهديدات. والفكرة هي التعامل مع هذه الأنظمة بوصفها مخاطر محتملة من داخل المؤسسة، لا لأنها خبيثة بالضرورة، بل لأن منحها صلاحيات واسعة من دون رقابة مستقلة ينطوي على مخاطر. 1
14
بعبارة أبسط، لا ينبغي أن تعني قدرة الوكيل على اقتراح إجراء أو البدء به امتلاكه تلقائيًا صلاحية تنفيذه. ويمكن للصلاحيات الخارجية وآليات الاحتواء أن تحد من نطاق عمله إذا تصرف على نحو غير متوقع. وفي مقال نُشر في 10 أكتوبر، دعا ناديلا أيضًا إلى افتراض احتمال اختراق النموذج، وإتاحة وسيلة لشخص مخوّل لإيقافه مؤقتًا أو إغلاقه أثناء تنفيذ المهمة. 18
22
بناء الثقة من دون الاعتماد على الثقة العمياء
يرتكز موقف ناديلا على فصل واضح بين تطوير قدرات الذكاء الاصطناعي وضمان سلامته. فإذا لم يكن التوافق نتيجة مضمونة للتوسع، فلا يصح اعتبار النموذج أكثر أمانًا لمجرد أنه أصبح أكثر قدرة. والحل الذي يطرحه يجمع بين العمل على التوافق أثناء التدريب، وبناء ضوابط مستقلة تحكم استخدام النماذج عند نشرها. 2
5
ويختصر ناديلا هذا المنطق بمبدأ لافت: النظام الأكثر جدارة بالثقة هو، بحسب ما نقلته تغطية مقاله، «الذي يتيح لنا أن نثق بالنموذج أقل ما يمكن». أي إن الاعتماد ينبغي أن يكون على الضوابط والحوكمة، لا على افتراض أن النموذج سيتصرف دائمًا كما ينبغي. 9
الأدلة المتاحة تدعم هذا التحول في تركيزه، لكنها لا تثبت كل التفاصيل التي قد تُنسب أحيانًا إلى مقترحاته. والخلاصة الأوضح هي أن التوسع لا يضمن التوافق؛ لذلك ينبغي الجمع بين جهود التدريب والضوابط الخارجية والإشراف البشري. 1
5
18
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "ناديلا: زيادة قدرات الذكاء الاصطناعي لا تضمن توافقه مع أهداف البشر"؟
يقول ناديلا إنه لم يعد يتوقع أن يتحقق توافق الذكاء الاصطناعي مع أهداف البشر تلقائيًا كلما ازدادت قدرات النماذج.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
يقول ناديلا إنه لم يعد يتوقع أن يتحقق توافق الذكاء الاصطناعي مع أهداف البشر تلقائيًا كلما ازدادت قدرات النماذج. يرى أن التوافق ينبغي أن يكون جزءًا من التدريب، بينما تتولى ضوابط خارج النموذج الحد من المخاطر عند استخدامه.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
توسّع مايكروسوفت مشروع Project Perception لتقييم مخاطر الوكلاء وتعديل صلاحياتهم واحتواء التهديدات.
المصادر
ceointerviews.aiHow Security Leaders Can Prepare for Super Intelligence — Satya Nadella
businessinsider.comSatya Nadella Changed His Mind on the Inevitably of AI Alignment
bidclub.ai20VC: Satya Nadella on Open vs Closed Models: Who Wins
blumify.ioSatya Nadella: what they said, interviews and podcasts - Blumify