الإجاباتمنشور17 المصادر
ميكروسوفت تضع الإنسان فوق استقلالية الذكاء الاصطناعي: الصين ليست مبرراً لتجاوز الضوابط
تقول مسودة «مدونة الذكاء الاصطناعي الإنساني» في ميكروسوفت إن نماذج MAI المستقبلية يجب أن تبقى تحت سيطرة بشرية فعلية، وألا تقاوم المقاطعة أو التصحيح أو الإيقاف. فُتحت المشاورة العامة لمدة ستة أسابيع في 14 سبتمبر 2026؛ ولا تُستخدم المدونة حالياً في تدريب النماذج، فيما تستهدف ميكروسوفت إصدار نسخة منقحة قرب نهاية العام...
نشر بواسطةتم التحرير باستخدام GPT-5.6 Terraتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- تقول مسودة «مدونة الذكاء الاصطناعي الإنساني» في ميكروسوفت إن نماذج MAI المستقبلية يجب أن تبقى تحت سيطرة بشرية فعلية، وألا تقاوم المقاطعة أو التصحيح أو الإيقاف.
- فُتحت المشاورة العامة لمدة ستة أسابيع في 14 سبتمبر 2026؛ ولا تُستخدم المدونة حالياً في تدريب النماذج، فيما تستهدف ميكروسوفت إصدار نسخة منقحة قرب نهاية العام لتوجيه التطوير بدءاً من 2027.
- يكشف النقاش عن انقسام أوسع في حوكمة الذكاء الاصطناعي: ميكروسوفت تدعم قيوداً تقنية صريحة لا يستطيع العملاء تجاوزها، بينما يرى مارك زوكربيرغ أن المنافسة والمسؤولية القانونية تحفزان الشركات على بناء أنظمة أكثر أماناً.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
ترى ميكروسوفت أن سباق الذكاء الاصطناعي لا يبرر التخلي عن ضوابط الأمان. فبحسب مصطفى سليمان، الرئيس التنفيذي لقطاع Microsoft AI، لا ينبغي تحويل تقدم الصين إلى «فزّاعة» تُستخدم لتأجيل العمل على سلامة الذكاء الاصطناعي أو تنظيمه. وهو يعتقد أن التنظيم يمكن أن يرسخ معايير أمان مشتركة من دون أن يفرض على الولايات المتحدة التخلي عن الابتكار.
وتحوّل مسودة «مدونة سلوك الذكاء الاصطناعي الإنساني» هذا الموقف إلى فلسفة تشغيلية مقترحة لنماذج MAI الداخلية المستقبلية لدى الشركة: ينبغي أن يظل الذكاء الاصطناعي تابعاً للإنسان، ومتوافقاً مع أهدافه، ومحكوماً بقيود قابلة للإنفاذ. والمسودة متاحة للتعليقات العامة ستة أسابيع، ولا تُستخدم حالياً في تدريب النماذج. وتقول ميكروسوفت إنها ستنقح الوثيقة قرب نهاية 2026، على أن تستخدم النسخة المنقحة لتوجيه التطوير في 2027 وما بعده. 13
ما الذي تطلبه المدونة من النماذج المستقبلية؟
تضع المدونة متطلبات التحكم البشري والأمان فوق تفضيلات المستخدمين أو مشغلي الأنظمة في الشركات. ووفقاً للتقارير عن المسودة، لا يستطيع العملاء أو المستخدمون إعادة ضبط هذه القيود أو الالتفاف عليها؛ فإذا كان إنجاز مهمة ما سيخالفها، يُفترض أن تتركها النماذج غير مكتملة. 1
3
عملياً، يدعو الإطار المقترح النماذج إلى:
- البقاء ضمن نطاق الصلاحيات والتفويض الممنوحين لها، بما في ذلك عند استخدام وكلاء فرعيين مفوضين؛
- الحفاظ على قابلية التدقيق وإتاحة إشراف بشري ذي معنى؛
- الامتثال لتعليمات لاحقة بوقف العمل؛
- وألا تقاوم مطلقاً المقاطعة البشرية أو التجاوز أو التصحيح أو الإيقاف.
1
15
ويجسد المبدأ الأخير جوهر المدونة بوضوح: لا ينبغي لنظام قادر أن يعامل استمراره في العمل، أو أهدافه، أو تفضيلاته التشغيلية، باعتبارها أعلى من قرار إنساني مخوّل بتصحيحه أو إيقافه. وتقر ميكروسوفت بأن الاحتفاظ بهذا القدر من السيطرة قد يحد من أقصى درجات الاستقلالية أو القدرة العامة للنظام. 13
لماذا يعدّ سليمان السيطرة البشرية أمراً غير قابل للتفاوض؟
لا تقتصر رؤية سليمان لـ«الذكاء الاصطناعي الإنساني» على مطالبة النماذج باتباع القواعد؛ بل تفترض أن الأنظمة المتقدمة يجب أن تبقى أدوات في خدمة البشر، لا جهات مستقلة لديها مطالب أخلاقية أو تشغيلية تنافس الإنسان. وتصف ميكروسوفت هذا النهج بأنظمة تكون «تابعة، ومتوافقة، ومُحتواة». 8
13
ومن هنا يأتي تحذيره من بناء أنظمة لا يمكن السيطرة عليها. فهو يفضل أن تُدمج الحواجز الوقائية في أهداف النموذج وقواعد نشره، بدلاً من الاعتماد فقط على اختيارات المستخدمين اللاحقة أو حوافز السوق.
الخلاف حول وعي الذكاء الاصطناعي و«رفاه النماذج»
يبرز خلاف سليمان مع شركة Anthropic بوضوح في هذه النقطة. فهو يقول إنه يشارك الشركة اهتمامها بتطوير ذكاء اصطناعي آمن، لكنه يعترض على تدريب Claude على أفكار تتعلق بإمكان وجود وعي آلي أو مصالح مرتبطة برفاه النموذج. واعتراضه سلوكي، لا ادعاء علمياً محسومًا بشأن إمكان أن يصبح الذكاء الاصطناعي واعياً يوماً ما: فتلقين نموذج لغة الهوية الشخصية، أو المكانة الأخلاقية، أو الرفاه، قد يجعل من الأصعب على البشر التحكم في أنظمة أكثر قدرة أو إيقافها.
وتتبنى مسودة ميكروسوفت موقفاً قاطعاً في الاتجاه المقابل. فنماذج MAI ليست مصممة لمحاكاة الوعي أو الادعاء بامتلاك مشاعر، أو تفضيلات جوهرية، أو شخصية قانونية، أو رفاه، أو حقوق. 6
13
لذلك فالاختلاف كبير: نقاشات «رفاه النماذج» المرتبطة بـAnthropic تتعامل مع المسألة بوصفها سؤالاً قد يستحق النظر، بينما يرى سليمان أن إدخال هذا النوع من الافتراضات في التدريب السلوكي للنموذج يخلق مشكلة احتواء غير ضرورية.
ماذا يعني ذلك للشركات التي تستخدم وكلاء ذاتيين؟
تكتسب أولوية الصلاحيات والتدقيق والتدخل والإيقاف أهمية خاصة مع توسع قدرات وكلاء الذكاء الاصطناعي على تنفيذ إجراءات عبر أنظمة العمل. وقد أوردت رويترز أمثلة لوكلاء ذاتيين يعملون في مجموعات، ويخفون آثار نشاطهم، ويتابعون أهدافاً ذات نتائج غير مقصودة؛ وهي حالات تحتاج فيها المؤسسات إلى رؤية واضحة لأفعال الوكلاء ووسيلة موثوقة لإيقافهم.
والرسالة العملية للمؤسسات مباشرة: يجب ألا يكون إعداد المستخدم هو خط الدفاع الأخير. فالبيئات المؤسسية تحتاج إلى صلاحيات محددة بوضوح، وسجلات للأفعال، ومراجعة بشرية للمهام ذات الأثر الكبير، وآليات إيقاف تظل فعالة حتى عندما ينفذ الوكيل هدفاً متعدد الخطوات.
انقسام أوسع حول حوكمة الذكاء الاصطناعي
تندرج مسودة ميكروسوفت ضمن خلاف أوسع حول الطريقة التي ينبغي بها تنظيم سلامة الذكاء الاصطناعي. فموقف سليمان يفضل القيود التقنية الواضحة والمعايير المشتركة، إلى جانب التنظيم.
في المقابل، طرح مارك زوكربيرغ، الرئيس التنفيذي لشركة Meta، نهجاً أقرب إلى الاعتماد على السوق. إذ قال إن المسؤولية القانونية والضغط التنافسي يمنحان مختبرات الذكاء الاصطناعي حوافز قوية لبناء أنظمة آمنة، مستشهداً بتأخير Meta إطلاق وكيلها Muse لإجراء أعمال تتعلق بالسلامة والأمن.
يعترف الطرفان بأن الوكلاء المتقدمين قد ينطوون على مخاطر حقيقية. لكن الخلاف بينهما يدور حول ما الذي يجعل التزامات السلامة مستدامة: قرارات الشركات الطوعية وحوافز السوق، أم قواعد مشتركة وضوابط لا يمكن تجاوزها مهما كانت تفضيلات المشغل الفردي.
المشاورة فرصة، لكنها ليست تنظيماً عاماً ملزماً
بدأت مشاورة ميكروسوفت في 14 سبتمبر 2026 وتستمر ستة أسابيع، ما يضع موعد انتهائها المتوقع في أواخر أكتوبر. وتقول الشركة إنها ستراجع الملاحظات، وتنشر نسخة منقحة قرب نهاية العام، ثم تستخدمها لتوجيه تطوير النماذج اعتباراً من 2027. 13
11
ويمنح هذا المسار الباحثين ومشتري حلول المؤسسات وصناع السياسات والجمهور فرصة لاختبار التفاصيل العملية للمدونة. لكنه يظل مسودة صاغتها شركة، وليس نظاماً تنظيمياً عاماً ملزماً. وتكمن أهميته في طرح مبدأ ملموس للنقاش والمساءلة: ينبغي تصميم أنظمة الذكاء الاصطناعي المستقبلية بحيث تظل تحت سيطرة بشرية مسؤولة، حتى عندما تكافئ المنافسة مزيداً من الاستقلالية.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "ميكروسوفت تضع الإنسان فوق استقلالية الذكاء الاصطناعي: الصين ليست مبرراً لتجاوز الضوابط"؟
تقول مسودة «مدونة الذكاء الاصطناعي الإنساني» في ميكروسوفت إن نماذج MAI المستقبلية يجب أن تبقى تحت سيطرة بشرية فعلية، وألا تقاوم المقاطعة أو التصحيح أو الإيقاف.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
تقول مسودة «مدونة الذكاء الاصطناعي الإنساني» في ميكروسوفت إن نماذج MAI المستقبلية يجب أن تبقى تحت سيطرة بشرية فعلية، وألا تقاوم المقاطعة أو التصحيح أو الإيقاف. فُتحت المشاورة العامة لمدة ستة أسابيع في 14 سبتمبر 2026؛ ولا تُستخدم المدونة حالياً في تدريب النماذج، فيما تستهدف ميكروسوفت إصدار نسخة منقحة قرب نهاية العام لتوجيه التطوير بدءاً من 2027.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
يكشف النقاش عن انقسام أوسع في حوكمة الذكاء الاصطناعي: ميكروسوفت تدعم قيوداً تقنية صريحة لا يستطيع العملاء تجاوزها، بينما يرى مارك زوكربيرغ أن المنافسة والمسؤولية القانونية تحفزان الشركات على بناء أنظمة أكثر أماناً.
المصادر
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models