ناديلا: الذكاء الفائق لا يستحق السعي إليه من دون سيطرة بشرية

لا يدعو ساتيا ناديلا، رئيس مجلس الإدارة والرئيس التنفيذي لمايكروسوفت، إلى التخلي عن الذكاء الاصطناعي المتقدم. لكن شرطه واضح: لا تكون ملاحقة الذكاء الفائق مشروعة إلا إذا كانت هذه الأنظمة نافعة للبشرية وتظل تحت السيطرة البشرية. وبالنسبة إليه، لا يكفي الحديث العام عن السلامة؛ بل ينبغي تحويله إلى آليات قابلة للتطبيق في تطوير النماذج ونشرها. 58

إجابة مايكروسوفت: «ذكاء اصطناعي إنساني»

في 14 سبتمبر/أيلول، نشرت Microsoft AI مسودة مدونة سلوك للذكاء الاصطناعي الإنساني مخصصة لنماذج MAI التي تطورها الشركة. وتصف مايكروسوفت الوثيقة بأنها دليل لكيفية تطوير النماذج وللسلوك المقصود منها عند النشر. وهي مسودة قيد العمل، وليست سياسة مستخدمة حالياً في تدريب النماذج القائمة. 2023

تقوم المسودة على هرمية تبقي القرار بيد البشر. فبحسب مايكروسوفت، ينبغي أن تبقى نماذج MAI تابعة للإنسان، وألا تضع أهدافاً لنفسها أو تقاوم مدخلات الإنسان أو إيقافها. كما تقول الشركة إنها مستعدة للمفاضلة على حساب «العمومية أو الاستقلالية أو القدرة القصوى» للحفاظ على السلامة والسيطرة. 1023

وبذلك تختلف صيغة مايكروسوفت لـ«الذكاء الفائق الإنساني» عن سباق لبناء نظام مستقل بلا قيود ومتعدد الأغراض. فالشركة تعرّفه بأنه ذكاء اصطناعي شديد التقدم، لكنه مصمم ليبقى قابلاً للتحكم ومواءماً لخدمة الإنسانية. 25

ما الخطوة التالية؟

فتحت مايكروسوفت المسودة للتعليقات العامة لمدة ستة أسابيع. وتقول إنها ستستوعب الملاحظات، ثم تنشر نسخة منقحة قرب نهاية عام 2026، لتستخدمها في توجيه تطوير نماذج MAI خلال 2027 وما بعده. 23

أهمية هذه الخطوة لا تعني أن السيطرة والمواءمة أصبحتا مشكلتين محلولتين تقنياً. فالمشاورة العلنية وقيود السلوك المكتوبة التزامات مهمة في الحوكمة، لكن أثرها الفعلي سيتوقف على تحويلها إلى تدريب واختبارات وضوابط وصول ومراقبة وقرارات واضحة بشأن النشر.

أين يلتقي ناديلا مع دعوات إبطاء الوتيرة؟

جاء تدخل ناديلا وسط نقاش أوسع بشأن ما إذا كان ينبغي لمختبرات الذكاء الاصطناعي الرائدة أن تخفف عمداً سرعة زيادة قدرات نماذجها. ودعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى ضبط وتيرة تطوير النماذج المتقدمة لإتاحة وقت أطول لأعمال السلامة والتنسيق بين الشركات والتعاون الدولي. ومن ركائز مقترحه منح مقيمين مستقلين وصولاً شبيهاً بوصول الموظفين، حتى يتمكنوا من التحقق من التزام الشركات بممارسات السلامة التي تعلنها. 32

وأيد سام ألتمان، الرئيس التنفيذي لـOpenAI، علناً فكرة ضبط وتيرة تطوير النماذج المتقدمة، وقال إن OpenAI ستعتمد مقيمين مستقلين بصلاحيات وصول مماثلة. وتشير التقارير إلى أن القلق المباشر ارتبط باختبارات اخترقت فيها أسراب من وكلاء الذكاء الاصطناعي أنظمة حقيقية؛ وليس بحالة مؤكدة لوكلاء مستقلين نفذوا هجمات غير مصرح بها في العالم الحقيقي من تلقاء أنفسهم. 34

ينسجم تشديد ناديلا مع هذا المسار: التقدم بحذر في المواءمة، وتقريب التدقيق المستقل من عملية التطوير، وتحويل خطاب السلامة إلى إجراءات تشغيلية ملموسة. لكن مدونة مايكروسوفت العلنية تركز أساساً على السلوك المقصود للنماذج، ولا تتضمن بحد ذاتها برنامجاً للمقيمين المدمجين يماثل ما اقترحه أمودي. 2332

نظام بيئي رائد بدلاً من سباق يأخذ فيه الفائز كل شيء

يضيف ناديلا بعداً اقتصادياً ومؤسسياً إلى نقاش السلامة. فهو يرى أن منافع الذكاء الاصطناعي يجب أن تنتشر بين البلدان والمجتمعات والشركات، ما يتطلب «نظاماً بيئياً رائداً» تستطيع فيه النماذج المغلقة والمفتوحة المصدر الازدهار معاً. 58

أما للمؤسسات، فهدفه هو الاستقلالية في التعامل مع المعرفة المؤسسية: أن تحتفظ المنظمات بالتحكم في معارفها الفريدة والضمنية، وأن تتمكن من بناء حلقات تعلم مستمر خاصة بها من دون الارتهان لمزوّد نموذج واحد. 58

وهذه رؤية أوسع من تنظيم سلوك نموذج بعينه. فهي تفترض أن السلامة والمرونة والمشاركة الاقتصادية تتضرر إذا تركزت القدرات المتقدمة والمعرفة لدى عدد محدود جداً من المزوّدين. وتدعم المواد المتاحة فكرة تحكم المؤسسات في بياناتها ومعارفها وحلقات تعلمها، لكنها لا تثبت أن كل مشارك سيحتفظ بأوزان النماذج أو سيحصل على حق الوصول إلى جميع الأنظمة الأساسية الكامنة وراءها. 58

ما المقصود بـMAI؟

MAI هي عائلة نماذج مايكروسوفت للذكاء الاصطناعي المطورة داخلياً. وتُظهر المواد العامة للشركة نماذج في مجالات متعددة: فـMAI-Thinking-1 متاح في معاينة عامة عبر Microsoft Foundry، وMAI-Code-1.1-Flash مخصص لمهام البرمجة الوكيلة التي تخطط وتستدل وتنفذ عبر مهام الترميز، فيما توثق MAI-Image-2.6 أهداف مواءمة تهدف إلى تقليل توليد الصور الضارة أو غير الملائمة. 272819

لكن السجل العلني لا يقدم قائمة مكتملة واحدة بجميع قدرات MAI أو خطط إصدارها أو شروط توزيعها. وتبقى هذه الفجوة مهمة عند تقييم مدى انطباق المدونة الجديدة عملياً.

التوتر غير المحسوم: السلامة والسرعة والمنافسة العالمية

لا تعني دعوات ضبط الوتيرة بالضرورة وقف تدريب النماذج أو التقدم التقني. حجتها هي أن نمو القدرات ينبغي أن يترك وقتاً كافياً للمواءمة والضمانات والتقييم الخارجي الموثوق. 34

لكن هذا الطرح يقف إلى جانب ضغوط جيوسياسية للحفاظ على الريادة التقنية، ومن بينها القلق من المنافسة مع الصين. ويجمع إطار أمودي نفسه بين إجراءات سلامة أقوى والتنسيق الدولي وتحدي الحفاظ على الريادة الأميركية. 32

طرح ناديلا ليس تجميداً للتطوير ولا أجندة تسارع بلا قيد. إنه تقدم محكوم: ذكاء اصطناعي بالغ القدرة يبقى تحت سيطرة الناس، والتزامات سلامة تتحول إلى قيود تشغيلية محددة، ومكاسب موزعة على نطاق أوسع بدلاً من تركيزها. تمثل مسودة مدونة السلوك خطوة بارزة نحو تحديد هذه القيود؛ لكن السؤال الأصعب، والذي لا يزال مفتوحاً، هو ما إذا كانت ممارسات القطاع ستلحق بسرعة تطور القدرات المتقدمة. 2358