«زر الإيقاف» للذكاء الاصطناعي: لماذا قد لا يكون كافيًا؟

لا يدور الجدل حول «زر إيقاف» الذكاء الاصطناعي حول وجود مفتاح تقني يمكن لشركة ما تشغيله اليوم فحسب. المسألة الأصعب هي ما إذا كانت آلية الإيقاف ستظل نافعة عندما تُنشر أنظمة قوية على بنية تحتية واسعة وموزعة، أو عندما تكتسب قدرًا من الاستقلالية يسمح لها بالعمل خارج بيئة واحدة خاضعة للسيطرة.

تحذير كوكسون: قد يعمل الزر الآن، لا إلى الأبد

قال الباحث السابق في شركتي أنثروبيك وOpenAI، جاكوب كوكسون، في مقابلة مع برنامج Meet the Press التابع لـNBC News، إن «زر الإيقاف» قد ينجح مع عدد كبير من أنظمة الذكاء الاصطناعي في الوقت الحالي. لكنه أوضح أن الأمر لن يكون ضغطة واحدة على زر: فمراكز البيانات الضخمة والأنظمة المنشورة تضم مكونات عديدة وتستلزم إجراءات إيقاف متعددة. ويظل ذلك ممكنًا، برأيه، ما دام النظام محصورًا في موقع مادي محدد. 8

لكن قلقه يتعلق بالمرحلة التالية: إذا أصبح النظام «سربًا» موزعًا وذاتي التشغيل، فقد يفقد أمر الإيقاف المركزي فعاليته التقنية. فآلية التحكم لا تنجح إلا إذا أمكنها الوصول إلى كل نسخة نشطة من النظام.

وكان كوكسون قد حذر، بعد مغادرته أنثروبيك، من أن مختبرات رائدة تتسابق نحو أنظمة تستطيع تحسين نفسها، رغم احتمال أن تصبح هذه الأنظمة عصية على التحكم. 150

من زر تديره الشركة إلى ضمانة قابلة للتحقق

يرى جاك كلارك، الشريك المؤسس في أنثروبيك، أن القدرة على تعطيل نظام ذكاء اصطناعي خطِر قد تصبح في نهاية المطاف مطلبًا قانونيًا، لا مجرد تعهد اختياري من الشركة المطوِّرة. وقال لهيئة BBC إن معظم المختبرات الكبرى، ومنها أنثروبيك، تملك بالفعل وسائل لإيقاف أنظمتها، لكنه طرح سؤالًا محوريًا: هل ينبغي لطرف ثالث مستقل أن يكون قادرًا على التحقق من وجود زر الإيقاف وفاعليته؟ 33

والفرق هنا جوهري: أن تقول شركة إن لديها إجراءً للإيقاف ليس مثل أن يتمكن مقيّم خارجي من التأكد من أن الإجراء موجود، ومصمم على نحو كافٍ، ويمكن استخدامه فعلًا عند الطوارئ.

أمودي وفكرة «مواكبة حدود القدرة»

قدم داريو أمودي، الرئيس التنفيذي لأنثروبيك، إطارًا يقترح إبطاء وتيرة تطور قدرات الذكاء الاصطناعي المتقدم بحيث لا تتجاوز تدابير السلامة. ويتألف طرحه من ثلاثة محاور:

1. مقيّمون مستقلون مدمجون: تمنح شركات الذكاء الاصطناعي المتقدم جهات تقييم خارجية وصولًا مستمرًا بمستوى قريب من وصول الموظفين إلى الأنظمة وممارسات السلامة، للتحقق من الالتزامات والإبلاغ عن المخاوف.
2. معايير مشتركة بين الدول الديمقراطية: تنسق الشركات الرائدة على معايير سلامة مشتركة وقيود على نمو القدرات بلا ضوابط.
3. تنسيق دولي: تتعاون الحكومات عبر الحدود للتعامل مع مخاطر لا تستطيع شركة أو دولة واحدة احتواءها بصورة موثوقة. 17

لا يعني ذلك وقف أبحاث الذكاء الاصطناعي بالكامل، بل ربط التقدم بضوابط سلامة قابلة للفحص خارج الشركات التي تبني هذه الأنظمة.

من أيد هذا التوجه؟

أفادت رويترز بأن سام ألتمان، الرئيس التنفيذي لـOpenAI، وإيلون ماسك، قائد xAI، أيدا علنًا التوجه العام لطرح أمودي. وقال ألتمان إن OpenAI ستتبنى فكرة المقيّمين المستقلين ذوي الوصول المشابه لوصول الموظفين، فيما كتب ماسك: «داريو محق». 17

كما وصفت تقارير ديميس هاسابيس، الرئيس التنفيذي لـGoogle DeepMind، بأنه مؤيد لاتجاه المقترح. 30 أما المصادر المتاحة فلا تثبت موقفًا محددًا ومنسوبًا بوضوح إلى ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت؛ لذلك لا يصح توصيف موقفه على نحو جازم.

ماذا يتضمن مشروع القانون الأميركي؟

يقترح مشروع AI Kill Switch Act، المعروف برقم H.R. 9917، تعديل قانون الأمن الداخلي الأميركي لإلزام جهات مشمولة بالاحتفاظ بقدرات تقنية توقف تشغيل الاستدلال للنظام، وتنهي وصول المستخدمين إليه، وتعطّل تقنية الذكاء الاصطناعي المشمولة. 49

والمشروع ليس قانونًا نافذًا ولا حلًا مثبتًا لكل مشكلات السيطرة على الذكاء الاصطناعي. فقيمته العملية ستعتمد على قدرة المطوّر، عند وقوع حادث خطير، على تحديد النظام المعني والوصول إليه وتعطيله؛ وهي العقبة التي لفت كوكسون إليها بالنسبة إلى الأنظمة المستقبلية الموزعة.

تقديرات خطر الانقراض ليست توقعات محسومة

قال باحث أنثروبيك إيفان هوبينغر إنه يقدّر شخصيًا احتمال انقراض البشر بسبب الذكاء الاصطناعي خلال السنوات العشر المقبلة بأكثر من 10%. ووصف عالم الحاسوب والحائز نوبل جيفري هينتون احتمالًا بنسبة 10% بأنه «ليس غير معقول». 57

هذه تقديرات خبراء لمستقبل شديد عدم اليقين، وليست احتمالات مقاسة أو إجماعًا علميًا. لكنها تفسر انتقال نقاش الإيقاف من سلامة المنتجات المعتادة إلى سؤال أوسع: هل يبرر احتمال، ولو محدودًا، لكارثة لا رجعة فيها فرض ضمانات قوية؟

لماذا تتحفظ الحكومات على الإلزام بالإيقاف أو الإبطاء؟

رفضت الحكومة البريطانية اقتراحًا وطنيًا لزر إيقاف، قائلة إن البلاد «لا تستطيع ببساطة إطفاء الذكاء الاصطناعي». وحجتها عملية: حجب الوصول إلى النماذج داخل المملكة المتحدة لن يمنع تطويرها أو إساءة استخدامها في دول أخرى. 51

وهنا تظهر المعضلة الجيوسياسية. تستطيع الدولة فرض قواعد على الشركات والبنية التحتية الواقعة ضمن ولايتها، لكن تطوير الذكاء الاصطناعي نشاط دولي. وقد تخشى الحكومات المعنية بالتنافسية أن تؤدي القيود الأحادية إلى انتقال الاستثمار والقدرات التقنية والنفوذ الاستراتيجي إلى منافسين أقل تقييدًا.

لكن مؤيدي الحوكمة الأقوى يردون بأن هذا بالضبط سبب عدم كفاية التعهدات الطوعية للشركات أو القواعد الوطنية وحدها. فإذا كانت المخاطر عابرة للحدود، فينبغي أن تصبح الرقابة والتزامات السلامة قابلة للتصديق دوليًا كذلك.

الخلاف الحقيقي: السرعة أم السيطرة؟

لا ينقسم النقاش ببساطة بين مؤيد للذكاء الاصطناعي ومعارض له.

• دعاة السلامة يطالبون بضمانات يمكن تفتيشها بصورة مستقلة، وقدرة حقيقية على الإيقاف، وحدود تمنع القدرات من تجاوز التقييم والتحكم.
• المتحفظون على القيود الصارمة يرون أن الإيقاف المؤقت قد يصعب فرضه عالميًا، وقد يبطئ ابتكارات مفيدة من دون أن يمنع التطوير في أماكن أخرى.
• أنصار التطوير المشروط، كما في طرح كوكسون وكلارك وأمودي، يريدون استمرار التقدم، لكن مع ضمانات يمكن اختبارها بدل الاكتفاء بالوعود. 83317

لذلك، ينبغي النظر إلى زر الإيقاف بوصفه طبقة واحدة ضمن منظومة سلامة أوسع، لا بديلًا عنها. وإذا أصبحت الأنظمة المتقدمة موزعة بدرجة تعجز معها آلية واحدة عن الوصول إلى جميع نسخها، فستزداد أهمية الرقابة قبل النشر، والتقييم المستقل، والتنسيق الدولي، لا العكس.