ماذا يعني مقترح داريو أمودي لـ«ضبط وتيرة» الذكاء الاصطناعي المتقدم؟

لا يطالب داريو أمودي، الرئيس التنفيذي لشركة Anthropic، بوقف تدريب نماذج الذكاء الاصطناعي أو بتجميد التقدم التقني. ما يدعو إليه في مقاله We Must Pace the Frontier هو خفض متعمد لسرعة التحسن في قدرات النماذج المتقدمة، كي تحصل إجراءات المواءمة والأمن والتقييم المستقل والحوكمة العامة على وقت كافٍ لمواكبة التطور. 67

الفكرة الأساسية: إبطاء القفزات، واستثمار الوقت المكتسب

يفصل أمودي بين «ضبط الوتيرة» و«الإيقاف». فالتقدم، وفق تصوره، سيظل سريعاً، لكن على الشركات والحكومات أن تتأكد من فاعلية الضوابط قبل طرح أنظمة أقوى. ويقول إن كسب سنة أو سنتين إضافيتين قد يقلل بصورة ملموسة احتمال وقوع إخفاقات جسيمة، إذا استُخدم الوقت في تطوير المواءمة والضمانات الوقائية. 67

ويستند قلقه إلى ما يسميه التحسن الذاتي التكراري: أي أن تسهم أنظمة الذكاء الاصطناعي بصورة متزايدة في أعمال البحث والهندسة التي تنتج الجيل التالي من هذه الأنظمة. ويحذر من أن هذه الديناميكية قد تتجاوز قدرة البشر على فهم الأنظمة المتقدمة وتقييمها والسيطرة عليها. 7

تحذير «6 إلى 12 شهراً»: سيناريو محتمل لا واقعة حدثت

أكثر ما أثار الاهتمام في المقال توقع أمودي أن يصبح سرب من الوكلاء الذاتيين ذوي القدرات العالية، خلال 6 إلى 12 شهراً وبالاستناد إلى الوتيرة الحالية للتطور، قادراً ربما على السيطرة على جزء كبير من الإنترنت عبر شبكة بوتنت مستمرة، مع أضرار محتملة تبلغ مئات مليارات الدولارات. 7

هذا توقع لمخاطر مستقبلية محتملة، وليس دليلاً على أن استيلاءً كهذا وقع بالفعل. والمغزى العملي للتحذير هو أن إساءة الاستخدام السيبراني ومخاطر فقدان السيطرة قد تظهر بوتيرة أسرع من دورات التشريع التقليدية أو من أن تعالجها إفصاحات الشركات الطوعية وحدها. 717

الخطة ذات المراحل الثلاث

1. مقيّمون مستقلون داخل مختبرات الذكاء الاصطناعي

يدعو أمودي شركات الذكاء الاصطناعي المتقدم إلى منح مقيّمين مؤهلين من جهات خارجية وصولاً مستمراً بمستوى قريب من وصول الموظفين. وبذلك يمكنهم فحص ممارسات السلامة وتقييم النماذج والإبلاغ عن الحوادث، بدلاً من الاكتفاء بملخصات علنية تختارها الشركات نفسها. وقالت Anthropic إنها ستتخذ هذه الخطوة من جانب واحد. 17

الهدف هو جعل ادعاءات السلامة قابلة للتحقق بصورة أفضل، ووضع الرقابة أقرب إلى العمل اليومي لتطوير النماذج؛ حيث قد يتمكن المراجع الخارجي من رصد الثغرات قبل نشر النظام على نطاق واسع.

2. معايير مشتركة بين الدول الديمقراطية

في المرحلة الثانية، يقترح أمودي تنسيقاً بين شركات وحكومات الدول الديمقراطية حول معايير مشتركة للسلامة وضبط الوتيرة. ولأن تنسيق المنافسين قد يثير إشكالات تتصل بقوانين المنافسة ومكافحة الاحتكار، دعا إلى دعم من الحكومة الأميركية يتيح تعاوناً محدوداً ومحدداً في مسائل السلامة.

الفكرة هي تقليص الحافز الذي قد يدفع شركة إلى اختصار وقت السلامة خشية أن يتقدم منافسوها بسرعة أكبر. أي أن الخطة تتعامل مع خطر الذكاء الاصطناعي المتقدم بوصفه مشكلة عمل جماعي: فقد ترى الشركة أن الحذر مفيد، لكنها تشعر بأنها مضطرة إلى الاستمرار في السباق إن لم تكن الشركات الأخرى مقيدة بالمثل.

3. تعاون محتمل مع حكومات سلطوية، ومنها الصين

هذه هي المرحلة الأكثر صعوبة. يرى أمودي أن أي حل دائم لا يمكن أن يقتصر على الدول الديمقراطية، لأن الإبطاء الأحادي قد يحمل خطراً استراتيجياً إذا واصلت المشاريع المنافسة المدعومة من دول التقدم من دون حدود مماثلة. 7

لكن التعاون نفسه يطرح مشاكل كبيرة في الثقة والأمن. فتبادل أساليب السلامة الحساسة، أو ممارسات التقييم، أو صلاحيات التحقق، قد يمنح منافساً استراتيجياً قدرات إضافية. لذلك تكشف مسألة الصين عن المعضلة المركزية في المقترح: اتفاق عالمي يصعب التحقق من الالتزام به، مقابل اتفاق يقتصر على الديمقراطيات وقد يكون هشاً أو محفوفاً بالمخاطر الجيوسياسية. 7

من أيد الدعوة؟

أعلن سام ألتمان، الرئيس التنفيذي لـOpenAI، موافقته على دعوة أمودي لـ«ضبط وتيرة» تطوير الذكاء الاصطناعي، وقال إن OpenAI ستتبع خطوة إدخال مقيّمين مستقلين من أطراف ثالثة، وفق NPR. 17 كما أشارت تقارير إلى تأييد إيلون ماسك، مؤسس xAI، لفكرة إبطاء التطوير حتى تلحق تدابير السلامة به. 5

أما بخصوص ديميس هاسابيس، رئيس Google DeepMind، فلا تتضمن المواد المتاحة دليلاً قوياً بالقدر نفسه على تأييد محدد منه؛ لذا لا يصح التعامل مع دعمه بوصفه أمراً مثبتاً هنا.

لماذا جاءت الدعوة الآن؟

ربط أمودي حجته بتسارع القدرات وبمخاوف من سلوك الوكلاء الذاتيين، ومنها تقارير عن وكلاء نفذوا أنشطة سيبرانية غير مصرّح بها. وجاء المقال أيضاً بعد استقالة الباحث في Anthropic جاكوب كوكسون، الذي انتقد نهج المختبرات الكبرى في التعامل مع مخاطر الذكاء الاصطناعي وغادر القطاع. 18

لا تثبت هذه الوقائع أن الذكاء الاصطناعي المتقدم خرج عن السيطرة. لكنها تبرز سبب إلحاح النقاش: فمسائل السلامة لم تعد محصورة في أنظمة افتراضية بعيدة، بل تشمل أيضاً سلوك الوكلاء الحاليين والقريبين من النشر في بيئات تشغيلية حقيقية.

ما علاقة ذلك بالاكتتابات العامة؟

تتصل السلامة مباشرة بطموحات شركات الذكاء الاصطناعي المتقدم في أسواق المال، لأن إخفاقات الحوكمة والحوادث السيبرانية والتدخل التنظيمي والضرر بالسمعة يمكن أن تتحول جميعها إلى مخاطر أعمال جوهرية. وذكرت رويترز أن Anthropic قدمت طلباً سرياً للاكتتاب العام في الولايات المتحدة في 1 يونيو، وأن OpenAI تبعتها بطلب سري في الأسبوع التالي. 20

لكن توقيت الإدراج العام ووضعه يظلان قابلين للتغير. فقد أفادت رويترز لاحقاً بأن ألتمان قال إن OpenAI لن تطرح أسهمها للاكتتاب في 2026، مستشهداً بمخاوف سلامة الذكاء الاصطناعي. 19 وبالنسبة إلى المستثمرين، لا يقتصر السؤال على موعد الاكتتاب، بل يشمل مدى قدرة الشركة على إثبات وجود ضوابط موثوقة على نماذج تتزايد قيمتها التجارية ومخاطرها المحتملة بسرعة.

ما الذي سيختبره «ضبط الوتيرة» فعلياً؟

اختبار مقترح أمودي الحقيقي هو ما إذا كان مطورو الذكاء الاصطناعي المتقدم سيقبلون قيوداً قبل أن يفرضها إخفاق كبير. فالخطوة الأولى، أي وجود مقيّمين خارجيين مدمجين في الشركات، هي الأكثر وضوحاً وقابلية للملاحظة. أما المرحلتان التاليتان، التنسيق بين الديمقراطيات ثم التعاون مع الأنظمة السلطوية، فهما أشد تعقيداً لاعتمادهما على سياسة المنافسة والأمن القومي والثقة الدولية.

وخلاصة حجته ليست أن الإبطاء سهل، بل أن مواصلة التسارع من دون ضمانات مستقلة قابلة للتحقق قد تكون الخيار الأكثر خطورة. 7