حين يساعد الذكاء الاصطناعي في تطوير الجيل التالي منه

ليس مصدر القلق في الدعوة الأخيرة إلى الرقابة مجرد احتمال أن تصبح نماذج الذكاء الاصطناعي أكثر قدرة. المسألة أن هذه الأنظمة قد تساعد في تطوير الجيل التالي من الذكاء الاصطناعي، فتتسارع الأبحاث عبر حلقات متتابعة. ولهذا يدعو باحثون وقادة من OpenAI وAnthropic وMeta وMicrosoft صانعي السياسات إلى معرفة مدى تقدم أتمتة الأبحاث قبل أن يصبح الإشراف عليها أصعب. 23

يُشار أحياناً إلى هذا الاحتمال باسم «انفجار الذكاء». لكنه سيناريو تحذيري، لا دليل على أن الذكاء الاصطناعي يطوّر نفسه بالفعل من دون توجيه بشري. والسؤال العملي هو: كيف يمكن قياس دوره المتنامي في أبحاث الذكاء الاصطناعي ووضع ضوابط مناسبة له؟ 114

كيف يمكن لأتمتة الأبحاث أن تسرّع التطوير؟

يمكن للذكاء الاصطناعي أن يشارك في جوانب من تطوير النماذج المقبلة. وإذا أسهمت هذه المشاركة في إنتاج أنظمة أكثر قدرة، ثم تولّت الأنظمة الجديدة مزيداً من العمل البحثي، فقد تسرّع كل مرحلة ما يليها. وتُعرف هذه الفكرة باسم «التحسين الذاتي التكراري»: أي أن تساعد أنظمة الذكاء الاصطناعي في تحسين العملية التي تُبنى بها أنظمة أخرى. 15

يركز التحذير على احتمال تغيّر سرعة التطوير. ففي أحد السيناريوهات الواردة في التغطية البحثية، قد تختصر أسابيعٌ تقدماً كان سيستغرق عاماً. لكن هذا توقّع محتمل، لا نتيجة مقاسة؛ ولا تثبت المصادر أن هذا الإيقاع قد تحقق بالفعل. 314

وفي بحث سابق استند إلى مقابلات مع 25 باحثاً من مختبرات متقدمة وأوساط أكاديمية، توقع كثيرون أن تؤتمت أنظمة الذكاء الاصطناعي أبحاث الذكاء الاصطناعي نفسها، بما قد ينشئ حلقة تسارع. ويشرح ذلك سبب أخذ الاحتمال على محمل الجد داخل المجال، لكنه لا يعني أن «انفجار الذكاء» حتمي. 1

ما الذي يريد الباحثون من صانعي السياسات فحصه؟

المطلب المباشر هو مزيد من الوضوح بشأن مدى استخدام الشركات للذكاء الاصطناعي في البحث والتطوير. وقد دعا أكثر من 20 قائداً وباحثاً في المجال صانعي السياسات إلى تدقيق هذا التقدم والنظر في ضمانات للتقنية. 2

وهنا فرق مهم: الدعوة إلى الرقابة لا تثبت أن مختبرات الذكاء الاصطناعي سلّمت الأبحاث بالفعل إلى الأنظمة الآلية. لكن معرفة أين وكيف يُستخدم الذكاء الاصطناعي قد تساعد الجهات المعنية على تقييم ما إذا كانت القواعد الحالية كافية مع اتساع دوره في تطوير النماذج. 23

لماذا يدعو بعض القادة إلى إبطاء التطوير؟

قد يمنح الإبطاء المنسق وقتاً لاختبار السلامة، وإجراء تقييمات مستقلة، وتعزيز الإشراف قبل أن تتغير قدرات الأنظمة مجدداً. وقد دعا باحثون في OpenAI وAnthropic علناً إلى إبطاء التطوير، فيما فضّل قادة آخرون نهجاً يعتمد بدرجة أكبر على السوق. ويعكس ذلك غياب اتفاق صناعي على مقدار الإبطاء المطلوب أو شكل الوقف العملي. 818

كما أن التنسيق يثير أسئلة تطبيقية: ما الأنظمة أو الأنشطة التي سيشملها؟ من سيراقب الالتزام؟ وكيف يمكن تنفيذه بين شركات تتنافس في المجال؟ وتشير التغطية المتاحة إلى أن معنى الوقف وطريقة إنفاذه لا يزالان غير واضحين.

هل يمكن لمفتاح إيقاف أن يكون حلاً؟

قال براد سميث، رئيس Microsoft، إن مطوّري النماذج ومزوّدي البنية التحتية السحابية والقائمين على إدارة وكلاء الذكاء الاصطناعي ينبغي أن يكونوا قادرين على إيقاف الأنظمة. ويُطرح هذا الخيار بوصفه مكبحاً للطوارئ، لا بديلاً عن الوقاية والإشراف المستمر.

لكن الإيقاف ليس مسألة زر واحد بالضرورة. فقد تعمل أنظمة الذكاء الاصطناعي عبر بنية تحتية موزعة، ما يعني أن مفتاحاً منفرداً لا يضمن توقف كل مكوّن؛ ويشير خبراء أيضاً إلى أهمية المراقبة والتدخل البشري.

تداخل المصالح التجارية مع النقاش

تثير الأدوار المقترحة للمطوّرين ومزوّدي الخدمات السحابية سؤالاً عن الحوكمة: فقد تشارك الشركات في الإشراف على أنظمة تطورها أو تستضيفها. وMicrosoft مثال على هذا التداخل؛ فهي تعمل في تطوير النماذج وتوفر أيضاً خدمات سحابية. لذلك تبرز أهمية القواعد الواضحة والرقابة المستقلة، من دون أن يعني هذا التداخل وحده أن موقف أي شركة من السلامة غير صادق. 2

وهناك أيضاً تحدي التنسيق بين الشركات. فالقادة منقسمون بشأن سرعة التطوير، وتُطرح الدعوات إلى الإبطاء وسط منافسة قوية لبناء أنظمة الذكاء الاصطناعي ونشرها. وقد يصعب على شركة واحدة الالتزام الطوعي بالقيود إذا واصل الآخرون التقدم بسرعة. وتثبت المصادر وجود خلاف وضغط تنافسي، لكنها لا تثبت أن مصالح الاستثمار تحدد آراء كل باحث على حدة. 1218

عملياً، يواجه صانعو السياسات سؤالين مترابطين: كيف يتتبعون دور الذكاء الاصطناعي في تطوير أنظمة الذكاء الاصطناعي، وكيف يجعلون الضمانات قابلة للتحقق بدلاً من الاعتماد على تعهدات الشركات وحدها؟ التحذيرات تبرر بحث هذه الأسئلة الآن، لكنها لا تحسم احتمال وقوع «انفجار الذكاء» ولا تحدد أي استجابة تنظيمية ستكون الأجدى. 123