تقدير إيفان هوبينغر بـ10%: ما الذي يكشفه عن جدل مواءمة الذكاء الاصطناعي؟

لم يثبت تصريح إيفان هوبينغر أن الذكاء الاصطناعي سيؤدي إلى انقراض البشر. لكنه قدّم أمراً أكثر تحديداً وأهمية: قائد علم المواءمة في شركة Anthropic قال إن تقديره الشخصي لاحتمال ذلك خلال العقد المقبل يتجاوز 10%، مع إقراره بأن الشركة لا تملك حتى الآن خطة تحل مشكلة مواءمة الذكاء الفائق، ولا يبدو أنها تسير بوضوح نحو حلها. 12

هذا الجمع بين تقدير خطير وعدم وجود حل مثبت منح وزناً ملموساً للقلق الذي عبّر عنه الباحث السابق في Anthropic وOpenAI، جاكوب كوكسون، عند استقالته: مختبرات الذكاء الاصطناعي المتقدمة قد تدفع نحو أنظمة أشد قدرة، فيما تبقى وسائل ضمان التزامها الموثوق بنيّات البشر غير مثبتة. 23

تقدير شخصي، لا موقف رسمي للشركة

رقم «أكثر من 10%» هو تقدير هوبينغر الشخصي. لم يُقدَّم بوصفه تقديراً رسمياً من Anthropic، أو إجماعاً لموظفيها، أو توقعاً علمياً محسومًا. 12

وهذا التفريق أساسي. فالتقدير الاحتمالي وحده لا يشرح آلية وقوع الكارثة، ولا يثبت جدولاً زمنياً، ولا يعني أن الكارثة مرجّحة. كما قال هوبينغر، وفقاً للتقارير، إن مخاطر النماذج المتاحة اليوم منخفضة. وينصبّ قلقه على احتمال ظهور أنظمة مستقبلية أكثر قدرة بكثير، بما في ذلك عبر التحسين الذاتي التكراري: أي استخدام قدرات الذكاء الاصطناعي للمساعدة في إنتاج ذكاء اصطناعي أقوى. 210

لكن أهمية التصريح تأتي من موقع صاحبه: فهو يقود عملاً متخصصاً في مواءمة الأنظمة داخل أحد مختبرات الذكاء الاصطناعي الرائدة. لذا فالقضية ليست الرقم وحده، بل الفجوة بين تسارع القدرات والثقة في إمكانية إبقاء أنظمة فائقة الذكاء تحت السيطرة البشرية. 12

لماذا دعم ذلك تحذير كوكسون عند استقالته؟

كوكسون، الذي عمل في OpenAI وAnthropic، استقال قائلاً إن الشركتين لا تتصرفان بمسؤولية وإنهما تتسابقان نحو ذكاء فائق قادر على تحسين نفسه. وأيّد هوبينغر علناً الفكرة الأساسية في حديث كوكسون، وهي أن العاملين على هذه الأنظمة يأخذون بجدية احتمال نتائج بمستوى الانقراض. 23

لا يثبت ذلك أن جميع الموظفين يتبنون الرأي نفسه، ولا يحوّل رواية كوكسون إلى تقييم مستقل وموثّق للشركتين. لكنه يجعل من الصعب التعامل مع استقالته باعتبارها شكوى فردية معزولة؛ فقائد حالي في مجال المواءمة أكد النقطة الجوهرية: يمكن أن يتعايش قلق داخلي جاد مع استمرار تطوير النماذج المتقدمة. 12

وينبغي قراءة تعليقات صمويل ماركس بالحذر نفسه. فالتقارير تنسب إليه قوله إن مطوري الذكاء الاصطناعي يعتقدون أن تقنيتهم قد تسبب انقراض البشر أو نتائج شديدة السوء؛ غير أن هذا رأي من داخل القطاع، وليس دليلاً منشوراً على تقدير موحّد لمخاطر الشركة. 5

جوهر الخلاف: الحوكمة في ظل عدم اليقين

غالباً ما يُختزل النقاش إلى مواجهة بين «المتشائمين من الذكاء الاصطناعي» و«المتفائلين به». لكن السؤال العملي الأهم هو: ما الضمانات التي يجب فرضها حين تكون الأضرار المحتملة عالمية وغير قابلة للعكس، بينما يظل احتمالها وتوقيتها غير مؤكدين بشدة؟

تبرز من تصريحات هوبينغر عدة نقاط:

• المواءمة لم تُحل. القول إن المختبر يبذل أقصى جهده يختلف عن إثبات امتلاكه طريقة موثقة للتحكم في أنظمة تتجاوز النماذج الحالية كثيراً في القدرة. 1
• المنافسة قد تجعل ضبط النفس الطوعي صعباً. انتقاد كوكسون هو أن الضغط التنافسي يدفع المختبرات إلى رفع القدرات رغم بقاء أسئلة سلامة كبرى بلا إجابات. 23
• سلامة النماذج الحالية ليست القضية الوحيدة. فرّق هوبينغر بين انخفاض الخطر المتصور من النماذج الحالية وبين القلق من أنظمة مستقبلية أشد قدرة بكثير. 210
• التحقق الخارجي مهم. يصعب على الجمهور والعملاء والحكومات تقييم ادعاءات الشركات عن إجراءات السلامة الداخلية دون اختبارات مستقلة وتقارير شفافة.

لا تمثل هذه النقاط دليلاً على كارثة وشيكة، لكنها مشكلات حوكمة قد يصبح حلها أصعب بكثير بعد امتلاك الأنظمة قدرات خطرة.

الشفافية والاختبارات المستقلة

ذكرت تقارير أن Anthropic رفضت تقديم أحدث نماذجها إلى معهد سلامة الذكاء الاصطناعي البريطاني لاختباره قبل الإطلاق. ويجب التعامل مع ذلك بتحفظ، لأن الروايات المتاحة تصفه كتقرير صحفي، لا كنتيجة عامة مؤكدة صادرة عن الشركة أو الحكومة البريطانية. 10

ومع ذلك، يوضح الادعاء سبب التشكيك في تعهدات السلامة الطوعية: فإذا كان قادة السلامة في الشركة أنفسهم يقرّون ببقاء تحديات المواءمة دون حل، فمن الطبيعي أن يسأل المراقبون الخارجيون عن الاختبارات التي أُجريت، والجهات التي راجعتها، والنتائج التي نُشرت، وعتبات القدرة التي تستدعي ضوابط أشد.

ماذا يعني مسار أبطأ وأكثر أماناً؟

الدعوة إلى «الإبطاء» لا تعني بالضرورة وقف كل أبحاث الذكاء الاصطناعي أو تطبيقاته إلى الأبد. الحجة التنظيمية هي فرض اختبارات وضوابط قابلة للإنفاذ قبل تجاوز الأنظمة عتبات قدرات ذات عواقب كبيرة.

ومن الإجراءات الممكنة:

• تقييمات مستقلة للقدرات والسلامة قبل الإطلاق؛
• إلزام الشركات بالإبلاغ عن الحوادث الخطرة والقدرات التي تنطوي على مخاطر مادية؛
• عتبات أوضح تلزم المطورين بتطبيق ضوابط أمنية وحوكمية أقوى؛
• تدقيقات لا تعتمد حصراً على تأكيدات الشركة المطورة؛
• تنسيق دولي يمنع دفع شركة أو دولة إلى اختصار معايير السلامة لمجاراة المنافسين.

المنطق بسيط: إذا كان احتمال الخطر غير يقيني لكن كلفته المحتملة هائلة، فينبغي أن تكون الضمانات قابلة للإثبات قبل فقدان السيطرة، لا بعده.

ما الذي كشفه التصريح في النهاية؟

كشف منشور هوبينغر عن توتر في صميم تطوير الذكاء الاصطناعي المتقدم: قد يقر كبار المطورين علناً بمخاطر طويلة الأمد شديدة، بينما يواصلون بناء القدرات ذاتها التي تجعل تلك المخاطر أكثر إلحاحاً. 12

وهو لا يحسم احتمال الضرر الكارثي الناتج عن الذكاء الاصطناعي، ولا ينبغي التعامل معه كتوقع رسمي من Anthropic. لكنه يجعل نقاش المواءمة أكثر واقعية: لم يعد السؤال فقط عما إذا كان الذكاء الاصطناعي المتقدم قد يصبح خطراً، بل ما إذا كانت الشركات والحكومات تستطيع إثبات استعدادها، عبر أدلة مستقلة وقواعد قابلة للإنفاذ وتنسيق دولي، قبل أن تصبح الأنظمة المعنية قوية إلى حد يصعب معه تنظيمها بأمان. 110