ضغط نفسي وأخلاقي داخل سباق الذكاء الاصطناعي المتقدم

تتمثل الإجابة المختصرة في تداخل الضغط الأخلاقي مع الضغط المؤسسي والمهني. فالباحثون المكلفون باختبار نماذج الذكاء الاصطناعي المتقدمة يخشون أن تتيح هذه الأنظمة أضراراً بيولوجية أو سيبرانية قبل أن تلحق بها إجراءات الحماية والرقابة والقدرة على التقييم المستقل.

وتفيد تقارير بأن عدداً من موظفي معهد سلامة الذكاء الاصطناعي البريطاني، وهو جهة تقيّم نماذج الذكاء الاصطناعي المتقدمة بصورة مستقلة، أخذوا إجازات مرضية أو طلبوا استشارات نفسية بسبب الضيق النفسي وتدني المعنويات والإنهاك المرتبط بجداول الاختبار الضيقة. 15 أما في المختبرات الكبرى، فتوجد شهادات علنية عن قلق شديد لدى باحثين، لكن الأدلة المتاحة علناً لا تثبت مدى انتشار هذه التجربة داخل كل شركة على حدة. 9

ما الذي يخيف الباحثين؟

• مخاطر قريبة وأخرى قصوى: يخشى الباحثون أن تخفّض النماذج عتبة تنفيذ الهجمات السيبرانية أو إساءة استخدام المعرفة البيولوجية. كما يقلق بعضهم من سيناريو أبعد، تصبح فيه الأنظمة الأكثر استقلالية عصية على الرقابة البشرية ذات المعنى. وقد وصف جاكوب كوكسون التهديدات البيولوجية المدعومة بالذكاء الاصطناعي والأسلحة السيبرانية بأنها مسارات محتملة إلى كارثة. 15

• إحساس شخصي بالمشاركة في الخطر: لا يدرس موظفو السلامة خطراً نظرياً من الخارج؛ بل يقيّمون الأنظمة نفسها أو يدرّبونها أو يساعدون في طرحها. وعندما تكون مواعيد الاختبارات ضيقة فيما تستمر المنافسة التجارية، قد تتحول المسافة بين اكتشاف الخطر والقدرة الفعلية على وقف الإطلاق إلى شعور بالعجز والإنهاك والإصابة الأخلاقية. 15

• استقالة جاكوب كوكسون جعلت القلق علنياً: كوكسون، الذي عمل في أبحاث التدريب المسبق لدى OpenAI وAnthropic، استقال من Anthropic وقال إن الشركتين تتسابقان نحو ذكاء فائق قادر على تحسين نفسه من دون تصرف مسؤول، بحسب تحذيره العلني. 14 وقال لهيئة الإذاعة البريطانية BBC إن أشخاصاً داخل المختبرات الرائدة «خائفون حقاً» من سرعة التقدم وما قد تعنيه للبشرية. 9

لماذا لا تكفي معالجة الأمر داخل كل شركة؟

يكمن جوهر النقاش المرتبط بأفكار روب رايش من جامعة ستانفورد في أن موظفاً أو مختبراً منفرداً لا يستطيع وحده إيقاف سباق تنافسي بأمان. لذلك تبرز الحاجة إلى تنسيق أوسع، وتقييمات مستقلة موثوقة، وقواعد عامة خارج سلطة الشركات نفسها. وخلص نقاش في ستانفورد إلى أن تباطؤاً واسعاً في تطوير القدرات سيكون صعب التحقيق، مع التشديد على أن التقييمات الحكومية أو التي تجريها أطراف ثالثة مؤهلة ينبغي أن تصبح ممارسة معيارية. 3

ولا تتوافر في المصادر المقدمة أدلة كافية لنسبة خطة تفصيلية محددة لـ«تحرك عمالي منسق» إلى رايش، beyond هذا الإطار الأوسع المتعلق بالحوكمة والعمل الجماعي.

لماذا زادت دعوات الإبطاء الشكوك بدلاً من تهدئتها؟

أيد داريو أمودي وسام ألتمان وديميس هاسابيس وغيرهم، بدرجات متفاوتة، فكرة إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم. 2 لكن منتقدين يحذرون من أن تجميداً أو إبطاءً تصوغه وتراقبه الشركات الكبرى نفسها قد يرسخ نفوذها ويحدّ من منافسيها الأصغر. 11

ولهذا لا يُحسم اختبار المصداقية بالتصريحات وحدها، بل بإجراءات يمكن التحقق منها: تأجيلات فعلية للإطلاق، وتدقيقات مستقلة، وعتبات أمان قابلة للإنفاذ، وحماية للمبلغين عن المخالفات، واستعداد لقبول قيود خارجية.

أتمتة البحث: لماذا تبدو الوتيرة أقل قابلية للضبط؟

لا يعني هذا أن الذكاء الاصطناعي حقق بالفعل التحسين الذاتي التكراري الكامل؛ فالأبحاث تشير إلى أن ذلك لم يحدث بعد. 6 لكن الأنظمة باتت قادرة بصورة متزايدة على أتمتة أجزاء من أعمال البحث والهندسة، ما قد يقصر دورات التجريب ويحرك القدرات بوتيرة أسرع من قدرة البشر على فهمها واختبارها وحوكمتها.

ويشير مركز الأمن والتكنولوجيا الناشئة CSET إلى أن أتمتة البحث والتطوير في الذكاء الاصطناعي قد تسرّع التقدم وتضعف قدرة البشر على الفهم والسيطرة. 4 وفي المقابل، وجدت دراسة حديثة أن الوكلاء البرمجيين استطاعوا إنجاز قدر كبير من العمل الهندسي البحثي، لكنهم لم يحققوا تقدماً علمياً مهماً في أسئلة بحثية مفتوحة. 5

الخلاصة: ليست هذه الوقائع دليلاً على أن كارثة وجودية وشيكة حتماً. لكنها تعكس أن بعض العاملين الأقرب إلى تطوير النماذج المتقدمة يرون أن اجتماع تسارع القدرات، ومخاطر الاستخدام المزدوج، وحوافز المنافسة، وضعف الرقابة الخارجية بات عبئاً نفسياً وأخلاقياً لا يمكن احتماله.