باحثو سلامة الذكاء الاصطناعي يطالبون بإبطاء السباق تحت وطأة الضغط

تتعرّض فرق سلامة الذكاء الاصطناعي المتقدم لضغط من نوع خاص: فبعض من يختبرون النماذج الأقوى يعتقدون أن لها قابلية لإحداث أضرار جسيمة، لكنهم قد لا يملكون سلطة تأجيل إطلاقها أو إلزام الشركات بمعالجة العيوب التي يكتشفونها. وتشير تقارير إلى أن عدداً من موظفي معهد سلامة الذكاء الاصطناعي في المملكة المتحدة أخذوا إجازات مرضية أو لجأوا إلى الاستشارات النفسية، في ظل جداول اختبار مكثفة وتراجع المعنويات وقلق من سرعة النشر. ولا تثبت هذه التقارير أن الضيق النفسي حالة عامة في المعهد أو في شركات مثل Anthropic وOpenAI وGoogle DeepMind، لكنها تنبّه إلى الكلفة البشرية لسباق تقني عالي المخاطر. 2

لماذا يصبح هذا العمل مرهقاً نفسياً؟

لا يقيّم باحثو السلامة تقنية بعيدة أو افتراضية؛ بل يختبرون نماذج قد تُطرح للاستخدام قريباً. وهنا يظهر تعارض صعب بين المسؤولية المهنية وزخم المؤسسة: اكتشاف ثغرة أو خطر لا يعني بالضرورة امتلاك القدرة على وقف الإطلاق.

تتركز الضغوط المبلّغ عنها في المعهد البريطاني حول تقليص الوقت المتاح لتقييم أنظمة لم تُطرح بعد، إلى جانب القلق من تسارع الإطلاق التجاري وتحسن القدرات. 2 وفي هذا السياق، قد يتفاقم الاحتراق الوظيفي حين يشعر الباحث بمسؤولية عن مخاطر لا يستطيع، بمفرده، حلّها أو منعها.

وهذا في جوهره مشكلة مؤسسية، لا دليلاً على أن عاملاً بعينه يتصرف بلا عقلانية أو أن كارثة مؤكدة ستقع. فهو ينشأ عندما تكون تبعات الخطأ المتصوَّرة كبيرة، والوتيرة شديدة، وآليات التدخل المستقل غير واضحة أو محدودة.

ما المخاطر التي تقلق الباحثين؟

تتصل المخاوف بإساءة الاستخدام في المدى القريب، وبسيناريوهات أكثر افتراضية وعلى مدى أطول تتعلق بفقدان السيطرة.

إساءة الاستخدام البيولوجي والسيبراني

قد تخفّض النماذج القوية المهارة أو الوقت أو الكلفة اللازمة لتنفيذ نشاط ضار. وقد ذكر جاكوب كوكسون، الباحث السابق في Anthropic والذي عمل من قبل في OpenAI، أن التهديدات البيولوجية المدعومة بالذكاء الاصطناعي والأسلحة السيبرانية مسارات محتملة لضرر بالغ. 15

لا يعني ذلك أن نموذجاً بعينه تسبب بالفعل في حادث من هذا النوع. لكنه يفسر تركيز فرق السلامة على التقييمات، وضبط الوصول، والمراقبة قبل إتاحة أنظمة ذات قدرات استدلال أو سلوك مستقل أكثر تقدماً على نطاق واسع.

أنظمة تتقدم أسرع من الرقابة

الخوف الثاني هو أن يؤتمت الذكاء الاصطناعي أجزاء متزايدة من البحث والهندسة، فيسرّع دورة التطوير نفسها. ويشير تقرير صادر عن مركز الأمن والتقنيات الناشئة بجامعة جورجتاون (CSET) إلى أن أتمتة البحث والتطوير في الذكاء الاصطناعي بدرجة كبيرة قد تسرّع نمو القدرات، وتجعل فهم الأنظمة والتحكم فيها أصعب على البشر؛ ويطرح التقرير ذلك كسيناريو خطر محتمل لا كنتيجة ثبت وقوعها. 48

وتضع الأدلة الحالية حداً مهماً لهذه المخاوف: فقد وجدت دراسة حديثة أن الوكلاء البرمجيين استطاعوا إنجاز أعمال هندسية بحثية واسعة من دون مساعدة بشرية، لكنهم لم يحرزوا تقدماً ذا معنى في الأسئلة البحثية المفتوحة التي اختُبرت. 49 لذلك، لم يثبت تحسن ذاتي تكراري كامل للأنظمة. لكن القلق يتعلق بالاتجاه والسرعة: فأتمتة جزئية قد تقلّص حتى الآن الوقت المتاح للتقييم والحوكمة والتصحيح.

لماذا كان لاستقالة جاكوب كوكسون صدى واسع؟

أعطت استقالة كوكسون العلنية وجهاً إنسانياً لمخاوف غالباً ما تبقى داخل المؤسسات. وقال إنه، بعد عمله في أبحاث التدريب المسبق لدى OpenAI وAnthropic، خلص إلى أن الشركتين تتسابقان نحو ذكاء فائق قادر على تحسين نفسه من دون تصرف مسؤول. كما قال لهيئة الإذاعة البريطانية BBC إن العاملين في هذه التكنولوجيا «خائفون حقاً» من وتيرة تقدمها وتبعاتها المحتملة. 1

لا تجعل الاستقالة كل توقع يطرحه صاحبها صحيحاً بالضرورة. لكنها تكشف معضلة مهنية واضحة: هل يتيح البقاء داخل المختبر فرصة أفضل لتحسين الضمانات، أم يصبح الرحيل والحديث علناً ضرورياً عندما تبدو القنوات الداخلية غير كافية؟

لماذا لا يستطيع مختبر واحد إبطاء السباق بسهولة؟

المشكلة الأساسية في الحوكمة هي الفعل الجماعي. فالمختبر الذي يبطئ تطوير القدرات وحده قد يخشى خسارة موقعه أمام المنافسين، في حين يملك العاملون داخله نفوذاً أقل على سباق يمتد إلى القطاع كله.

وخلص نقاش لمعهد ستانفورد للذكاء الاصطناعي المتمحور حول الإنسان (Stanford HAI) إلى أن تحقيق إبطاء واسع لتطوير القدرات سيكون صعباً. ومع ذلك، شدد المشاركون على أن التقييم المستقل من الحكومة أو جهات خارجية مؤهلة، إلى جانب تعزيز الاستثمار في السلامة والأمن والمراقبة، ينبغي أن يكون جزءاً أساسياً من المنظومة. 18

وهذه مقاربة أكثر واقعية من تحميل الباحثين الأفراد العبء. فهي تنقل السؤال من الضمير الشخصي إلى القواعد المشتركة: من يجري الاختبارات؟ ماذا يحدث عند تجاوز عتبة خطر؟ ومن يملك صلاحية التحقق من الالتزام؟

هل دعوات القطاع إلى الإبطاء صادقة؟

أعلن داريو أمودي من Anthropic، وسام ألتمان من OpenAI، وديميس هاسابيس من Google DeepMind تأييدهم، بدرجات متفاوتة، لإبطاء أو «مواكبة» وتيرة تطوير الذكاء الاصطناعي المتقدم. 32 ومن المقترحات المتداولة إتاحة وصول مستمر لمقيّمين خارجيين مستقلين إلى مختبرات الذكاء الاصطناعي المتقدمة. 36

لكن الالتزام العلني ليس في ذاته قيداً قابلاً للإنفاذ. ويشير منتقدون إلى أن تجميداً لتطوير الذكاء الاصطناعي تصوغه الشركات المهيمنة قد يعزز نفوذها ويضر بالمنافسين الأصغر. 34 وقد يصح الأمران معاً: قد يرى بعض القادة مخاطر سلامة حقيقية، وقد تستفيد الشركات القائمة في الوقت نفسه من قواعد يصعب على المنافسين استيفاؤها.

لذلك، المعيار المفيد ليس تخمين الدوافع، بل إمكان التحقق. ويصبح الالتزام الجدي بالسلامة أسهل للتقييم عندما يتضمن:

• تقييماً مستقلاً لا يخضع حصراً لسيطرة مطوّر النموذج؛
• عتبات مخاطر معلنة وعواقب واضحة لتجاوزها؛
• شفافية في الإبلاغ عن الحوادث وممارسات الأمن؛
• رقابة خارجية ذات معنى؛
• وحماية للعاملين الذين يبلّغون عن مخاوف تتعلق بالسلامة.

ما الذي تثبته هذه التقارير، وما الذي لا تثبته؟

لا تثبت التقارير أن انقراض البشر وشيك، أو أن جميع العاملين في مختبرات الذكاء الاصطناعي المتقدم يعانون ضيقاً نفسياً، أو أن الأنظمة الحالية تستطيع تحسين نفسها ذاتياً بلا حدود.

لكنها تبيّن سبب شعور بعض القريبين من هذه التكنولوجيا بصعوبة أخلاقية في اللحظة الراهنة: أنظمة قوية تُختبر تحت ضغط الوقت، ومخاطر متوقعة تمتد من الاستخدام السيبراني والبيولوجي الضار إلى فقدان السيطرة، ومؤسسات حوكمة قد لا تملك بعد الاستقلالية أو الصلاحية الكافية. 2 15 18

بالنسبة إلى باحثي سلامة الذكاء الاصطناعي، يمكن لهذا المزيج أن يحوّل وظيفة تقنية إلى سؤال عن المسؤولية الشخصية. والحل المستدام ليس إلقاء هذه المسؤولية على الأفراد وحدهم، بل بناء أنظمة تقييم ومساءلة موثوقة وقابلة للتحقق المستقل، تستطيع مواكبة التكنولوجيا التي يُفترض بها تنظيمها.