نقل فريق مسؤولية الذكاء الاصطناعي في غوغل يثير مخاوف بشأن استقلاليته

ما الذي سيتغير؟

تعتزم غوغل نقل فريق مسؤولية الذكاء الاصطناعي، المؤلف من نحو 90 شخصًا، من Google DeepMind إلى قسم الشؤون العالمية في أوائل سبتمبر. ويبدو أن الهدف المعلن من إعادة الهيكلة هو وضع العمل المتعلق بمخاطر الذكاء الاصطناعي وتأثيراته الاجتماعية بالقرب من فرق السياسات والشؤون القانونية والعلاقات الحكومية، في وقت يجري فيه دمج DeepMind بصورة أكبر في منظومة غوغل المعنية بتطوير المنتجات والذكاء الاصطناعي. 53

كان الفريق يدرس مجموعة واسعة من المخاطر المرتبطة بالأنظمة المتقدمة، من بينها احتمال إساءة استخدامها في مجالات كيميائية وبيولوجية وإشعاعية ونووية، فضلًا عن الأضرار النفسية المحتملة الناتجة عن التفاعل المستمر مع روبوتات الدردشة. وبعد النقل، لن يعود الفريق جزءًا من المختبر الذي يطوّر نماذج الذكاء الاصطناعي المتقدمة نفسها. 5

لماذا يشعر بعض الموظفين بالقلق؟

يخشى موظفون أن يؤدي انتقال الفريق من مختبر بحثي إلى وظيفة مؤسسية ضمن الشؤون العامة إلى إضعاف استقلاليته، وتقليص قربه من القرارات المتعلقة بتطوير النماذج، وربما جعل متابعة النتائج غير المرغوب فيها أو تصعيدها أكثر صعوبة.

لكن هذه المخاوف، بحسب التقارير، تعكس ما يثيره موظفون داخل المؤسسة، ولا تمثل دليلًا على أن هذه القيود فُرضت بالفعل. كما أن نقل الفريق إلى قسم الشؤون العالمية لا يعني تلقائيًا أن غوغل تخلت عن أعمال السلامة؛ فالمسألة الأساسية تتعلق بمكان اتخاذ قرارات السلامة وبمدى قدرة الباحثين على التأثير فيها. 5

ما الذي سيحتفظ به الفريق؟

تشير التقارير المتاحة إلى أن الفريق سيواصل دراسة مخاطر الذكاء الاصطناعي وتأثيراته على المجتمع. غير أن المعلومات المنشورة لا تقدم صورة مكتملة وملزمة بشأن عدد الموظفين الذين سيبقون ضمنه، أو مستوى وصوله إلى النماذج، أو حريته في نشر الأبحاث، أو ميزانيته، أو صلاحياته في رفع التحذيرات إلى الإدارة.

لذلك، لا يمكن الجزم حتى الآن بالإجراءات الوقائية التي سيحتفظ بها عمليًا. ولا توجد أدلة كافية أيضًا للقول إن النقل سيحرم الفريق من أي صلاحية رسمية لوقف إطلاق نماذج جديدة. الأدلة غير كافية لتحديد هذه النقطة. 5

ما الذي يبقى داخل DeepMind؟

ستواصل مجموعات أخرى في DeepMind وغوغل العمل على ضوابط تشغيلية وتقنية للنماذج، مثل سلوك النموذج والخصوصية والأمن والسلامة التقنية. ويؤدي ذلك إلى فصل أوضح بين نوعين من العمل:

• ضوابط تقنية وضوابط مرتبطة بالمنتج داخل الجهة التي تطوّر النماذج.
• أبحاث أوسع حول التأثيرات الاجتماعية والحوكمة والسياسات داخل قسم الشؤون العالمية. 67

وقد يكون لهذا التقسيم فوائد، مثل توحيد التعامل مع القضايا التنظيمية والسياساتية على مستوى غوغل. لكنه قد يثير في المقابل تساؤلات حول استقلالية الفرق التي يفترض بها انتقاد النماذج أو التحذير من مخاطرها، خصوصًا إذا لم تُحمَ صراحةً حقوق الوصول إلى النماذج وحرية النشر وقنوات التصعيد ومراجعة قرارات الإطلاق.

كيف ترتبط الخطوة بتغيير القيادة؟

تأتي عملية النقل بالتزامن مع تحول ديميس هاسابيس من مسؤوليات الرئيس التنفيذي اليومية في Google DeepMind إلى منصب رئيس مجلس إدارة الوحدة وكبير العلماء في الشركة الأم ألفابت. وفي المقابل، مُنح كوراي كافوك أوغلو، الذي كان يشغل منصب المدير التقني وكبير مهندسي الذكاء الاصطناعي، دورًا تشغيليًا أكبر داخل DeepMind. 1334

وتقول تقارير إن غوغل نقلت كذلك بعض فرق الذكاء الاصطناعي إلى هيكل الشركة الأم، بينما يدفع قادتها نحو تسريع تطوير نماذج Gemini في ظل منافسة قوية ومغادرة عدد من كبار الباحثين والمهندسين. 1334

ماذا تكشف إعادة الهيكلة عن مستقبل سلامة الذكاء الاصطناعي؟

لا تشير الخطوة بحد ذاتها إلى أن غوغل أوقفت أعمال السلامة. لكنها تكشف التوتر الذي تواجهه مختبرات الذكاء الاصطناعي الكبرى: فالشركات تريد أن تكون خبرة السلامة قريبة بما يكفي من مهندسي النماذج للتأثير في تصميمها، لكنها تميل في الوقت نفسه إلى جمع هذه الخبرة مع فرق القانون والسياسات وقرارات الإطلاق، بينما تتنافس على طرح نماذج أكثر قدرة بسرعة.

قد يساعد هذا النموذج في توحيد القرارات والتعامل مع الجهات التنظيمية، لكنه قد يضعف الاستقلالية المتصوَّرة، وربما العملية، للخبراء الداخليين الذين يرفعون التحذيرات. وسيعتمد الحكم النهائي على ما إذا كانت غوغل ستضمن للفريق وصولًا فعليًا إلى النماذج، وحقًا واضحًا في نشر النتائج، وصلاحيات محددة لتصعيد المخاطر أو مراجعة قرارات إطلاق المنتجات. 53