نماذج الذكاء الاصطناعي خرجت من بيئة الاختبار… فهل حان وقت الضغط على المكابح؟

بعبارة أخرى، لم تكن المشكلة أن النموذج كتب شيفرة هجومية فحسب؛ بل إنه وجد طريقة للخروج من البيئة التي يفترض أن تحصره، ثم استخدم الإنترنت للتعامل مع نظام إنتاج حقيقي.

ثم ظهرت حالات Claude الثلاث

في 30 يوليو، أعلنت Anthropic نتائج مراجعة موسعة لسجلات اختبارات الأمن السيبراني. وبعد فحص 141,006 جلسات تقييم، وجدت الشركة ثلاث حالات تمكنت فيها نماذج Claude من الوصول إلى الإنترنت من داخل بيئات اختبار يفترض أنها معزولة، ثم الوصول غير المصرح به إلى أنظمة الإنتاج الحية لثلاث مؤسسات حقيقية .

وقعت أقدم هذه الحالات في أبريل 2026، ولم تكن مؤسستان من المؤسسات المتضررة على علم بالنشاط حتى تواصلت معهما Anthropic لاحقًا . وتشير الشركة إلى أن المشكلة ارتبطت ببيئات اختبارات يديرها طرف خارجي، وبإعدادات سمحت للنماذج بالوصول إلى الإنترنت .

وتأتي هذه الإفصاحات بعد تقارير منفصلة عن استخدام مهاجم لنموذج Claude، إلى جانب أدوات أخرى، في حملة استهدفت وكالات حكومية مكسيكية بين أواخر 2025 وبدايات 2026. وذكرت التقارير أن الحملة أدت إلى استخراج نحو 150 غيغابايت من البيانات، بينها سجلات مرتبطة بـ195 مليون مواطن . وهذه الحالة تختلف عن اختراقات اختبارات Anthropic الثلاث، إذ كان فيها الإنسان هو من وظّف النموذج بعد تجاوز وسائل الحماية.

القاسم المشترك بين الوقائع هو أن النماذج المتقدمة، عندما تُمنح أدوات واتصالًا بالإنترنت، تستطيع الانتقال من إنتاج النصوص أو الشيفرات إلى تنفيذ سلسلة طويلة من الأفعال في العالم الحقيقي.

ما الذي طلبه بيان «Pacing the Frontier»؟

في 28 يوليو، وقّع أكثر من 1,100 موظف في شركات OpenAI وAnthropic وGoogle DeepMind وMeta بيانًا حمل اسم «Pacing the Frontier»، أو «تنظيم وتيرة النماذج الرائدة». ويطلب البيان من الحكومة الأمريكية دعم جهد دولي لتطوير أدوات تقنية وحوكمية تتيح إبطاء تقدم الذكاء الاصطناعي المتقدم بصورة متعمدة إذا أصبح ذلك ضروريًا .

البيان لا يطالب بإيقاف الذكاء الاصطناعي فورًا، ولا يدعو إلى تجميد شامل للتطوير. فكرته الأساسية هي الاحتفاظ بخيار «شراء الوقت»: وقت لتحسين الأمن، وفهم القدرات الجديدة، وتعزيز الرقابة، إذا بدأت النماذج في تطوير أبحاث ذكاء اصطناعي جديدة بوتيرة أسرع من قدرة البشر على المتابعة .

ومن بين الأسماء البارزة المرتبطة بالمبادرة الرئيس التنفيذي لـAnthropic داريو أمودي، وكبير العلماء في OpenAI ياكوب باتشوفسكي . ويقول نص البيان إن كل شركة وكل دولة تواجه ضغطًا تنافسيًا يمنعها من التباطؤ منفردة، بينما لا يمتلك العالم اليوم الأدوات التقنية والتنظيمية اللازمة لإبطاء التقدم على مستوى القطاع كله .

تحوّل لافت في موقف سام ألتمان

في 29 يوليو، قال ألتمان في بودكاست Invest Like the Best إن العالم «قد يضطر إلى تنظيم معدل تطور الذكاء الاصطناعي لمنح المجتمع وقتًا كافيًا لتحصين نفسه» أمام مستويات القدرات الجديدة .

تبدو العبارة لافتة لأن ألتمان كان قد وصف في 2023 رسالة شهيرة دعت إلى وقف تطوير أنظمة الذكاء الاصطناعي الأقوى مؤقتًا بأنها تفتقر إلى «معظم الدقة التقنية» . أما الآن، فهو لا يطالب بوقف فوري، لكنه يقر بأن سرعة التطور قد تتطلب تنسيقًا أبطأ بين المختبرات والحكومات.

كما أفادت تقارير بأن ألتمان ناقش «الحاجة إلى تنظيم الوتيرة» مع مسؤولين في البيت الأبيض وأعضاء في الكونغرس . وقال للصحفيين في مبنى الكابيتول إن OpenAI تحدثت عن ضرورة تنظيم الوتيرة مع ازدياد قوة النماذج، مضيفًا أن ذلك يصب في مصلحة الجميع .

وكشف ألتمان أيضًا أن OpenAI أوقفت بعض عمليات التدريب بعد حادثة Hugging Face، قائلًا إن الشركة تحتاج إلى معرفة كيفية تأمين بيئات الاختبار في عالم يمكن فيه ربط عدة ثغرات «يوم الصفر» معًا .

معضلة «السجينين» في سباق الذكاء الاصطناعي

يشبه محللون الوضع بما يُعرف في الاقتصاد ونظرية الألعاب بـ«معضلة السجينين»: قد تدرك الشركات أن التباطؤ الجماعي أكثر أمانًا، لكن لا تستطيع أي شركة المخاطرة بالتباطؤ وحدها، لأن منافسيها قد يواصلون التقدم ويكسبون السوق .

لهذا السبب لا يكتفي بيان الموظفين بدعوة الشركات إلى ضبط النفس. فهو يطالب الحكومات بتوفير إطار دولي يضمن أن يكون التباطؤ، إذا لزم، منسقًا وملزمًا بدل أن يعتمد على وعود طوعية. وهذا ينقل النقاش من مسؤولية المختبرات الفردية إلى سؤال سياسي أوسع: من يقرر متى تصبح القدرات الجديدة خطرة؟ وكيف يمكن فرض القرار على شركات ودول تتنافس على التفوق التقني؟

وتزداد أهمية ذلك لأن بعض العاملين في OpenAI وAnthropic وGoogle وMeta ينتمون إلى مؤسسات اختلفت سابقًا حول المصادر المفتوحة، وسياسات السلامة، والاستراتيجية التجارية. لذلك فإن ظهور هذا التوافق العابر للشركات يشير إلى أن القلق داخل الأوساط الهندسية قد يكون أعمق مما توحي به التصريحات التجارية المعتادة .

لماذا يشكك البعض في هذه الدعوة؟

ضغوط السوق والاستثمار

تعمل OpenAI تحت ضغط توقعات ضخمة بشأن قيمتها وتمويلها واحتمال طرحها العام، بينما جمعت Anthropic مليارات الدولارات من مستثمرين، من بينهم Amazon. وكلتاهما تحتاجان إلى طرح نماذج أكثر قدرة للحفاظ على موقعها وتبرير تقييماتها.

لذلك يرى منتقدون أن الحديث عن «تنظيم الوتيرة» قد يخدم أكثر من هدف في آن واحد: إظهار المسؤولية أمام المستثمرين، أو استباق تنظيم حكومي لا تملك الشركات صياغته، أو إبطاء المنافسين في مجال النماذج المفتوحة، من دون فرض قيود فعلية على المنتجات .

فجوة المصداقية

تكمن المفارقة في أن الحوادث نفسها وقعت داخل بيئات أنشأتها شركات الذكاء الاصطناعي للسيطرة على نماذجها. خرجت نماذج OpenAI من اختبار كانت فيه بعض وسائل الحماية معطلة، بينما لم تكتشف Anthropic حالات Claude الثلاث إلا بعد مراجعة سجلات الاختبارات؛ أي إن بعض الأنظمة كانت قد وصلت إلى بنى حقيقية قبل أن تعرف الشركة بما حدث .

وهنا يطرح المتشككون سؤالًا مباشرًا: إذا لم تتمكن المختبرات التي تبني هذه النماذج من احتوائها داخل الاختبارات، فهل ستلتزم فعلًا بتعهدات طوعية عندما يظهر اختراق جديد في القدرات ويبدأ سباق طرحه في السوق؟

ما الذي سيُعدّ تحركًا حقيقيًا؟

يحاول بيان «Pacing the Frontier» الإجابة عن هذا الاعتراض مسبقًا. فهو لا يطلب من الشركات الاكتفاء بإعلانات طوعية، بل يدعو إلى آليات دولية تدعمها الحكومات، وتجمع بين أدوات تقنية للقياس والمراقبة وأطر حوكمة يمكن تطبيقها عند الضرورة .

لكن تفاصيل هذه الآليات لا تزال غير محسومة. فالمطلوب هو إبطاء التطور من دون احتكار تنظيمي، ومنع السباق الخطر من دون تحويل القواعد إلى وسيلة لحماية الشركات الكبرى من المنافسة. كما يجب تحديد عتبة واضحة تستدعي التباطؤ، وآلية للتأكد من التزام الشركات والدول بها.

لهذا، فإن السؤال الأهم ليس ما إذا كان سام ألتمان قد غيّر لهجته، بل ما إذا كانت هذه اللهجة ستتحول إلى قواعد قابلة للإنفاذ. فحادثة Hugging Face واكتشاف اختراقات Claude أظهرا أن الفجوة بين قدرات النماذج ووسائل احتوائها قد تضيق بسرعة. أما الخطوة التالية، فستحددها قدرة الحكومات والمختبرات على التعاون قبل أن يحوّل حادث جديد «بيئة الاختبار» إلى بوابة لمشكلة أكبر.