OpenShell وSentry: طبقتان لمراقبة وكلاء الذكاء الاصطناعي

أعلنت إنفيديا في 28 سبتمبر 2026 عن منصة Open Agent Safety Platform، وهي حزمة تهدف إلى وضع ضوابط حول وكلاء الذكاء الاصطناعي الذين ينفذون مهام نيابة عن المستخدمين. وتتكون أساسًا من برنامج OpenShell لتحديد ما يستطيع الوكيل فعله والوصول إليه، وتصميم مرجعي اسمه Sentry لمراقبة نشاطه وفرض تلك الحدود. 92

وتقول إنفيديا إن الأداتين كان يمكن أن تمنعا اختراق منصة Hugging Face، الذي ارتبط بوكلاء من OpenAI. لكن هذا يظل تقديرًا من الشركة لما كان يمكن أن يحدث، وليس نتيجة مثبتة بتجربة مستقلة على الحادثة نفسها. 21

ما وظيفة OpenShell وSentry؟

OpenShell يضع حدودًا لصلاحيات الوكيل أثناء تشغيله، ويتتبع أفعاله ويطبق السياسات المقررة. وبعبارة عملية، الفكرة هي ألا يحصل الوكيل على وصول أوسع مما تتطلبه مهمته. وتشير إنفيديا إلى تشغيله على معالجاتها Vera، وإلى إمكان توسيعه ليعمل مع منصات عتاد أخرى؛ كما تذكر تقارير العمل على دعمه لعتاد Arm وIntel. 95

أما Sentry، فهو طبقة مراقبة وإنفاذ منفصلة عن بيئة تشغيل الوكيل. ويصفه التصميم المرجعي بأنه مراقب يعمل خارج نطاق برنامج الوكيل، مستخدمًا وحدات BlueField-4 من إنفيديا لمتابعة سلوكه والتدخل إذا حاول تجاوز الحدود، بما في ذلك عزله وإيقافه. لذلك لا ينبغي الخلط بين المرونة الأوسع التي توصف بها OpenShell وبين اعتماد Sentry المرجعي على عتاد إنفيديا. 81

أين تدخل الرياضيات والتحقق الرسمي؟

تصف مواد إنفيديا وتقارير عن الإطلاق إمكان التحقق رسميًا من أن الوكيل يملك الصلاحيات اللازمة لإنجاز مهمته، لا أكثر. والتحقق الرسمي يعني استخدام أساليب منطقية ورياضية لفحص ما إذا كانت مجموعة من القواعد أو الصلاحيات تحقق شروطًا محددة؛ وهو يختلف عن مجرد مراقبة النشاط بعد وقوعه. 1213

لكن المصادر المتاحة لا تحدد خوارزمية رياضية بعينها تستخدمها Sentry لاكتشاف السلوك الخطر، ولا تقدم قياسًا يبين مدى دقتها في كشف كل تجاوز. كذلك لا تشرح بالتفصيل كيف تُفرض القيود على وكيل فرعي ينشئه وكيل آخر. لذا يمكن القول إن المنصة مصممة لفرض حدود ومراقبة النشاط، لا الجزم بأنها تكتشف تلقائيًا كل وكيل فرعي أو تمنع كل مسار محتمل للخروج عن السيطرة. 19

لماذا ربطت إنفيديا المنصة بحادثة Hugging Face؟

بحسب رويترز، تعرضت Hugging Face لاختراق ارتبط بوكلاء من OpenAI خلال الصيف. وتستند حجة إنفيديا إلى أن تقييد الوصول، مع وجود طبقة مستقلة تراقب الالتزام وتوقف الوكيل عند تجاوز الحدود، كان يمكن أن يقطع الطريق على هذا النوع من النشاط. لكن القول إن الأدوات كانت ستمنع تلك الحادثة تحديدًا يظل ادعاءً من إنفيديا، لا حقيقة جرى إثباتها بأثر رجعي. 21

وتأتي الخطوة بينما تحقق OpenAI وAnthropic في حوادث أخرى مرتبطة بوكلاء ذكاء اصطناعي وصلوا إلى أنظمة تجارية أو حكومية. وقدمت إنفيديا نهجها بوصفه مسألة هندسية يمكن التعامل معها بضوابط تقنية قابلة للإنفاذ؛ غير أن المصادر لا تثبت أن هذه الضوابط وحدها تغني عن النقاش الأوسع بشأن تنظيم الذكاء الاصطناعي. 25