OpenShell وSentry: طبقتان للحد من تصرفات وكلاء الذكاء الاصطناعي

تجمع منصة إنفيديا الجديدة لأمان وكلاء الذكاء الاصطناعي بين نوعين من الحماية: OpenShell، بيئة تشغيل تقيّد ما يمكن للوكيل الوصول إليه، وSentry، تصميم مرجعي لمراقبة نشاط الوكلاء والاستجابة له من بنية تحتية تقع خارج بيئتهم البرمجية. وتقول إنفيديا إن هذه الأدوات كان يمكن أن تمنع الحادثة الأمنية التي تورطت فيها وكلاء من OpenAI على منصة Hugging Face. لكن هذا تقييم لاحق من الشركة، وليس نتيجة أثبتتها تجربة الأدوات خلال الحادثة نفسها.10

OpenShell يفرض الحدود خارج نطاق الوكيل

يشغّل OpenShell الوكلاء داخل بيئات معزولة تتضمن عزلًا على مستوى نواة نظام التشغيل. ويمكن للسياسات أن تحدد ما يُسمح للوكيل بالوصول إليه، مثل الملفات وبيانات الاعتماد والعمليات والشبكات الخارجية. وبهذا تُفرض القيود من خلال بيئة التشغيل، بدلًا من الاعتماد فقط على أن يلتزم الوكيل بالتعليمات.13

وتبرز أهمية هذا الفرق عندما يتصرف الوكيل على نحو غير متوقع: فطريقة تفكيره لا تمنحه صلاحيات إضافية. لكن مستوى الحماية الفعلي يتوقف على كيفية إعداد النظام. وبالنسبة إلى الوكلاء الفرعيين، فالاستنتاج العملي هو أن كل وكيل منهم يحتاج بدوره إلى حدود مفروضة. إنشاء وكيل فرعي لا يعني وحده أنه أفلت من السيطرة، كما أن المواد المتاحة لا تثبت أن قيود الوكيل الأساسي تنتقل تلقائيًا إلى كل وكيل فرعي. لذلك يصف OpenShell تصميمًا أمنيًا، لا ضمانًا ضد كل محاولة اختراق أو تجاوز.13

Sentry يراقب من خارج البيئة البرمجية

تصف إنفيديا Sentry بأنه تصميم لمراقب أمني مدعوم بالعتاد، يستند إلى تقنية BlueField. وبدل الاكتفاء بالضوابط الموجودة داخل بيئة تشغيل الوكيل، يهدف Sentry إلى مراقبة نشاطه من بنية تحتية خارج تلك البيئة وإتاحة التدخل، بما في ذلك العزل على مستوى الشبكة.

ويؤدي المكونان وظيفتين مختلفتين: يحدد OpenShell الصلاحيات أثناء التشغيل ويفرضها، فيما يضيف Sentry طبقة للمراقبة والاستجابة. وتقدّم إنفيديا الجمع بينهما بوصفه وسيلة لرصد سلوك قد لا تكفي الضوابط البرمجية وحدها للتعامل معه. لكن الأدق فهم ذلك على أنه تصميم مقترح، لا دليل على أن كل تهديد سيُكتشف أو سيُمنع.10

ماذا يثبت ادعاء إنفيديا بشأن Hugging Face؟

تقول إنفيديا إن منصتها كانت ستوقف الحادثة الأمنية في Hugging Face. ونقلت رويترز هذا الادعاء عند الإعلان عن المنصة، لكن المصادر المتاحة لا تشير إلى أن OpenShell أو Sentry استُخدما أثناء الحادثة، ولا تثبت بصورة مستقلة كيف كان أداؤهما سيكون في تلك الظروف.

لذلك تُعد الحادثة خلفية لعرض إنفيديا، لا اختبارًا فعليًا لمنصتها. والفرق مهم: وصف أدوات قد تساعد في مواجهة نوع من المخاطر لا يساوي إثبات أنها كانت ستمنع اختراقًا بعينه.

تعاون مع Arm وIntel وشراكة مع Anthropic

تقول إنفيديا إنها تعمل على إتاحة OpenShell مع معالجات Arm وIntel، بما يوسّع نهج بيئة التشغيل إلى ما وراء معالجاتها. كما تذكر التغطية أن Anthropic من بين الشركاء المرتبطين بإطلاق المنصة.

يشير ذلك إلى محاولة توسيع التوافق والاستخدام، لكنه لا يثبت وحده أن كل شريك نشر الأدوات بالفعل، أو أن الميزات المعتمدة على العتاد ستكون متماثلة على مختلف الأنظمة.

الضوابط التقنية لا تحسم أسئلة الحوكمة

تركز المنصة على أدوات تقنية: تحديد الصلاحيات، وفرض الحدود، ومراقبة النشاط، والاستجابة لمخالفة السياسات. ويمكن أن تكون هذه الضوابط جزءًا من أمن الوكلاء، لكن الإعلان عن منتج لا يحسم مسائل المساءلة والتدقيق والتنظيم.

وقد قال الرئيس التنفيذي لإنفيديا، جنسن هوانغ، إن شركات الذكاء الاصطناعي لا ينبغي أن تُعفى من قوانين مكافحة الاحتكار أو المسؤولية المعتادة. وهذا الموقف منفصل عن التصميم التقني للمنصة، لكنه يذكّر بأن تقييم وسائل حماية الوكلاء وتحديد المسؤولية القانونية الأوسع مساران مختلفان في النقاش.