كيف يلتقط إطار ASSERT من مايكروسوفت أخطاء وكلاء الذكاء الاصطناعي قبل أن تصل إلى المستخدم

ما وراء المعايير العامة

ما يميز ASSERT عن أدوات التقييم العامة هو تركيزه على الحدود السلوكية الخاصة بالتطبيق. قد يحقق الوكيل درجات مثالية في معايير الفائدة والصدق، ومع ذلك ينتهك قاعدة منتج مثل "لا تشارك أبداً عناوين البريد الإلكتروني للعملاء مع خدمات خارجية". ASSERT صُمم خصيصاً لالتقاط هذه الفئة من الإخفاقات . تضع مايكروسوفت الإطار في سياق يركز على الأمان، مشيرةً إلى أن منهجية التقييم الخاصة به تم التحقق من صحتها خصيصاً لتقييم السلامة، وليس فقط مقاييس الجودة .

جزء من حزمة ثقة أكبر

يأتي ASSERT إلى جانب مواصفات التحكم بالوكيل (Agent Control Specification - ACS)، وهو مشروع آخر مفتوح المصدر من مايكروسوفت يتيح للفرق تعريف ملفات سياسات محمولة تحدد ما يمكن للوكيل فعله وما لا يمكنه فعله، ومتى تكون الموافقة البشرية مطلوبة، وما الأدلة التي يجب تسجيلها . سير العمل المقصود متكامل: يشغل المطورون ASSERT أولاً لاكتشاف العيوب، ثم يطبقون ضوابط وقت التشغيل عبر ACS، ثم يعيدون تشغيل ASSERT لقياس التحسن بمقاييس قبل وبعد . تمنح هذه الحلقة – التحديد، التقييم، التحكم، إعادة التقييم – فرق الهندسة عملية قابلة للتكرار لتحصين أنظمة الوكلاء قبل النشر.

عملياً، يمكن للمطور تحديد قاعدة مثل: "يجب على وكيل أبحاث المستندات هذا ألا يرسل رسائل بريد إلكتروني إلى أشخاص خارج الشركة، ويجب أن يقصر المعلومات السرية على المدراء التنفيذيين من المستوى C، ويجب أن يقدم ملخصات موجزة مع السياق السابق". سيقوم ASSERT تلقائياً بتوليد حالات الاختبار الهجومية المقابلة، وتشغيلها، والإبلاغ عن أي خرق للسياسة مع تقرير مفصل وأثر كامل .

ASSERT هو إطار مفتوح المصدر ومستضاف على github.com/responsibleai/ASSERT. عند الإطلاق، تلقى دعماً مجتمعياً من شركات مثل CrewAI و Arize AI و LiteLLM و Pipecat و Pydantic .