كيف يلتقط إطار ASSERT من مايكروسوفت أخطاء وكلاء الذكاء الاصطناعي قبل أن تصل إلى المستخدم

أعلنت مايكروسوفت عن إطار عملها الجديد ASSERT (اختصاراً لـ: التقييم التكيفي القائم على المواصفات واختبار التراجع) في مؤتمر Build 2026 للمطورين في الثاني من يونيو، وأصدرته كمشروع مفتوح المصدر تحت مظلة "الذكاء الاصطناعي المسؤول" على GitHub . يعالج الإطار نقطة ألم متنامية في تطوير وكلاء الذكاء الاصطناعي: وهي كيفية التحقق من أن الوكيل المستقل سيحترم القواعد والحدود الأمنية الخاصة بمنتجك قبل أن يتفاعل مع مستخدمين أو أنظمة حقيقية. تتجاهل معايير تقييم الذكاء الاصطناعي التقليدية – التي تقيس الفائدة، أو السمية، أو الدقة العامة – غالباً الإخفاقات الحرجة في السلوك الخاص بالتطبيق، مثل قيام وكيل دعم فني بإصدار استرداد مالي غير مصرح به أو مشاركة بيانات سرية مع المستلمين الخطأ . يسد ASSERT هذه الفجوة بجعل "مواصفات السلوك" المكتوبة باللغة الطبيعية مُدخلاً أساسياً من الدرجة الأولى للتقييم، وليس مجرد سياق في الخلفية.

كيف يحول ASSERT الكلمات إلى مجموعات اختبار ذكية

يتبع ASSERT خط أنابيب من خمس خطوات يحول النية المكتوبة للمطور إلى تقييم قابل للقياس والتشخيص:

1. البدء بسياسات باللغة العربية الفصحى. يصف المطورون السلوكيات المتوقعة والممنوعة بلغة طبيعية، مستمدة من متطلبات المنتج، أو وثائق الامتثال، أو تعليمات النظام (system prompts)، أو قوائم التحقق من الإطلاق . مثال: "لا يجوز لوكيل الدعم هذا إصدار استرداد مالي يزيد عن 500 دولار دون موافقة المدير" .
2. نموذج اللغة يحلل المواصفات إلى قواعد مهيكلة. يستخدم ASSERT نموذج لغة كبيراً (LLM) لتفسير الأوصاف النصية الحرة وإنتاج مواصفات مقروءة آلياً للسلوكيات المقبولة وغير المقبولة .
3. توليد اختبارات هجومية (Adversarial). يخلق الإطار بشكل منهجي سيناريوهات مستهدفة، وحالات حدية، ومدخلات صُممت خصيصاً لاختبار ما إذا كان الوكيل سينتهك السياسات المحددة .
4. تشغيل مجموعة الاختبارات على الوكيل المستهدف. يشغّل ASSERT الاختبارات على الوكيل الفعلي، مسجلاً كل خطوة وسيطة وكل استدعاء أداة (tool call) يقوم بها الوكيل على طول الطريق . الإطار غير مقيد بمنصة محددة، ويعمل مع LangChain، وCrewAI، وAutoGen، وLiteLLM، وOpenAI، وغيرها – مما يعني أن المطورين ليسوا محبوسين في منصة Microsoft Foundry .
5. الحصول على تقرير مفصل وقابل للتتبع. يُنتج كل اختبار بطاقة أداء منظمة تحتوي على حكم 'ناجح/فشل' وتبرير مفصل من نموذج حكم. نظراً لأن أثر التنفيذ الكامل محفوظ، يمكن للمطورين التعمق وصولاً إلى استدعاء الأداة أو خطوة القرار الدقيقة التي أخطأ فيها الوكيل .

ما وراء المعايير العامة

ما يميز ASSERT عن أدوات التقييم العامة هو تركيزه على الحدود السلوكية الخاصة بالتطبيق. قد يحقق الوكيل درجات مثالية في معايير الفائدة والصدق، ومع ذلك ينتهك قاعدة منتج مثل "لا تشارك أبداً عناوين البريد الإلكتروني للعملاء مع خدمات خارجية". ASSERT صُمم خصيصاً لالتقاط هذه الفئة من الإخفاقات . تضع مايكروسوفت الإطار في سياق يركز على الأمان، مشيرةً إلى أن منهجية التقييم الخاصة به تم التحقق من صحتها خصيصاً لتقييم السلامة، وليس فقط مقاييس الجودة .

جزء من حزمة ثقة أكبر

يأتي ASSERT إلى جانب مواصفات التحكم بالوكيل (Agent Control Specification - ACS)، وهو مشروع آخر مفتوح المصدر من مايكروسوفت يتيح للفرق تعريف ملفات سياسات محمولة تحدد ما يمكن للوكيل فعله وما لا يمكنه فعله، ومتى تكون الموافقة البشرية مطلوبة، وما الأدلة التي يجب تسجيلها . سير العمل المقصود متكامل: يشغل المطورون ASSERT أولاً لاكتشاف العيوب، ثم يطبقون ضوابط وقت التشغيل عبر ACS، ثم يعيدون تشغيل ASSERT لقياس التحسن بمقاييس قبل وبعد . تمنح هذه الحلقة – التحديد، التقييم، التحكم، إعادة التقييم – فرق الهندسة عملية قابلة للتكرار لتحصين أنظمة الوكلاء قبل النشر.

عملياً، يمكن للمطور تحديد قاعدة مثل: "يجب على وكيل أبحاث المستندات هذا ألا يرسل رسائل بريد إلكتروني إلى أشخاص خارج الشركة، ويجب أن يقصر المعلومات السرية على المدراء التنفيذيين من المستوى C، ويجب أن يقدم ملخصات موجزة مع السياق السابق". سيقوم ASSERT تلقائياً بتوليد حالات الاختبار الهجومية المقابلة، وتشغيلها، والإبلاغ عن أي خرق للسياسة مع تقرير مفصل وأثر كامل .

ASSERT هو إطار مفتوح المصدر ومستضاف على github.com/responsibleai/ASSERT. عند الإطلاق، تلقى دعماً مجتمعياً من شركات مثل CrewAI و Arize AI و LiteLLM و Pipecat و Pydantic .