Как слова превращаются в батарею тестов

В основе ASSERT лежит простой пятишаговый конвейер, который берет написанное разработчиком намерение и выдает на выходе измеримый и понятный результат:

1. Начинаем с правил на человеческом языке. Разработчики описывают ожидаемое и запрещенное поведение системы простым текстом — например, «Этот агент поддержки не должен оформлять возвраты на сумму свыше 5000 рублей без визы старшего менеджера». Требования берутся из ТЗ, документов комплаенс-отдела или просто из чек-листа перед запуском .
2. Парсинг в структуру. С помощью языковой модели ASSERT превращает эти описания в четкие, машиночитаемые спецификации допустимых и недопустимых действий .
3. Генерация «противника» (Adversarial Generation). Фреймворк автоматически создает десятки провокационных сценариев и пограничных случаев, специально спроектированных так, чтобы «сломать» агента и проверить, не нарушит ли он заявленные политики .
4. Прогон тестов. Сгенерированный набор сценариев запускается на целевом агенте. ASSERT записывает буквально всё: каждый промежуточный шаг и вызов сторонних инструментов (tool call), будь то обращение к базе данных или отправка письма . Важно, что фреймворк не привязан к экосистеме Microsoft и работает с LangChain, CrewAI, AutoGen, LiteLLM, OpenAI и другими инструментами .
5. Диагностический отчет. На выходе формируется структурированная карточка оценки: тест пройден или провален, с подробным обоснованием от ИИ-судьи. Поскольку вся история выполнения сохранена, разработчик может детально проследить, на каком именно шаге и почему агент свернул не туда .

Не просто еще один бенчмарк

Главная «фишка» ASSERT — фокус на специфичных для бизнеса правилах, которые зачастую упускают универсальные оценки. «Агент может блестяще проходить тесты на вежливость и правдивость, но при этом спокойно сливать email-адреса клиентов во внешние сервисы, — поясняют в Microsoft. — ASSERT создан именно для отлова подобных фатальных ошибок» .

В компании подчеркивают, что методология оценки, лежащая в основе фреймворка, валидирована исследователями именно для оценки безопасности, а не просто качества .

Звено в цепи доверия

ASSERT — не одиночный инструмент. Вместе с ним Microsoft представила Agent Control Specification (ACS), еще один open-source проект, который позволяет командам описывать в едином файле, что агенту можно, а что категорически нельзя, когда требуется вмешательство человека и какие доказательства нужно записать в лог .

Задуманный цикл работ выглядит так: сперва разработчик запускает ASSERT, чтобы найти дефекты (например, утечку данных), затем с помощью ACS описывает правила контроля поведения, и наконец, снова прогоняет ASSERT, чтобы количественно измерить разницу «до и после» .

Такой подход — «специфицируй, оцени, контролируй, переоценивай» — дает инженерным командам надежный, воспроизводимый процесс «закалки» агентских систем перед тем, как пустить их в реальный мир.

Исходный код ASSERT доступен в репозитории github.com/responsibleai/ASSERT. На старте проект получил поддержку от CrewAI, Arize AI, LiteLLM, Pipecat и Pydantic .

Как слова превращаются в батарею тестов

В основе ASSERT лежит простой пятишаговый конвейер, который берет написанное разработчиком намерение и выдает на выходе измеримый и понятный результат:

1. Начинаем с правил на человеческом языке. Разработчики описывают ожидаемое и запрещенное поведение системы простым текстом — например, «Этот агент поддержки не должен оформлять возвраты на сумму свыше 5000 рублей без визы старшего менеджера». Требования берутся из ТЗ, документов комплаенс-отдела или просто из чек-листа перед запуском .
2. Парсинг в структуру. С помощью языковой модели ASSERT превращает эти описания в четкие, машиночитаемые спецификации допустимых и недопустимых действий .
3. Генерация «противника» (Adversarial Generation). Фреймворк автоматически создает десятки провокационных сценариев и пограничных случаев, специально спроектированных так, чтобы «сломать» агента и проверить, не нарушит ли он заявленные политики .
4. Прогон тестов. Сгенерированный набор сценариев запускается на целевом агенте. ASSERT записывает буквально всё: каждый промежуточный шаг и вызов сторонних инструментов (tool call), будь то обращение к базе данных или отправка письма . Важно, что фреймворк не привязан к экосистеме Microsoft и работает с LangChain, CrewAI, AutoGen, LiteLLM, OpenAI и другими инструментами .
5. Диагностический отчет. На выходе формируется структурированная карточка оценки: тест пройден или провален, с подробным обоснованием от ИИ-судьи. Поскольку вся история выполнения сохранена, разработчик может детально проследить, на каком именно шаге и почему агент свернул не туда .

Не просто еще один бенчмарк

Главная «фишка» ASSERT — фокус на специфичных для бизнеса правилах, которые зачастую упускают универсальные оценки. «Агент может блестяще проходить тесты на вежливость и правдивость, но при этом спокойно сливать email-адреса клиентов во внешние сервисы, — поясняют в Microsoft. — ASSERT создан именно для отлова подобных фатальных ошибок» .

В компании подчеркивают, что методология оценки, лежащая в основе фреймворка, валидирована исследователями именно для оценки безопасности, а не просто качества .

Звено в цепи доверия

ASSERT — не одиночный инструмент. Вместе с ним Microsoft представила Agent Control Specification (ACS), еще один open-source проект, который позволяет командам описывать в едином файле, что агенту можно, а что категорически нельзя, когда требуется вмешательство человека и какие доказательства нужно записать в лог .

Задуманный цикл работ выглядит так: сперва разработчик запускает ASSERT, чтобы найти дефекты (например, утечку данных), затем с помощью ACS описывает правила контроля поведения, и наконец, снова прогоняет ASSERT, чтобы количественно измерить разницу «до и после» .

Такой подход — «специфицируй, оцени, контролируй, переоценивай» — дает инженерным командам надежный, воспроизводимый процесс «закалки» агентских систем перед тем, как пустить их в реальный мир.

Исходный код ASSERT доступен в репозитории github.com/responsibleai/ASSERT. На старте проект получил поддержку от CrewAI, Arize AI, LiteLLM, Pipecat и Pydantic .