ОтветыОпубликовано20 источники
Microsoft хочет постоянно оценивать риски ИИ-агентов и менять их доступ
В анонсе от 19 октября 2026 года Microsoft описала постоянную оценку риска ИИ агентов и настройку их доступа в Microsoft 365 E7 и Project Perception. Dynamic Agent Risk учитывает сигналы об учётных записях, данных, устройствах, облаке, сети, среде выполнения и действиях агента — в том числе возможное отклонение от з...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- В анонсе от 19 октября 2026 года Microsoft описала постоянную оценку риска ИИ агентов и настройку их доступа в Microsoft 365 E7 и Project Perception.
- Dynamic Agent Risk учитывает сигналы об учётных записях, данных, устройствах, облаке, сети, среде выполнения и действиях агента — в том числе возможное отклонение от задачи или намерений организации.
- Точные варианты ограничений и доступность каждой функции по предоставленным источникам установить нельзя.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What AI-agent security tools did Microsoft announce on October 19, how do they fit into Microsoft 365 E7 and Project Perception, and how do. Article summary: On October 19, 2026, Microsoft announced expanded AI-agent security controls for Microsoft 365 E7 and Project Perception, treating agents operating inside companies as potential insider threats rather than inherently tru. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
В анонсе от 19 октября 2026 года Microsoft распространила свой подход к безопасности на ИИ-агентов, работающих внутри организаций. Главная идея: недостаточно проверить, что агенту однажды выдали разрешение. Нужно постоянно оценивать его риск и при необходимости менять доступ. Эти возможности связаны с Microsoft 365 E7 и системой агентной безопасности Project Perception. 4
11
От оценки риска — к изменению доступа
Microsoft описывает Dynamic Agent Risk как постоянно обновляемую оценку. Она объединяет сигналы об идентификации, данных, конечных устройствах, облаке, сети, среде выполнения и активности самого агента. Учитываются также его настройки, доступные ему ресурсы, возможные последствия сбоя и то, не расходятся ли его действия с задачей, намерениями пользователя или организации. 1
Результаты оценки могут влиять на политику доступа: если риск меняется, могут измениться и разрешённые агенту действия. Иными словами, речь идёт не об однократной проверке при выдаче доступа, а о постоянном наблюдении и корректировке ограничений. 3
4
6
Ещё один элемент — Dynamic Permissions. У агента есть отдельная идентичность, а разрешения выдаются под конкретную задачу, а не бессрочно. Они могут истекать; согласно описанию, полномочия агента также не должны выходить за пределы прав пользователя, от имени которого он действует. 2
Полный перечень возможных реакций системы в предоставленных материалах не подтверждён. Один из источников сообщает, что для действий с серьёзными последствиями может потребоваться одобрение человека, однако конкретные варианты вроде режима «только чтение» или автоматического отключения агента здесь не установлены. 2
3
Для чего нужны Guardian Agents
Guardian Agents описаны как надзорный уровень для других агентов в составе Project Perception. Их задача — помогать отслеживать поведение ИИ-агентов. В некоторых публикациях также говорится, что Guardian Agents могут выяснять, почему изменился уровень риска, и рекомендовать или применять меры сдерживания. 3
14
Принципиально, что Microsoft не предлагает полагаться на сам ИИ-агент как на единственного контролёра собственной безопасности. Компания говорит о внешних, детерминированных средствах защиты вокруг поведения ИИ, которое само по себе не всегда предсказуемо. Руководитель направления Microsoft Security Хайете Галлот заявляла, что передовые модели не следует считать единственной надёжной основой корпоративной безопасности. 5
11
Как связаны Project Perception и Microsoft 365 E7
В октябрьской публикации Microsoft сообщает, что представила Project Perception в июле. Изначально система включала команды красных, синих и зелёных агентов, призванные помогать специалистам противостоять атакам с использованием ИИ извне организации. Теперь компания расширяет её задачи: речь идёт и о наблюдении за агентами, работающими внутри предприятий. 11
Анонс также связывает новые возможности защиты агентов с Microsoft 365 E7, включая Agent 365. В этой схеме E7 — контекст корпоративного пакета сервисов Microsoft, а Project Perception — подход к агентной безопасности, который компания развивает для мониторинга и сдерживания внутренних агентов. 4
11
По данным одного из источников, обнаружение агентов у Microsoft охватывает 60 типов, включая Claude Code, OpenAI Codex и GitHub Copilot. Это опубликованная оценка охвата; предоставленные источники не подтверждают доступность каждой функции или сроки её внедрения. 12
Почему ИИ-агента рассматривают как потенциальный внутренний риск
Агент может получать доступ к корпоративным данным и системам и выполнять действия от имени пользователя. Поэтому риск существует, даже если агента никто не взламывал: его поведение может разойтись с поставленной задачей или намерениями организации. 1
10
Предложенная Microsoft модель выносит контроль за пределы самой ИИ-модели. Сигналы о поведении могут влиять на оценку риска, а разрешения и другие внешние средства защиты — ограничивать возможные действия агента. Microsoft также указывает, что сигналы уровня модели, включая цепочку рассуждений, могут помочь выявлять отклонение от намерений. Однако они рассматриваются как дополнительный источник информации, а не замена контролю доступа и мерам сдерживания. 1
11
Практический смысл подхода — в нескольких уровнях защиты: обнаруживать агентов, выдавать им ограниченные полномочия под конкретную задачу, следить за изменением поведения и риска, а затем реагировать внешними средствами контроля. Анонс описывает это направление, но доступные источники не подтверждают все детали механизмов принуждения к ограничениям и сроки появления функций.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Microsoft хочет постоянно оценивать риски ИИ-агентов и менять их доступ»?
В анонсе от 19 октября 2026 года Microsoft описала постоянную оценку риска ИИ агентов и настройку их доступа в Microsoft 365 E7 и Project Perception.
Какие ключевые моменты необходимо проверить в первую очередь?
В анонсе от 19 октября 2026 года Microsoft описала постоянную оценку риска ИИ агентов и настройку их доступа в Microsoft 365 E7 и Project Perception. Dynamic Agent Risk учитывает сигналы об учётных записях, данных, устройствах, облаке, сети, среде выполнения и действиях агента — в том числе возможное отклонение от задачи или намерений организации.
Что мне делать дальше на практике?
Точные варианты ограничений и доступность каждой функции по предоставленным источникам установить нельзя.
Источники
indianexpress.comMicrosoft expands Project Perception to monitor, contain rogue AI agents inside enterprises
blogs.microsoft.comSecuring the agentic insider - The Official Microsoft Blog
microsoft.comAgents are your newest insiders. Security must move at their speed. | Microsoft Security Blog
thenextweb.comMicrosoft adds tools to limit and monitor AI agents in Microsoft 365 E7