Akamai предупредила о рисках агентного ИИ: важно управлять действиями агентов

Akamai в отчёте Speed, Scale, and Nonhuman Identity: The Agentic Threat Landscape описывает агентный ИИ как переход от систем, которые лишь отвечают на вопросы, к нечеловеческим субъектам, способным получать информацию, использовать инструменты, вызывать API и выполнять многошаговые операции. Главный вывод компании: аутентификации и статических прав доступа больше недостаточно. Организациям нужно управлять тем, что именно делают такие сущности, с учётом контекста и в реальном времени. 117

Почему автономные агенты меняют модель риска

Автономный агент объединяет рассуждения модели с доступом к корпоративным системам. Риск возникает там, где он получает возможность действовать: перемещать данные, работать через браузер, обращаться к API или запускать бизнес-процесс.

Akamai рассматривает это как проблему нечеловеческой идентичности. Компании важно понимать не только, какой сотрудник или сервис стоит за действием, но и какой агент его выполняет, какими инструментами он может пользоваться, к каким данным имеет доступ и соответствует ли его поведение поставленной задаче. 12

Какие угрозы выделяет Akamai

1. Чат-боты могут стать каналом утечки данных

По данным Akamai, более 6% диалогов с ИИ-чат-ботами на корпоративных устройствах содержат чувствительную информацию. Это означает, что промпты, загружаемые файлы и история переписки становятся частью периметра защиты данных, а не просто вопросом удобства сотрудников. 1

Риск усиливается, когда сотрудники используют личные или иные неконтролируемые аккаунты ИИ-сервисов. Такие взаимодействия могут оказаться вне привычной корпоративной видимости и политик безопасности: компании сложнее установить, какие данные были переданы и куда именно. Akamai относит «теневой ИИ» к расширяющейся поверхности атак в корпоративной среде. 12

2. ИИ-расширения браузера создают плохо контролируемую рабочую среду

Браузер — сложная точка контроля: в нём сотрудники работают, проходят аутентификацию, видят конфиденциальные данные и всё чаще используют ИИ-помощников. По оценке Akamai, ИИ-расширения установили более 40% корпоративных пользователей; у 25% таких расширений за предыдущие 12 месяцев менялись разрешения. 12

Проблема не в том, что каждое расширение опасно само по себе. Речь о том, что его разрешения, доступ к данным и поведение могут меняться в среде, которой не всегда уделяют столько же внимания, сколько управляемым корпоративным приложениям.

3. MCP стирает границу между данными и исполняемыми действиями

Model Context Protocol (MCP) позволяет агентам работать с инструментами и API. Akamai называет его практическими «руками» агентного ИИ, но одновременно указывает, что протокол размывает границу между данными и кодом. Вредоносный или скомпрометированный MCP-сервер может влиять на поведение модели через prompt injection или атаки между серверами. 2

Отсюда возникает задача видимости и авторизации: командам безопасности нужно знать, к каким MCP-сервисам обращается агент, какие учётные данные и разрешения доступны ему и какие действия он реально совершает во время работы.

4. Боты и злоупотребления API действуют с машинной скоростью

Akamai связывает распространение агентов с более широкой проблемой безопасности ботов и API. Автоматизированные системы способны имитировать поведение клиентов и увеличивать число взаимодействий, в которых защитным системам приходится определять намерение и признаки злоупотребления. В коммерческом секторе Akamai зафиксировала рост ИИ-бот-трафика на 19% год к году в 2025 году; основной вклад внёс ритейл. 20

Это не означает, что каждый ИИ-бот вредоносен. Наряду с нежелательной автоматизацией существуют полезные краулеры, поисковые боты, fetcher-боты и агенты. Поэтому задача защиты — отличать разрешённую и ожидаемую активность от аномального или опасного поведения. 1827

5. ИИ-краулеры переходят от чтения к действиям

Предупреждение Akamai распространяется и на публичные веб-сервисы. Исследование, на которое ссылается предоставленный материал, зафиксировало, что верифицированные ИИ-краулеры, включая ChatGPT, стали выполнять частые POST-запросы, а не только получать страницы через GET. POST-запрос может передавать данные или запускать действие — например, вход в систему, добавление товара в корзину или оформление заказа. 19

В этом 30-дневном анализе на e-commerce пришлось 44,8% POST-транзакций ИИ-ботов, а на туризм — 30% за один месяц. Сам по себе POST-запрос не является признаком атаки. Но ИИ-трафик всё чаще может затрагивать процессы, где особенно важны антифрод-проверки, контроль авторизации и мониторинг транзакций. 19

Четыре приоритета для компаний

Рекомендации Akamai сводятся к переходу от традиционного управления идентичностями к поведенческому управлению людьми и нечеловеческими субъектами. На практике этот подход можно представить в виде четырёх приоритетов. 117

1. Контролировать не только идентичность, но и поведение

Проверять пользователей, сервисы и агентов необходимо, но этого недостаточно. Контроли должны учитывать запрашиваемое агентом действие, целевую систему, используемые инструменты, доступ к данным и нетипичное поведение в рабочих процессах и API. 117

2. Вести инвентаризацию агентов, API и MCP-инструментов

Организациям нужна видимость развёрнутых агентов, сервисных учётных записей, расширений браузера, MCP-серверов, подключённых API и их разрешений. Неизвестные подключения и избыточные права трудно защищать, поскольку их влияние невозможно надёжно оценить. 2

3. Применять минимальные привилегии и защищать потоки данных ИИ

Каждому агенту и подключённому инструменту следует предоставлять доступ только к данным, системам и действиям, которые нужны для конкретной задачи. Этот подход стоит сочетать с мониторингом использования чат-ботов, браузерных ИИ-инструментов и перемещения чувствительных данных — с учётом контекста и адресата передачи, а не только успешного входа в учётную запись. 12

4. Использовать риск-ориентированный контроль в реальном времени и сохранять участие человека

Автоматизация, работающая с машинной скоростью, требует защитных механизмов, которые оценивают действия в момент их выполнения. Низкорисковые и обратимые задачи могут допускать большую автономность; для критичных, чувствительных или аномальных операций нужны усиленные ограничения либо подтверждение человеком. Это соответствует акценту Akamai на управлении поведением нечеловеческих субъектов и активностью API в реальном времени. 17

Главное

Akamai предлагает не считать ИИ-агентов ещё одной разновидностью пользователей или ботов. Это операционные субъекты, связывающие данные, инструменты и транзакции. Поэтому приоритет защиты — видеть эти связи, ограничивать права, непрерывно наблюдать за поведением и соотносить уровень автономности с уровнем риска. 1217