Основные риски, которые автономные AI-агенты несут криптосистемам

Манипуляция контекстом и промптами

Агента можно обмануть, внедрив враждебный текст в его входные каналы, модули памяти или внешние источники данных. Классификация Google DeepMind за 2026 год («Ловушки AI-агентов») показала, что невидимые HTML-инъекции достигают 86% успеха против автономных агентов . Риск смещается с вопроса «Что я подписал?» на «Что мой агент вывел и с какими разрешениями?»

Эксплуатация MEV и усиление флеш-кредитами

Автономные агенты, выполняющие арбитраж, могут быть «обжаты» или опережены враждебными MEV-ботами. Атаки с использованием флеш-кредитов выкачали $2,4 млрд из DeFi-протоколов в 2026 году — рост на 340% год к году, поскольку AI-оптимизированные боты взяли на вооружение арбитражные пути .

Автономное управление ключами без человеческого контроля

Агенты, которые держат приватные ключи, анализируют рыночные данные и отправляют транзакции автономно, создают новый класс контрактных рисков. Протокол может быть безупречно проверен на уровне Solidity, но все равно потерять средства, потому что привилегированный актор — языковая модель, которой можно манипулировать с помощью текста .

AI-ускоренное обнаружение уязвимостей со скоростью хакера

Модели ИИ (например, Claude Opus 4.8 от Anthropic) позволили как исследователям безопасности, так и злоумышленникам быстрее находить критические уязвимости. Shielded Labs обнаружила ошибку в пуле Orchard сети Zcash, существовавшую с мая 2022 года, с помощью AI-агента . Северокорейские хакерские группы — ответственные за 66% всех потерь от взломов криптовалют ($643 млн) в первом полугодии 2026 года — все чаще используют ИИ для автоматизации поиска уязвимостей .

Компрометация цепочки поставок и фронтенда

Критическая уязвимость (CVSS 10.0) в React Server Components (CVE-2025-55182) позволила атакующим добиться удаленного выполнения кода на серверах фронтенда DApp, которые выступают в роли прокси-подписантов для локальных AI-агентов, перехватывая сессионные ключи .

Реальные инциденты

Прогнозы годовых потерь от AI-управляемых эксплойтов смарт-контрактов составляют от $10 млрд до $20 млрд к 2027 году, если текущие тенденции сохранятся .

Структуры управления и технические средства контроля

Регуляторные рамки

• MAS Сингапура — В августе 2026 года Денежно-кредитное управление Сингапура подтвердило, что агентный ИИ подпадает под действие его обязательных банковских правил и готовящихся Руководящих принципов по управлению рисками ИИ (консультации начаты в ноябре 2025 года). MAS также создает практическую инфраструктуру через Project MindForge .

• Минфин США — FS AI RMF — Структура управления рисками ИИ для финансовых услуг (февраль 2026 года) предоставляет риск-ориентированную структуру управления специально для ИИ в банковском деле и финансах .

• Закон ЕС об ИИ + MiCA — По состоянию на август 2026 года нет единого окончательного руководства по соблюдению требований для AI-агентов в ЕС. Организации должны синтезировать требования из Закона ЕС об ИИ и Регламента о рынках криптоактивов .

• IMDA Сингапура — Модельная структура управления ИИ для агентного ИИ — Опубликована в августе 2026 года, требует предварительной оценки рисков, технических средств контроля на протяжении всего жизненного цикла агента и человеческого надзора, пропорционального уровню автономии .

• Cloud Security Alliance — Уровни автономии и структура контроля — Пять ключевых принципов: автономия должна быть явно обоснована, более высокая автономия требует более строгих средств контроля, человеческий надзор пропорционален риску, непрерывный мониторинг и четкая подотчетность .

Рекомендуемые технические средства контроля

• Детерминированный механизм политик для проверки действий. Относитесь ко всему пользовательскому и извлеченному контенту как к ненадежному. Проверяйте каждое предлагаемое действие агента на соответствие детерминированному механизму политик — санитарная обработка ввода сама по себе не может удалить враждебные инструкции .

• Шлюзы утверждения с участием человека для любых высокоценных или рискованных действий перед выполнением .

• Разделение обязанностей, лимиты утверждения и проверки доступа — применяйте те же принципы финансового контроля, что и для людей-операторов (например, двойная авторизация для крупных переводов), к AI-агентам .

• Фильтрация контента и мониторинг вывода на предмет враждебных промптов и аномальных моделей поведения .

• Ограничение уровня автономии — агентам не следует предоставлять максимальную автономию по умолчанию; более низкая автономия с четкими путями эскалации для высокоценных действий .

• Аудит для конкретных агентов и обеспечение инвариантов — помимо стандартных аудитов смарт-контрактов, агентам необходимы мониторы времени выполнения, которые проверяют действия на соответствие предопределенным инвариантам и автоматическим выключателям .

• Контекстно-зависимая санитарная обработка ввода и изоляция памяти — предотвращение инъекций промптов через внешние каналы данных или модули памяти агента .

• Четырехуровневая архитектура управления (предложена в академических исследованиях): модули саморегуляции рядом с каждой моделью, внутреннее управление моделями, централизованный надзор и внешняя регуляторная отчетность .

Основные риски, которые автономные AI-агенты несут криптосистемам

Манипуляция контекстом и промптами

Агента можно обмануть, внедрив враждебный текст в его входные каналы, модули памяти или внешние источники данных. Классификация Google DeepMind за 2026 год («Ловушки AI-агентов») показала, что невидимые HTML-инъекции достигают 86% успеха против автономных агентов . Риск смещается с вопроса «Что я подписал?» на «Что мой агент вывел и с какими разрешениями?»

Эксплуатация MEV и усиление флеш-кредитами

Автономные агенты, выполняющие арбитраж, могут быть «обжаты» или опережены враждебными MEV-ботами. Атаки с использованием флеш-кредитов выкачали $2,4 млрд из DeFi-протоколов в 2026 году — рост на 340% год к году, поскольку AI-оптимизированные боты взяли на вооружение арбитражные пути .

Автономное управление ключами без человеческого контроля

Агенты, которые держат приватные ключи, анализируют рыночные данные и отправляют транзакции автономно, создают новый класс контрактных рисков. Протокол может быть безупречно проверен на уровне Solidity, но все равно потерять средства, потому что привилегированный актор — языковая модель, которой можно манипулировать с помощью текста .

AI-ускоренное обнаружение уязвимостей со скоростью хакера

Модели ИИ (например, Claude Opus 4.8 от Anthropic) позволили как исследователям безопасности, так и злоумышленникам быстрее находить критические уязвимости. Shielded Labs обнаружила ошибку в пуле Orchard сети Zcash, существовавшую с мая 2022 года, с помощью AI-агента . Северокорейские хакерские группы — ответственные за 66% всех потерь от взломов криптовалют ($643 млн) в первом полугодии 2026 года — все чаще используют ИИ для автоматизации поиска уязвимостей .

Компрометация цепочки поставок и фронтенда

Критическая уязвимость (CVSS 10.0) в React Server Components (CVE-2025-55182) позволила атакующим добиться удаленного выполнения кода на серверах фронтенда DApp, которые выступают в роли прокси-подписантов для локальных AI-агентов, перехватывая сессионные ключи .

Реальные инциденты

Прогнозы годовых потерь от AI-управляемых эксплойтов смарт-контрактов составляют от $10 млрд до $20 млрд к 2027 году, если текущие тенденции сохранятся .

Структуры управления и технические средства контроля

Регуляторные рамки

• MAS Сингапура — В августе 2026 года Денежно-кредитное управление Сингапура подтвердило, что агентный ИИ подпадает под действие его обязательных банковских правил и готовящихся Руководящих принципов по управлению рисками ИИ (консультации начаты в ноябре 2025 года). MAS также создает практическую инфраструктуру через Project MindForge .

• Минфин США — FS AI RMF — Структура управления рисками ИИ для финансовых услуг (февраль 2026 года) предоставляет риск-ориентированную структуру управления специально для ИИ в банковском деле и финансах .

• Закон ЕС об ИИ + MiCA — По состоянию на август 2026 года нет единого окончательного руководства по соблюдению требований для AI-агентов в ЕС. Организации должны синтезировать требования из Закона ЕС об ИИ и Регламента о рынках криптоактивов .

• IMDA Сингапура — Модельная структура управления ИИ для агентного ИИ — Опубликована в августе 2026 года, требует предварительной оценки рисков, технических средств контроля на протяжении всего жизненного цикла агента и человеческого надзора, пропорционального уровню автономии .

• Cloud Security Alliance — Уровни автономии и структура контроля — Пять ключевых принципов: автономия должна быть явно обоснована, более высокая автономия требует более строгих средств контроля, человеческий надзор пропорционален риску, непрерывный мониторинг и четкая подотчетность .

Рекомендуемые технические средства контроля

• Детерминированный механизм политик для проверки действий. Относитесь ко всему пользовательскому и извлеченному контенту как к ненадежному. Проверяйте каждое предлагаемое действие агента на соответствие детерминированному механизму политик — санитарная обработка ввода сама по себе не может удалить враждебные инструкции .

• Шлюзы утверждения с участием человека для любых высокоценных или рискованных действий перед выполнением .

• Разделение обязанностей, лимиты утверждения и проверки доступа — применяйте те же принципы финансового контроля, что и для людей-операторов (например, двойная авторизация для крупных переводов), к AI-агентам .

• Фильтрация контента и мониторинг вывода на предмет враждебных промптов и аномальных моделей поведения .

• Ограничение уровня автономии — агентам не следует предоставлять максимальную автономию по умолчанию; более низкая автономия с четкими путями эскалации для высокоценных действий .

• Аудит для конкретных агентов и обеспечение инвариантов — помимо стандартных аудитов смарт-контрактов, агентам необходимы мониторы времени выполнения, которые проверяют действия на соответствие предопределенным инвариантам и автоматическим выключателям .

• Контекстно-зависимая санитарная обработка ввода и изоляция памяти — предотвращение инъекций промптов через внешние каналы данных или модули памяти агента .

• Четырехуровневая архитектура управления (предложена в академических исследованиях): модули саморегуляции рядом с каждой моделью, внутреннее управление моделями, централизованный надзор и внешняя регуляторная отчетность .