Как ИИ может угрожать финансовой стабильности во время рыночного шока

Главный риск — не «злой ИИ», а одинаковая реакция

В специальном материале к обзору финансовой стабильности за май 2024 года Европейский центральный банк пишет, что генеративный ИИ может существенно повлиять на финансовую систему. Итоговый эффект, по оценке ЕЦБ, зависит от того, как будут решаться вопросы данных, разработки моделей и их внедрения — как внутри отдельных финансовых организаций, так и на уровне системы в целом .

Федеральная резервная система США рассуждает схожим образом: ИИ описывается как быстро развивающаяся технология, у которой риски и выгоды становятся всё более осязаемыми .

Польза при этом реальна. Материалы центробанков и Совета по финансовой стабильности указывают, что ИИ может улучшать оценку рисков, управление капиталом и ликвидностью, операционную эффективность, комплаенс, клиентский сервис и анализ данных . Но риск для стабильности возникает там, где многие фирмы используют сопоставимые инструменты, зависят от одних и тех же внешних сервисов или реагируют на одни и те же сигналы одновременно .

Что особенно волнует ЕЦБ

Концентрация ИИ-поставщиков

ЕЦБ отдельно выделяет риск концентрации. В выступлении 2024 года представитель ЕЦБ говорил о возможности того, что значительная часть ценности, создаваемой ИИ, окажется у нескольких компаний, доминирующих в ИИ-экосистеме .

Для финансового сектора это не только вопрос конкуренции. В майском анализе финансовой стабильности ЕЦБ говорится, что широкое использование ИИ при высокой концентрации поставщиков может сделать операционные риски, включая киберриски, системными .

Иными словами, если многие банки, фонды или элементы рыночной инфраструктуры зависят от одного провайдера моделей, облачной платформы или канала данных, сбой, заражённое обновление, киберинцидент или дефектный набор данных могут ударить не по одной организации, а по значительной части рынка сразу .

Стадное поведение на рынках

Рыночная версия этого риска — стадность. Один из обзоров финансовой стабильности в представленном наборе источников предупреждает: широкое использование ИИ без должных защитных механизмов может усилить риски киберконцентрации, стадное поведение и корреляцию между рынками .

В спокойной обстановке похожие рекомендации ИИ могут восприниматься как повышение эффективности. Но во время распродажи они становятся процикличными: если множество систем одновременно советуют сокращать риск, наращивать буферы ликвидности или уходить из маркетмейкинга, глубина рынка снижается, а движение цен может стать резче .

Ошибки моделей, данных и внедрения

ЕЦБ подчёркивает, что эффект ИИ зависит от качества данных, разработки моделей и того, как именно они внедряются в процессы . Поэтому управление ИИ — это уже не просто вопрос IT-отдела, а вопрос финансовой стабильности.

Модель, которая хорошо работает в нормальных условиях, может иначе повести себя при новом, нестандартном шоке. А способ внедрения определяет, останется ли ошибочный сигнал внутренним предупреждением или автоматически превратится в действие — например, в торговле, кредитовании, управлении капиталом или ликвидностью .

Что отслеживает ФРС

У ФРС круг опасений во многом совпадает с ЕЦБ, но в американских материалах акцент чаще делается на надзоре, рисках третьих сторон и киберустойчивости. В одном из выступлений ФРС об ИИ в финансовой системе говорится, что надзорным органам нужно следить за тем, чтобы риски управлялись по мере развития возможностей ИИ .

Зависимость от внешних ИИ-сервисов

Исследование ФРС указывает, что технологический разрыв в области ИИ между малыми и крупными банками может увеличиваться, а круг нефинансовых компаний, выступающих сторонними поставщиками ИИ-услуг, может быть ограниченным . Это тоже ведёт к риску концентрации: небольшие организации могут сильнее зависеть от узкой группы поставщиков, тогда как крупные получают лучший доступ к продвинутым ИИ-возможностям .

Отдельная работа ФРС называет сторонних поставщиков услуг скрытой киберлинией разлома в финансовой системе, способной создавать системные риски . В сочетании с концентрацией ИИ-поставщиков это означает, что технологический вендор может стать каналом передачи стресса, если на него одновременно опирается множество финансовых компаний .

Кибератаки, дипфейки и мошенничество

Киберриск — один из ключевых каналов тревоги ФРС. В 2025 году Майкл Барр говорил, что дипфейки на основе ИИ способны воспроизводить личность человека целиком и могут резко усилить мошенничество с идентификацией; он также отмечал, что киберпреступники всё чаще используют генеративный ИИ .

Ранее в ФРС предупреждали, что киберугрозы могут становиться более разрушительными по мере развития технологий и роста взаимосвязанности финансовой системы, а отдельные киберинциденты способны давать более широкий системный эффект .

Во время рыночного стресса доверие и проверка информации особенно важны. ИИ-мошенничество, фальшивые сообщения или атаки на идентификацию не обязаны напрямую двигать цены активов, чтобы быть опасными. Достаточно нарушить аутентификацию, платежи, коммуникации или доверие клиентов в момент, когда компании и контрагенты и так пытаются быстро обработать лавину информации .

Решения, которые всё чаще проходят через ИИ

Работа сотрудников ФРС о генеративном ИИ и финансовой стабильности отмечает, что люди всё чаще полагаются на ИИ при сборе информации и принятии решений — как на «второго пилота» или как на более автономную систему . Когда выводы ИИ встроены в торговлю, управление ликвидностью, оценку рисков или банковские операции, ошибка модели передаётся уже не как строка в отчёте, а как действие .

Как ИИ может усилить рыночный шок

Возможный сценарий выглядит так.

1. Происходит шок. Цены падают, волатильность растёт, по рынку расходится тревожная информация или киберинцидент нарушает работу важного поставщика. Многие организации анализируют ситуацию через похожие ИИ-инструменты, источники данных или внешних вендоров .

2. Ответы ИИ начинают совпадать. Системы управления рисками могут советовать снижать позиции, продавать схожие активы, увеличивать резервы ликвидности или сокращать маркетмейкинг. Литература по финансовой стабильности предупреждает, что широкое использование ИИ без защитных механизмов может поощрять стадное поведение и повышать корреляции .

3. Обратная связь ускоряется. Продажи и уход ликвидности давят на цены, а новые падения становятся входными данными для следующего раунда риск-сигналов. Аналитические материалы предупреждают, что ИИ может усиливать wrong-way risk — риск, который растёт именно тогда, когда положение ухудшается, — и ускорять финансовые кризисы .

4. Общая инфраструктура превращается в канал заражения. ЕЦБ предупреждает, что концентрация ИИ-поставщиков может сделать операционный и киберриск системным, а исследование ФРС указывает на сторонних поставщиков услуг как на киберлинию разлома .

5. Доверие слабеет в самый неподходящий момент. Дипфейки, мошенничество с применением ИИ или кибератаки могут подорвать аутентификацию и уверенность участников рынка именно тогда, когда компаниям, клиентам и контрагентам нужна максимально надёжная информация .

Что может снизить риск

Логика защитных мер следует из самих каналов риска. Финансовым организациям и надзорным органам нужно видеть не только отдельные модели, но и общую карту ИИ-зависимостей: концентрация поставщиков способна превратить технологический выбор одной фирмы в уязвимость всей системы .

Не менее важно тестировать ИИ-системы в стрессовых условиях. Особенно там, где качество данных, архитектура модели и способ внедрения определяют, останется ли результат рекомендацией для человека или станет автоматическим действием в торговых, кредитных, капитальных или ликвидностных процессах .

Киберустойчивость и управление рисками третьих сторон — центральная часть этой защиты. В отчёте ФРС по кибербезопасности говорится, что надзорные политики и процедуры проверок направлены на управление IT-рисками, кибербезопасность, операционную устойчивость и управление рисками третьих сторон . Анализ ЕЦБ строится на той же системной логике: инструмент, который выглядит управляемым внутри одной организации, всё равно может создать хрупкость, если многие участники применяют его одинаково или зависят от одних и тех же поставщиков .

Итог

ЕЦБ и ФРС не рассматривают ИИ как гарантированный спусковой крючок кризиса. Их предупреждение другое: риск для финансовой стабильности растёт, когда ИИ внедряется широко, поставщики концентрированы, модели трудно проверять, а многие организации быстро реагируют на одни и те же сигналы .

В момент рыночного шока сильные стороны ИИ могут стать слабостями. Скорость, масштаб и оптимизация помогают отдельным компаниям действовать быстрее, но на уровне системы они могут привести к синхронным продажам, сокращению ликвидности, киберсбоям и более быстрой потере доверия .