Руководители Anthropic, OpenAI и других ИИ-компаний, как сообщает Axios, прорабатывают сценарии не только самого серьёзного инцидента, но и того, что произойдёт после него: как отреагируют общество и политики и как изменится отношение к отрасли. В публикации наиболее вероятным поводом для такого кризиса названа масштабная кибератака, способная нарушить работу финансовых сервисов, интернета, электроснабжения или водоснабжения. Речь идёт о планировании на случай ЧП, а не о доказательстве того, что катастрофа близка или неизбежна.
1
2
7
Что именно обсуждают компании
По сообщениям, сценарии охватывают «день после» — реакцию компаний, отрасли и властей, если ИИ окажется связан с серьёзным ущербом в реальном мире. Axios также пишет, что руководители уделяют внимание тому, чтобы информировать членов Конгресса США. В пересказах публикации упоминаются и проверки по принципу red team: специалисты моделируют действия атакующей стороны, чтобы испытать защиту в наиболее неблагоприятных сценариях.
17
21
38
К прогнозам о сроках стоит относиться осторожно. В некоторых вторичных публикациях говорится, что часть представителей отрасли ожидает крупный инцидент в ближайшие шесть–двенадцать месяцев. Это переданный журналистами прогноз отдельных собеседников, а не подтверждённое предсказание и не заявление компаний о неизбежности катастрофы.
3
5 OpenAI сообщила, что проводит учения по разным сценариям и не считает их неизбежными.
6
Почему в центре внимания — кибератака
Axios называет масштабную кибератаку наиболее вероятным сценарием и перечисляет возможные перебои в работе банковских и других финансовых сервисов, интернета, электроснабжения и водоснабжения. Однако доступные фрагменты публикации не объясняют, почему руководители ставят кибератаку выше других возможных катастрофических рисков. Источники подтверждают, что такой сценарий рассматривают, но не раскрывают логику этой оценки.
1
2
7
Есть и сообщения о том, что злоумышленники применяют ИИ-инструменты. Forbes писал о хакере, говорившем по-китайски, который, по данным издания, использовал ИИ-агентов, включая инструменты, связанные с DeepSeek, Kimi и Anthropic, в атаках на десятки организаций. Axios отдельно сообщал со ссылкой на CrowdStrike, что злоумышленник обращался к Claude Code за помощью в поиске площадок для продажи похищенных данных. Эти сведения описывают предполагаемую преступную кампанию с использованием инструментов ИИ. Они не доказывают, что системы самостоятельно решили атаковать, или что атака привела к сбоям инфраструктуры, которых опасаются руководители компаний.
17
35
Обсуждают и политические последствия
По данным Axios, руководители опасаются, что первый серьёзный случай вреда в реальном мире, связанный с небезопасным ИИ, ещё сильнее подорвёт доверие к технологии и её известным руководителям — в том числе к главе Anthropic Дарио Амодеи и главе OpenAI Сэму Альтману. В публикации также упоминается президент Трамп и его нежелание регулировать ИИ. Это предположение о том, как кризис может повлиять на общественное мнение и политику, а не свидетельство того, что такая реакция уже возникла.
7
17
Сообщения о работе с Конгрессом показывают, что компании заранее думают о возможной реакции законодателей. Но доступные публикации не устанавливают, какие именно законы они хотели бы видеть, за какие конкретные меры выступают и примет ли Конгресс новые правила.
17
21
Что известно — и чего пока нельзя заключить
Anthropic отказалась от комментариев для публикаций, однако доступные материалы не объясняют почему.
30
31 Кроме того, сообщения о закрытом сценарном планировании и учениях OpenAI не позволяют судить, сработают ли предполагаемые меры защиты в реальной чрезвычайной ситуации.
Остаются и практические вопросы: кто сможет остановить ИИ-систему во время инцидента? Должны ли компании обязательно сообщать о происшествиях и проходить проверки? Кто будет отвечать, если вред причинит ИИ-агент? И как независимые эксперты смогут проверить, что заявленные меры безопасности действительно работают?
Главный вывод здесь сдержаннее самых громких прогнозов: ведущие ИИ-компании, по сообщениям, готовятся к тяжёлому инциденту и его последствиям. Но представленные данные не доказывают, что он неизбежен, и не дают окончательных ответов на вопросы контроля, ответственности и обязательного надзора.
1
6
7