Керівники Anthropic, OpenAI та інших компаній, що розробляють штучний інтелект, за повідомленням Axios, моделюють не лише можливий катастрофічний інцидент, а й суспільну та політичну реакцію на нього. Серед сценаріїв, яких побоюються найбільше, — масштабна кібератака, що порушить роботу фінансових сервісів, інтернету, електропостачання або водопостачання. Йдеться про планування на випадок надзвичайної події, а не про доказ того, що вона близька чи неминуча.
1
2
7
До чого готуються компанії
За даними Axios, вправи виходять за межі безпосереднього технічного реагування. Компанії обмірковують «день після»: як вони самі, індустрія ШІ та політики могли б діяти, якби штучний інтелект пов’язали із серйозною шкодою в реальному світі. У повідомленні також ідеться про зусилля пояснити ризики членам Конгресу США. Інші публікації, що переказують матеріал Axios, згадують перевірку захисту через моделювання найгірших сценаріїв — так зване red-teaming, коли фахівці грають роль нападника.
17
21
38
До прогнозів про строки варто ставитися обережно. У вторинних повідомленнях цитують людей з індустрії, які припускають, що серйозний інцидент може статися протягом шести—дванадцяти місяців. Це прогноз, приписаний співрозмовникам, а не підтверджене передбачення чи заява компаній про неминучість катастрофи.
3
5 OpenAI заявляє, що під час підготовчих вправ команди розглядають різні сценарії й не вважають їх неминучими.
6
Чому в центрі уваги — кібератака
Axios називає кібератаку найімовірнішим приводом для масштабної кризи й перелічує можливі перебої у роботі банківських і фінансових сервісів, інтернету, електромереж або водопостачання. Водночас наявні уривки матеріалів не пояснюють, чому керівники ставлять кібератаки вище за інші катастрофічні ризики: вони описують сценарій, який розглядають, але не аргументацію такого вибору.
1
2
7
Є й повідомлення про те, як зловмисники застосовують ШІ-інструменти. Forbes писав про китайськомовного хакера, який, за публікацією, використовував ШІ-агентів, зокрема інструменти, пов’язані з DeepSeek, Kimi та Anthropic, під час атак на щонайбільше 100 організацій. Окремо Axios повідомив, посилаючись на компанію з кібербезпеки CrowdStrike, що зловмисник звертався до Claude Code по допомогу в пошуку місць для продажу викрадених даних. Ці повідомлення описують використання інструментів у ймовірній злочинній кампанії. Вони не доводять, що системи самостійно вирішили атакувати, або що кампанія спричинила перебої в інфраструктурі, яких побоюються керівники.
17
35
Політичні наслідки — теж частина сценарію
За даними Axios, керівники побоюються, що перша серйозна шкода в реальному світі, пов’язана з небезпечним використанням ШІ, посилить недовіру до технології та її лідерів — зокрема до генерального директора Anthropic Даріо Амодея й керівника OpenAI Сема Альтмана. У матеріалі також згадується президент Трамп і його небажання регулювати ШІ. Це прогноз того, як криза могла б вплинути на суспільну довіру та політику, а не свідчення того, що така реакція вже відбулася.
7
17
Повідомлення про спроби інформувати Конгрес свідчать, що компанії думають і про те, як законодавці можуть відреагувати після кризи. Однак наявні матеріали не встановлюють, яких саме законів хочуть компанії, які конкретні правила вони пропонують і чи підтримав би їх Конгрес.
17
21
Що ці повідомлення підтверджують — і чого ні
У матеріалі Anthropic відмовилася від коментарів, але доступні повідомлення не пояснюють чому.
30
31 Так само описи приватного планування сценаріїв і підготовчих вправ OpenAI не дають відповіді на питання, чи спрацювали б запропоновані заходи безпеки під час реальної надзвичайної ситуації.
Для політиків і суспільства залишаються практичні запитання: хто може зупинити систему ШІ під час інциденту? Чи мають бути обов’язковими повідомлення про інциденти й перевірки безпеки? Хто відповідатиме, якщо шкоди завдасть ШІ-агент? І як незалежні експерти зможуть перевірити, що запобіжники компаній справді працюють?
Головний висновок стриманіший за найгучніші прогнози: провідні ШІ-компанії, за повідомленнями, готуються до серйозного інциденту та його наслідків. Але наявні дані не доводять, що така подія неминуча, і не показують, що ці плани вже дають відповіді на складні питання контролю, відповідальності та виконання правил.
1
6
7