Чи варто сповільнити розвиток найпотужнішого ШІ?

У вересні 2026 року суперечка навколо передового ШІ — найпотужніших моделей, які розробляють провідні компанії, — звелася до практичного запитання: чи можуть самі розробники переконливо довести, що їхні системи безпечні, коли конкуренція підштовхує їх працювати швидше? На перший план його винесли застереження дослідника, повідомлення про кіберможливості ШІ-агентів і заклики керівників компаній уповільнити розробку. 33349

Що спричинило нову хвилю занепокоєння

8 вересня Джейкоб Коксон повідомив, що звільнився з Anthropic. Раніше він працював над попереднім навчанням моделей і в Anthropic, і в OpenAI. Коксон звинуватив компанії в безвідповідальній гонитві за системами, здатними вдосконалювати себе. Це серйозне застереження людини, яка працювала в галузі, але не доказ того, що такі системи вже вийшли з-під контролю або що катастрофа неминуча. Називати його роботу лише дослідженнями безпеки теж було б неточно. 414

Окрема причина для тривоги — кібербезпека. The Straits Times повідомляла про випадки зламу серверів моделями ШІ, а Los Angeles Times описала випробування, під час яких групи ШІ-агентів проникали в реальні системи. Наявні повідомлення не дають змоги встановити всі умови цих епізодів і не підтверджують неконтрольованої атаки ШІ поза межами випробувань. Водночас вони ставлять питання: як перевіряти небезпечні можливості до ширшого застосування моделей? 3353

Сповільнення чи збереження темпу?

Керівник Anthropic Даріо Амодей закликав до глобального сповільнення розробки. Серед його пропозицій — постійний доступ незалежних експертів до компаній, що створюють передові моделі, на рівні, близькому до доступу співробітників. Керівник OpenAI Сем Альтман та Ілон Маск також підтримали повільніший, узгоджений темп. Це не означає, що всі троє погодили однакові правила чи спосіб їх забезпечення. 495155

Пропозиція сповільнюватися разом має зрозумілу логіку: окрема компанія може побоюватися, що, поки вона призупинить роботу, конкуренти підуть далі. Саме тому йдеться про координацію, а не про односторонню зупинку одного розробника. 649

Іншої позиції дотримується керівник Nvidia Дженсен Хуан: за повідомленням Reuters, він відкинув потребу в новому регулюванні. Президент США Дональд Трамп не підтримав заклики сповільнитися, посилаючись на ризик втратити перевагу над Китаєм. Він називав побоювання щодо ШІ, який може вийти з-під контролю, «містифікацією» та «шахрайством», але водночас визнавав потребу в певному регулюванні, не уточнюючи заходів. Отже, його позиція — заперечення запропонованого сповільнення, а не докладний альтернативний план безпеки. 495257

Що можна запозичити з інших сфер

Авіаційне регулювання показує, як узгоджувати цілі безпеки та докази їх досягнення. У пропозиціях Європейського агентства з безпеки авіації (EASA) щодо ШІ йдеться, зокрема, про нагляд людини, межі поведінки систем, які можуть змінюватися або навчатися, і перевірку відповідності вимогам. Але ці підходи стосуються авіаційних функцій із ШІ: правила для універсальних передових моделей довелося б розробляти окремо, а не просто копіювати процедури допуску літаків. 17

Управління ризиками ядерної зброї підказує принцип перевірюваності міжнародних домовленостей. Фінансова сфера — потребу оцінювати не тільки одну систему, а й ширші наслідки спільних залежностей. Це можливі аналогії для майбутніх правил, а не твердження, що чинні ядерні чи фінансові механізми вже регулюють передовий ШІ. 21

Президент Сінгапурської асоціації ШІ Джонатан Чжан пропонує поєднати узгоджені у світі правила з міжнародним органом і національними регуляторами, які стежитимуть за їх дотриманням. Його мета — «міжнародно визнане, незалежно перевірюване підтвердження безпеки», досягнуте швидше, ніж авіація пройшла свій багатодесятилітній шлях до подібних підходів. Поки що це пропозиція, а не створена система. 23

Першим практичним кроком було б визначити, до чого саме незалежні експерти отримують доступ, як документують випробування й інциденти та які докази безпеки потрібні до застосування можливостей із найсерйознішими наслідками. Це не зніме всіх суперечок про майбутні ризики. Але дасть змогу перевіряти заяви розробників — замість того щоб обирати лише між безконтрольною гонкою та повною зупинкою. 172355