ШІ допомагає створювати новий ШІ: чому науковці хочуть нагляду

Йдеться не лише про те, наскільки потужними стануть майбутні моделі. Дослідників непокоїть інше: штучний інтелект може допомагати створювати наступне покоління ШІ, а воно — прискорювати подальші дослідження. Такий зворотний зв’язок здатен змінити не тільки можливості систем, а й темп розвитку. 13

Понад 20 дослідників і керівників у сфері ШІ, пов’язаних з OpenAI, Anthropic, Meta та Microsoft, закликали політиків уважніше оцінити, наскільки компанії вже автоматизували дослідження й розробку моделей, а також розглянути заходи безпеки. 2

Важливо розрізняти попередження та встановлений факт: «інтелектуальний вибух» — це сценарій, за якого автоматизація різко прискорює прогрес, а не доказ того, що ШІ вже самостійно вдосконалюється без людського контролю. 114

Як може виникнути цикл самоприскорення

ШІ вже може допомагати в роботі над майбутніми моделями. Якщо така допомога дає змогу створити потужнішу систему, а вона бере на себе ще більшу частину дослідницької роботи, наступний етап потенційно може настати швидше. Цей механізм називають рекурсивним самовдосконаленням: системи ШІ допомагають поліпшувати процес створення інших систем ШІ. 15

Застереження дослідників стосується передусім швидкості. В одному зі сценаріїв, описаних у матеріалах про їхню роботу, прогрес, на який за звичайних умов пішов би рік, може відбутися за кілька тижнів. Це прогноз можливого розвитку подій, а не виміряний результат: наявні джерела не підтверджують, що такий темп уже досягнуто. 314

Контекст дає й попереднє дослідження: у 2025 році автори опитали 25 дослідників із провідних лабораторій та академічних установ. Багато хто очікував, що ШІ автоматизуватиме дослідження ШІ й утворить позитивний зворотний зв’язок. Це пояснює, чому ризик сприймають серйозно в самій галузі, але не доводить неминучості такого сценарію. 1

Чого саме хочуть від регуляторів

Перший крок — отримати чіткіше уявлення про те, наскільки широко компанії застосовують ШІ у дослідженнях і розробці. Це допомогло б оцінити, де саме системи беруть участь у створенні майбутніх моделей і чи достатньо наявного нагляду, коли на них покладають дедалі більше роботи. 23

Сам заклик до перевірки не означає, що лабораторії вже передали ШІ контроль над дослідженнями. Його суть — не чекати, поки швидкість змін ускладнить оцінювання та нагляд. 23

Чи допоможе уповільнення розробки

Скоординоване уповільнення могло б дати більше часу на перевірки безпеки, незалежне оцінювання моделей і створення надійніших правил. Дослідники OpenAI та Anthropic публічно закликали розвивати ШІ повільніше, але інші керівники галузі віддають перевагу підходу, більше орієнтованому на ринок. Спільної позиції про те, наскільки саме варто сповільнити розробку, немає. 818

Є й практичні питання: які системи та роботи підпадатимуть під обмеження, хто перевірятиме його дотримання та як узгодити дії компаній-конкурентів? Поки що немає чіткого визначення, що саме означала б пауза і як її забезпечити.

«Аварійне вимкнення» — корисний, але не універсальний запобіжник

Президент Microsoft Бред Сміт заявив, що розробники моделей, провайдери хмарної інфраструктури та ті, хто керує ШІ-агентами, мають мати змогу вимкнути системи. Такий механізм можна розглядати як аварійне гальмо, але не як заміну профілактиці ризиків чи постійному нагляду.

До того ж сучасні ШІ-системи можуть працювати на розподіленій інфраструктурі. Тому один перемикач не гарантує, що кожен компонент зупиниться; фахівці наголошують і на потребі в моніторингу та людському втручанні.

Коли компанія і наглядає, і заробляє на ШІ

Пропозиція залучити розробників і хмарних провайдерів до контролю порушує питання про незалежність нагляду. Microsoft бере участь у розробці моделей і водночас надає хмарну інфраструктуру — тобто має і роль у безпеці систем, і комерційний інтерес у цій сфері. Сам по собі цей збіг ролей не доводить нещирості позиції компанії, але робить особливо важливими чіткі правила та незалежну перевірку. 2

Ширша проблема — координація. Позиції керівників галузі щодо темпів розвитку різняться, а заклики до стриманості лунають на тлі конкуренції між компаніями. Одній компанії може бути складно дотримуватися добровільних обмежень, якщо інші продовжують рухатися швидко. Джерела підтверджують розбіжності та конкурентний тиск, але не доводять, що інвестиційні інтереси визначають погляди конкретних дослідників. 1218

Отже, перед політиками стоять два пов’язані завдання: відстежувати, яку роль ШІ вже відіграє у створенні ШІ, та зробити запобіжники перевірюваними, а не залежними лише від запевнень самих компаній. Попередження дають підстави розглядати ці питання вже зараз, але не визначають ані ймовірність «інтелектуального вибуху», ані те, яка саме політика буде найефективнішою. 123