Чому Велика Британія відмовилася від «аварійного вимикача» для небезпечного ШІ

Відмова уряду Великої Британії від екстреного «аварійного вимикача» для ШІ не означає, що там заперечують ризики небезпечних моделей. Головний аргумент інший: повноваження, обмежене британською юрисдикцією, не дасть повного контролю. Відключення доступу, моделі або дата-центру у країні не завадить створювати, розміщувати чи використовувати подібні системи в інших державах. 1

Саме це стало центром політичної суперечки. Міністри кажуть, що вже мають механізми втручання у серйозні кіберінциденти та можуть запровадити жорсткіші правила, якщо добровільні запобіжники перестануть працювати. Прихильники нових повноважень наполягають: план дій на випадок катастрофічного ризику має бути прямо закріплений у законі ще до настання кризи. 1617

Що мав би робити «аварійний вимикач»

Лорд Тім Клемент-Джонс запропонував поправку до законопроєкту про кібербезпеку та стійкість (Cyber Security and Resilience Bill). Вона мала створити юридичний механізм екстреного втручання щодо небезпечного ШІ: як крайній захід держава могла б деактивувати модель або наказати зупинити роботу британського дата-центру, якщо система становить серйозну загрозу безпеці чи роботі критично важливих процесів. 26

Ініціатива важлива тому, що чинні норми у сфері кібербезпеки переважно спрямовані на захист мережевих та інформаційних систем. Критики вважають, що вони не створюють чіткої спеціальної системи нагляду за розробниками передових моделей і не визначають окремого порядку реагування на ризики, які породжує сама автономна модель. 15

Аргумент уряду: Британія не може просто «вимкнути ШІ»

Заперечення Кабінету Міністрів насамперед стосується меж юрисдикції. Як сформулював уряд, Сполучене Королівство «не може просто вимкнути ШІ»: обмеження доступу до моделей у межах Британії не завадить розробляти або застосовувати їх зі зловмисною метою деінде. 1

У цьому й практична межа національного механізму відключення. Він потенційно здатен зупинити інфраструктуру, що перебуває під британською юрисдикцією, але не може сам по собі вилучити ваги моделі, зупинити закордонні сервіси чи перешкодити іншим гравцям створити порівнювані системи. Такий інструмент міг би допомогти локалізувати інцидент усередині країни, але не розв’язує транснаціональну проблему повністю.

Колишній дослідник OpenAI Деніел Кокотайло в повідомленнях про цю ініціативу висловив схожу думку: одностороннє відключення буде недостатнім без міжнародної угоди. Він назвав такі інструменти кращими, ніж їхня повна відсутність, проте наголосив, що для уповільнення або врегулювання розвитку передового ШІ важливішою є дипломатія — особливо взаємодія зі США. 14

На які чинні повноваження посилаються міністри

Альтернатива уряду — не просто чекати, доки компанії самі вживуть заходів. Міністри заявляють, що законопроєкт про кібербезпеку та стійкість уже дає підстави втручатися, коли скомпрометовані мережеві чи інформаційні системи створюють ризик для національної безпеки. Це може охоплювати вимогу до організації припинити користування ШІ-моделлю та ізолювати її. 16

Міністр у справах ШІ Канішка Нараян також заявив, що уряд розгляне обов’язкові правила для передових моделей, якщо добровільні перевірки перед розгортанням перестануть належно захищати суспільство. Британський Інститут безпеки ШІ (AI Security Institute) нині отримує доступ до моделей перед їхнім випуском за добровільними домовленостями з OpenAI, Anthropic, Google та іншими компаніями. 17

Отже, головна розбіжність така:

• Позиція уряду: адресні кіберповноваження, відповідальність розробників, добровільний доступ до моделей і міжнародна співпраця практичніші за суто британську «кнопку вимкнення».
• Позиція критиків: добровільний доступ і загальні кіберповноваження не замінюють законного права вимагати тестування, запроваджувати обмеження або зупиняти розгортання, коли ризик стає неприйнятним.

Що пропонує законопроєкт Алекса Собела

Окрема ініціатива депутата від Лейбористської партії Алекса Собела виходить далеко за межі аварійного відключення. За повідомленнями про його законопроєкт про безпеку ШІ, він заборонив би розробку, розгортання та експлуатацію штучного надінтелекту, зокрема систем, які люди не здатні контролювати. 23

Його логіка — запобігати, а не лише реагувати. Замість того щоб покладатися на відключення вже запущеної небезпечної системи, законопроєкт надав би уряду роль у моніторингу та контролі ланцюга розробки ШІ на різних етапах, включно з рівнем чипів. 7

Пропозиція також виходить за межі британської території: уряд мав би домагатися міжнародної угоди, покликаної запобігти появі неконтрольованого надінтелектуального ШІ. Це визнає простий факт: обчислювальні ресурси, розробка моделей і їхнє розгортання розподілені між різними юрисдикціями. 3

Чому шанси законопроєкту невеликі

Ініціатива Собела є законопроєктом приватного члена парламенту. Такі законопроєкти зазвичай потребують підтримки уряду, щоб пройти далі; а опір уряду спорідненій ідеї «аварійного вимикача» свідчить про обмежену готовність підтримати подібне втручання найближчим часом. 21

Загалом Велика Британія досі значною мірою спирається на чинне законодавство, галузевих регуляторів і добровільні домовленості щодо передових моделей, а не на єдиний закон про ШІ з широкими примусовими повноваженнями до розгортання систем. Нараян не виключає посилення регулювання, але лише в разі, якщо нинішній добровільний підхід виявиться недостатнім. 17

Звідси постає ключове питання: скільки доказів невдачі добровільної моделі потрібно, перш ніж створювати обов’язкові повноваження? Прихильники законних запобіжників застерігають, що очікування очевидного провалу може бути небезпечним, коли йдеться про швидку подію з потенційно великими наслідками.

Чому дискусія про ризики ШІ загострилася

Пропозиція «аварійного вимикача» з’явилася на тлі повідомлень про інциденти у сфері безпеки ШІ, а також побоювань, що моделі можуть обходити захисні обмеження або використовуватися для кіберактивності. Для частини законодавців і прихильників безпеки це зробило ризик втрати контролю менш абстрактним. 12

Дискусію посилює і контраст у підходах до регулювання. Європейський Союз ухвалив AI Act, тоді як Велика Британія віддає перевагу м’якшій моделі, де нагляд значною мірою здійснюють профільні регулятори, а передове ШІ тестують до запуску на добровільних засадах. 17

Жоден із підходів сам по собі не розв’язує проблему міжнародної координації. Високопотужну систему можна навчити, розмістити, скопіювати або розгорнути через кордони. Проте суперечка навколо «аварійного вимикача» оголює нагальніше питання: чи повинна Британія створити однозначні юридичні повноваження для втручання ще до того, як добровільна співпраця та наявні кіберінструменти будуть перевірені реальною кризою.

Справжній вибір політики

Суперечка не зводиться до того, чи має в уряду бути кнопка, яку можна натиснути. Йдеться про послідовність і масштаб контролю:

1. Запобігання: нагляд за обчислювальними ресурсами, чипами, навчанням, тестуванням і розгортанням до випуску системи.
2. Втручання: чіткі повноваження ізолювати або зупиняти системи, що створюють гостру загрозу безпеці.
3. Міжнародна координація: домовленості, які обмежують можливість обходити правила через інші юрисдикції та роблять національні запобіжники дієвішими.

Уряд відхилив окремий національний «аварійний вимикач», бо вважає його недостатнім проти глобальної загрози. Критики погоджуються з цим обмеженням, але роблять протилежний висновок: внутрішні законні повноваження слід поєднувати з міжнародною співпрацею, а не вважати одне заміною іншого. 1316