Як створити міжнародні правила безпеки ШІ, яким можна довіряти

Як зрозуміти, що система штучного інтелекту безпечна, якщо про її випробування звітує лише компанія, яка її створила? Міжнародні правила матимуть сенс тоді, коли відповідність спільним вимогам можна буде незалежно перевірити, а регулятори зможуть діяти, якщо захист виявиться недостатнім.

Міністерка цифрового розвитку та інформації Сінгапуру Джозефін Тео порівнює це з авіацією: довіра до польотів спирається на багато рівнів захисту. На її думку, у міру поширення ШІ подібний підхід потрібен і цій технології. 36

Урок авіації — починати з дієвих домовленостей

Міжнародні авіаційні правила не виникли за один день. Спершу діяли національні закони й двосторонні угоди; 1919 року уклали Паризьку конвенцію, 1944-го — Чиказьку, а 1947 року почала працювати Міжнародна організація цивільної авіації (ICAO). 313935 Для ШІ це не готовий звід правил, а приклад поступової співпраці.

За такою логікою міжнародний орган міг би узгоджувати мінімальні стандарти, акредитувати незалежних оцінювачів і зіставляти дані про інциденти. Національні регулятори водночас зберігали б право проводити перевірки, вимагати змін, обмежувати застосування систем і накладати санкції. Міжнародний сертифікат не повинен замінювати контроль у країні, де використовують ШІ.

Що саме потрібно перевіряти

Самого рейтингу в тесті або позначки «перевірено» замало. Акредитованим фахівцям потрібен захищений доступ до відповідної версії моделі, налаштувань її застосування, документації та записів про суттєві збої. Методики й висновки слід фіксувати так, щоб інші кваліфіковані оцінювачі могли їх перевірити або оскаржити. При цьому правила доступу мають захищати персональні дані, комерційні таємниці й чутливу інформацію про безпеку.

Для систем із високим ризиком розробник міг би подавати обґрунтування безпеки: що системі дозволено робити, як її випробували, які запобіжники спрацювали, які ризики залишилися і що відбудеться у разі інциденту. Якщо доказів бракує, регулятор повинен мати змогу вимагати доопрацювання або обмежити використання. Йдеться не про обіцянку, що шкода неможлива, а про підтверджене виконання конкретних вимог.

Перевірка не має закінчуватися в день запуску. Потрібні спостереження під час роботи, повторне оцінювання після істотних змін і план відкату або виведення системи з експлуатації. Схвалення має стосуватися визначеної версії та умов використання, а не всіх майбутніх застосувань моделі.

Щоб оцінювачі не залежали безпосередньо від компаній, які перевіряють, великі розробники могли б фінансувати випробування через спільний фонд або внески під управлінням регулятора. Незалежне розслідування серйозних збоїв і ситуацій, коли шкоди вдалося ледве уникнути, допомагало б запобігати повторенню помилок. Захищене повідомлення про інциденти не повинно, однак, звільняти від відповідальності за приховування чи порушення.

Чи може Сінгапур стати майданчиком для перевірок

Тео закликає розбудовувати захисні механізми паралельно з упровадженням ШІ. Серед наявних інструментів Сінгапуру називають AI Verify та Інститут безпеки ШІ. 13 Країна могла б приймати спільні випробування й конфіденційні технічні обміни в межах ширшої мережі акредитованих лабораторій.

Але розташування центру в Сінгапурі саме собою не означало б довіри з боку США та Китаю. Для цього потрібні прозоре управління, правила захищеного доступу, незалежний розгляд оскаржень і реальна участь обох країн. Розподілена мережа також не дозволила б зробити один центр незамінним.

Почати зі спільних загроз, а не зі згоди на паузу

Погляди на темп розвитку ШІ різняться. За даними Reuters, Даріо Амодеї, Сем Альтман та Ілон Маск виступали за узгоджене сповільнення; Марк Цукерберг віддавав перевагу захисним механізмам, які формує ринок, а Дженсен Хуанг заперечував потребу в новому регулюванні. 4748 Китай відкинув заклики сповільнити розвиток ШІ. Дональд Трамп заявив, що не очікує просування в питанні обмежувальних правил під час зустрічі із Сі Цзіньпіном 24 вересня; повідомлення про саміт також не давали підстав чекати значного прориву. 585049

Проте згода щодо всіх ризиків не є умовою для перших практичних кроків. За повідомленнями про пропозиції американських і китайських експертів із безпеки, ними могли б стати заборонені зони для ШІ в ядерних системах, збереження людського контролю над кіберопераціями з серйозними наслідками та гаряча лінія для інцидентів за участю автономного ШІ. 20 Такі домовленості можна доповнити визначенням серйозних інцидентів, порядком повідомлення про них і взаємними технічними консультаціями. Участь США й Китаю важлива, але інші держави також повинні впливати на стандарти та мати доступ до оцінювання.

Контроль над озброєннями підказує принцип вузьких взаємних зобов’язань, виконання яких реально перевірити. Фінансовий нагляд — принцип пропорційності: найсуворіші вимоги мають стосуватися систем, збій яких здатен завдати найбільшої шкоди. Для них доречні незалежні оцінки, відповідальність керівництва, плани відновлення та швидке повідомлення про серйозні збої, витоки даних, злами чи викрадення моделей. Невеликим компаніям із низькоризиковими продуктами могли б допомогти спільна інфраструктура тестування й простіша документація. Але малий розмір компанії не робить небезпечну систему безпечною.

Міжнародний договір і постійний орган до 2030 року — амбітна ціль, а не прогноз. Ближчий показник поступу простіший: чи можуть країни узгодити правила незалежного оцінювання та повідомлення про інциденти — і чи зможуть регулятори втрутитися, коли доказів безпеки бракує.