Що насправді означало б уповільнення ШІ — і яку роль може відіграти Сінгапур

Уповільнити розвиток ШІ по суті означає дати незалежному оцінюванню наздогнати найпотужніші системи, а не зупинити використання технології в усій економіці. Публічні заклики провідних керівників ШІ-компаній уже винесли на порядок денний незалежні перевірки та міжнародну координацію. Але для дієвих запобіжників замало добровільних обіцянок: перевірки мають бути незалежними, їхні результати — впливати на рішення про випуск, а вимоги — залежати від рівня ризику.

Сінгапур має для цього кілька корисних інструментів: рамкові настанови з управління агентним ШІ, засоби тестування AI Verify та програму акредитації незалежних тестувальників. Наступне завдання — пов’язати ці інструменти з чіткими рішеннями, заснованими на доказах, щодо систем, які організації справді впроваджують. 4

Чого не означають заклики сповільнити ШІ

Нинішні пропозиції стосуються темпів розвитку передового ШІ — найпотужніших систем, для яких заходи безпеки розробників і зовнішній нагляд можуть не встигати за зростанням можливостей. Серед озвучених ідей — постійний доступ незалежних оцінювачів до провідних розробників, узгодження стандартів безпеки та ширша міжнародна співпраця.

Це свідчить про зростання інтересу до теми, але не означає, що компанії вже погодили спільну обов’язкову політику. У Міжнародному звіті про безпеку ШІ зазначено, що практики управління ризиками ще формуються, а більшість корпоративних ініціатив залишається добровільною. Різниця принципова: обіцянка компанії перевірити модель сама по собі не зобов’язує її відкласти випуск, навіть якщо залишаються серйозні ризики.

Перетворити уповільнення на умову випуску

Практичний підхід передбачав би суворіші вимоги для систем із ширшими можливостями або повноваженнями, але не загальну заборону на звичайне використання ШІ. Інструмент для підготовки чернеток і агент, якому дозволено виконувати важливі дії, не мають автоматично проходити однакові перевірки. Рамкові настанови Сінгапуру щодо агентного ШІ вже рекомендують заздалегідь оцінювати й обмежувати ризики, а для значущих або чутливих дій встановлювати контрольні точки з людським схваленням. 46

Для передових моделей і застосувань із високим впливом такий принцип можна було б розвинути в процедуру допуску до випуску:

• Незалежне оцінювання до випуску. Кваліфіковані зовнішні оцінювачі мають отримувати захищений доступ до потрібних систем і матеріалів, щоб перевіряти небезпечні можливості та передбачувані способи зловживання. Постійний доступ оцінювачів фігурує в недавніх пропозиціях щодо темпів розвитку передового ШІ, але загальної вимоги такого типу наразі немає.
• Чіткі пороги й наслідки. Слід заздалегідь визначити, які результати перевірки вимагатимуть додаткових запобіжників, обмеження доступу чи відтермінування випуску. Невдале оцінювання має спричиняти задокументовану реакцію, а якщо цього потребує рівень ризику — затримку випуску, а не лише ще одну внутрішню перевірку. Це пропозиції щодо управління ризиками, а не вимоги чинних рамкових настанов Сінгапуру. 4
• Запобіжники відповідно до способу використання. Якщо агент має право виконувати важливі дії, варто передбачити обмежений доступ, людське схвалення ключових кроків, моніторинг і чіткий розподіл відповідальності. Сінгапурські настанови підтримують обмеження ризиків і реальний людський нагляд; конкретні заходи мають залежати від системи та її призначення. 48
• Повторна перевірка після суттєвих змін. Значущі зміни моделі, її інструментів або середовища використання потребують нового оцінювання. Результат попереднього тесту не варто вважати безстроковою гарантією для системи, яка змінилася.

Для застосувань із нижчим ризиком має існувати зрозуміліший і легший шлях до впровадження. Підхід, що враховує ризик, дає змогу бізнесу користуватися ШІ, не трактуючи успішний тест як доказ безпечності системи за будь-яких умов. Приклад регулювання за рівнем ризику — Закон ЄС про штучний інтелект.

Відкриті правила — незалежне тестування

Міжнародна координація може зробити оцінювання зіставнішими й зменшити спокусу шукати юрисдикцію з найм’якшим наглядом. Уряди можуть домовлятися про спільні методи тестування, обмін інформацією про інциденти та мінімальні вимоги до систем із найвищим рівнем ризику. Незалежні оцінювачі зможуть перевіряти їх відповідність цим вимогам. Нещодавні пропозиції щодо уповільнення також наголошують на координації між компаніями та країнами.

Важливо чітко розмежувати відповідальність. Державні органи мають встановлювати обов’язкові пороги й визначати наслідки їх перевищення. Компанії можуть надавати технічну експертизу, але не повинні одноосібно вирішувати, чи відповідають їхні системи вимогам. Незалежним тестувальникам потрібні прозорі методи роботи та розкриття конфліктів інтересів. Це принципи запропонованої системи нагляду, а не вже узгоджені умови закликів індустрії.

На що може спиратися Сінгапур

Рамкові настанови Сінгапуру щодо управління агентним ШІ містять рекомендації для організацій, які впроваджують агентів, зокрема щодо оцінювання ризиків, людської відповідальності та контролю. Це рекомендації для відповідального впровадження, а не самостійний обов’язковий дозвіл на випуск системи. 468

AI Verify пропонує інструменти тестування, а Програма акредитації тестувальників ШІ визнає сторонні компанії, що мають відповідні технічні компетенції та операційну готовність. Разом ці ініціативи можуть допомогти уніфікувати оцінювання в бізнесі й фінансовому секторі. Сінгапур також міг би заохочувати спільні формати підтвердження надійності та договори, які чітко визначатимуть, що мають засвідчити постачальники моделей, інтегратори систем, організації-розгортачі й тестувальники. Це можливі наступні кроки, а не вже запроваджена політика.

Корисною метою було б взаємне визнання між країнами методів і доказів тестування, а не твердження, ніби один національний сертифікат гарантує безпеку будь-якої системи в будь-якому застосуванні. Рамкові настанови й інструменти тестування можуть зробити докази системнішими, однак органам влади й організаціям усе одно потрібно визначати, чи стосуються ці докази реального способу використання системи та його ризиків.

Оцінювати безпеку ШІ, програмного забезпечення й кіберзахист разом

Перевірити відповіді моделі — лише частина оцінювання ШІ-агента. Потрібно також дослідити програмну систему навколо нього та захищеність інструментів і дозволів, до яких він має доступ. Це пов’язані, але різні питання: яку шкідливу поведінку може демонструвати ШІ; як зібраний застосунок працює під час збоїв або змін; і чи може зловмисник зламати або перенаправити систему.

Такий комплексний підхід — рекомендоване розширення оцінювання надійності, а не твердження, що кожен наявний інструмент уже охоплює всі три напрями. В описі AI Verify Toolkit зазначено, що він пропонує технічні тести для традиційних систем машинного навчання, зокрема на справедливість, пояснюваність і стійкість. Тому для агентних систем важливо окремо визначити, які наскрізні перевірки потрібні, а не припускати, що оцінювання моделі автоматично засвідчує безпеку всієї системи.

Як зрозуміти, чи уповільнення справді працює

Уповільнення має сенс тоді, коли незалежні докази можуть змінити подальше рішення: випуск системи з високим рівнем ризику можна відкласти, обмежити або скоригувати, якщо запобіжників недостатньо, а для звичайних застосувань із нижчим ризиком залишається пропорційний шлях до впровадження. Рамкові настанови й програми тестування Сінгапуру дають основу для такої системи оцінювання, але пороги допуску, механізми забезпечення виконання правил і межі перевірок ще потрібно визначити чітко.