США і Китай обговорюють попередження про інциденти з ШІ — не спільні обмеження

Головне питання після зустрічі Дональда Трампа й Сі Цзіньпіна 24 вересня — не лише чи говорили вони про безпеку штучного інтелекту, а й про яку саме співпрацю йдеться. Наявні повідомлення найкраще підтверджують вузький напрям: дати Вашингтону й Пекіну змогу швидко зв’язатися в разі серйозного інциденту, не припиняючи технологічного суперництва. Підтвердження домовленості про обов’язкові запобіжні правила вони не дають.12451

Що запропонували США

Перед зустріччю міністр фінансів США Скотт Бессент повідомив, що під час переговорів із віцепрем’єром Китаю Хе Ліфеном американська сторона запропонувала механізм сповіщення про інциденти з ШІ. Йшлося про можливий діалог щодо випадків, які можуть становити загрозу національній безпеці. У цих повідомленнях це пропозиція для розгляду лідерами, а не оприлюднений набір спільних правил.13

Такий канал міг би допомогти посадовцям з’ясувати, що сталося, перш ніж небезпечну подію помилково витлумачать як ворожий крок. Але повідомити про інцидент — не те саме, що зобов’язати розробників заздалегідь тестувати найпотужніші моделі, обмежувати їхнє застосування чи допускати незалежну перевірку.

Публічні заяви лідерів не дорівнюють угоді

Трамп виступав проти нових правил для ШІ та заявляв, що за потреби можуть втрутитися американські правоохоронні органи, зокрема Міністерство юстиції. Перед зустріччю він також написав, що «суперінтелект» буде важливою темою, але він хоче залишити все як є. Це вказує на його небажання запроваджувати нові превентивні обмеження — не на згоду Китаю з такою позицією.5022

Сі, зі свого боку, публічно сказав, що США й Китай відповідальні за розвиток і управління ШІ так, щоб він залишався під контролем людини.24 Це принцип, але не підтвердження домовленості про обов’язкове тестування чи взаємне уповільнення розробок. За повідомленням Bloomberg напередодні зустрічі, жоден з урядів не сигналізував про намір сповільнити розвиток ШІ.51

Безпека й технологічне суперництво — різні частини дискусії

Керівники OpenAI Сем Альтман і Anthropic Даріо Амодеї звернулися до Ради Безпеки ООН із закликом до міжнародної координації щодо ризиків ШІ. Амодеї також закликав уповільнити й ретельніше контролювати розробку, зокрема через незалежний нагляд і ширше регулювання. Це приклад запобіжного підходу, але не доказ того, що уряди його прийняли.1748

Водночас сенатори-демократи Чак Шумер, Елізабет Воррен та їхні колеги вимагали посилити обмеження на постачання Китаю передових чипів для ШІ й обладнання для їх виробництва, а також винести на голосування відповідні законопроєкти.3545 Експортний контроль покликаний обмежувати доступ конкурента до технологій. Це інша мета, ніж спільно встановити для обох країн вимоги до перевірки систем перед застосуванням. До того ж зустріч стосувалася не лише ШІ: на порядку денному були торгівля та інші стратегічні суперечності.34

За чим оцінювати результат

Про дієвий канал зв’язку свідчили б узгоджені правила: які інциденти підлягають повідомленню, хто й коли його надсилає, а також підтвердження, що механізм запрацював. Обов’язкові запобіжні заходи вимагали б більшого — вимог до оцінювання чи застосування систем, перевірки виконання та наслідків за порушення.

Деякі повідомлення описують канал як уже узгоджений, проте найчіткіші повідомлення про переговори Бессента називають його пропозицією США для розгляду лідерами.131 Поки немає погоджених умов і даних про їх виконання, найобережніший висновок такий: це спроба керувати ризиками суперництва з можливим кроком до співпраці в безпеці ШІ, а не підтверджена угода про обов’язкові запобіжні правила.