США и Китай говорят о безопасности ИИ — но где обязательства?

По имеющимся данным, переговоры Дональда Трампа и Си Цзиньпина 24 сентября указывают прежде всего на попытку снизить риск кризиса на фоне продолжающегося соперничества в ИИ. Самой конкретной инициативой стал канал для сообщений о серьёзных инцидентах. Это потенциально полезная мера безопасности, но не соглашение об обязательных проверках систем или ограничении их разработки.12451

Что именно предложили США

Перед встречей министр финансов США Скотт Бессент сообщил, что в переговорах с вице-премьером КНР Хэ Лифэном американская сторона предложила механизм уведомлений о связанных с ИИ инцидентах, способных затронуть национальную безопасность. Идею предполагалось вынести на рассмотрение лидеров. В наиболее определённых сообщениях об этих переговорах речь идёт именно о предложении, а не об опубликованных двусторонних правилах.13

Такой канал мог бы помочь Вашингтону и Пекину быстрее прояснять обстоятельства происшествия и избегать опасных ошибочных выводов. Но обмен сигналами начинается тогда, когда повод для тревоги уже возник. Сам по себе он не обязывает стороны проверять передовые модели до запуска, допускать независимую оценку или приостанавливать развёртывание рискованных систем.

Слова лидеров — ещё не общие правила

Трамп выступил против нового регулирования ИИ и заявил, что при необходимости вмешаться смогут американские правоохранительные органы, в том числе Министерство юстиции. Перед встречей он написал, что «суперинтеллект» станет важной темой разговора, но сам он хочет «оставить всё как есть». Это показывает его отношение к новым превентивным ограничениям, но не подтверждает согласия Китая с такой позицией.5022

Си, со своей стороны, заявил, что США и Китай несут ответственность за развитие и управление ИИ и должны сохранять его под контролем человека.24 Это принцип, а не перечень согласованных требований к испытаниям или взаимному замедлению разработки. Накануне встречи Bloomberg отмечал, что ни одна из сторон не заявляла о намерении сбавить темп развития ИИ.51

Почему споры о безопасности и поставках чипов не стоит смешивать

Руководители OpenAI и Anthropic Сэм Альтман и Дарио Амодеи выступили в Совете Безопасности ООН за международную координацию в вопросах рисков ИИ. Амодеи также призывал замедлить разработку и тщательнее следить за ней, в том числе с помощью независимого мониторинга и регулирования.1748 Их предложения показывают, какие меры обсуждаются за пределами саммита, но не означают, что правительства их приняли.

Одновременно сенаторы-демократы, включая Чака Шумера и Элизабет Уоррен, добивались ужесточения контроля за поставками в Китай передовых чипов для ИИ и оборудования для их производства, а также рассмотрения соответствующих законопроектов.3545 Экспортные ограничения могут служить задачам национальной безопасности, однако они направлены на доступ соперника к технологиям, а не на совместные стандарты проверки ИИ. К тому же встреча охватывала и другие разногласия — от торговли до стратегических вопросов; имеющиеся сведения не позволяют считать безопасность ИИ главной темой саммита в целом.34

Как отличить соглашение от канала связи

Для вывода об обязательном сотрудничестве нужны опубликованные условия: какие системы и инциденты подпадают под правила, кто и в какие сроки должен сообщать о них, какие проверки проводятся до внедрения ИИ и как устанавливается соблюдение договорённостей. Не менее важны полномочия по исполнению правил и последствия нарушений.

Один из материалов называет канал уже согласованным, тогда как наиболее ясные сообщения о переговорах Бессента описывают американское предложение, которое ещё должны были рассмотреть лидеры.131 Даже подтверждение того, что канал создан и используется, доказало бы практическое взаимодействие, но не существование обязательного режима безопасности. Пока точнее говорить об управлении рисками соперничества с возможностью дальнейшего сотрудничества, а не о согласованных гарантиях безопасности ИИ.