Как создать международные правила безопасности ИИ, которым можно доверять

Разработчик может заявить, что его система искусственного интеллекта безопасна. Но для доверия к ней этого недостаточно: проверяющие должны получить возможность изучить доказательства, а у регулятора должны быть полномочия действовать, если проверка выявит проблемы. Министр цифрового развития и информации Сингапура Жозефин Тео сравнила эту задачу с авиацией, где доверие к повседневным полётам опирается на многоуровневую систему защиты. 36

Что взять из опыта авиации

Международные авиационные правила сложились не сразу. Сначала действовали национальные законы и двусторонние соглашения, затем появилась Парижская конвенция 1919 года. Чикагская конвенция 1944 года заложила новую основу сотрудничества; Международная организация гражданской авиации (ИКАО) начала работать в 1947 году. 313935 Для ИИ это довод в пользу постепенных договорённостей, а не попытки сразу написать исчерпывающий свод правил.

Возможное разделение обязанностей выглядит так: международная структура согласовывает минимальные требования, правила признания независимых испытателей и обмен данными об инцидентах. Национальные регуляторы проводят проверки, требуют устранить нарушения, ограничивают применение систем и назначают санкции. Международный сертификат при этом не заменяет надзор внутри страны.

Проверка не должна заканчиваться перед выпуском продукта. После запуска нужны наблюдение за работой системы, повторная оценка после существенных изменений и план её отката или вывода из эксплуатации. Одобрение должно относиться к определённой версии и условиям использования, а не ко всем будущим применениям модели.

Что именно проверять независимо

Одного значка «проверено» или результата публичного теста мало. Аккредитованному испытателю понадобился бы защищённый доступ к модели, настройкам её применения, документации и сведениям о значимых сбоях. Методика и выводы должны быть достаточно подробными, чтобы другой квалифицированный специалист мог их оспорить. При этом правила доступа обязаны защищать персональные данные, коммерческие секреты и сведения, раскрытие которых создаёт угрозы безопасности.

Для систем с высоким риском разработчик мог бы представлять обоснование безопасности: где и как будет работать система, какие испытания она прошла, какие меры защиты подтвердились, какие риски остались и что делать при инциденте. Если доказательств недостаточно, регулятор должен иметь возможность потребовать доработки или ограничить внедрение. Речь идёт о проверяемом соблюдении требований, а не о гарантии, что вред невозможен.

Независимость зависит и от финансирования. Крупные разработчики могли бы оплачивать испытания через общий фонд или сбор, которым распоряжается регулятор, — вместо того чтобы напрямую выбирать и контролировать тех, кто их оценивает. Расследования серьёзных сбоев и ситуаций, когда ущерба едва удалось избежать, должны помогать предотвращать повторение ошибок. Защита добросовестных сообщений об инцидентах не должна становиться оправданием сокрытия нарушений.

Роль Сингапура — возможная, но не гарантированная

Тео призывает развивать защитные меры одновременно с внедрением ИИ. В сообщениях о работе Сингапура также упоминаются инструментарий AI Verify и сингапурский Институт безопасности ИИ как основа для тестирования и подтверждения надёжности систем. 13 Страна могла бы принимать совместные испытания или закрытые технические обсуждения в рамках сети аккредитованных лабораторий.

Однако площадка не становится нейтральной автоматически. Чтобы ей доверяли и США, и Китай, потребовались бы прозрачное управление, защищённый доступ, независимый порядок обжалования и реальное участие обеих сторон. Сеть лабораторий в разных странах к тому же не делала бы всех зависимыми от одного центра.

Начать с общих угроз, а не со спора о «торможении» ИИ

Единого взгляда на темпы разработки нет. По данным Reuters, Дарио Амодеи, Сэм Альтман и Илон Маск выступали за согласованное замедление, Марк Цукерберг предпочитал меры, формируемые рынком, а Дженсен Хуанг отвергал необходимость нового регулирования. 4748 Китай отклонил призывы замедлить разработку. Президент США Дональд Трамп заявил, что не ожидает продвижения по ограничениям для ИИ на встрече с председателем КНР Си Цзиньпином 24 сентября; сообщения о саммите также указывали на низкие ожидания крупного прорыва. 585049

Тем не менее страны могут договариваться об отдельных опасностях, не соглашаясь по всем остальным вопросам. Американские и китайские эксперты по безопасности предлагали обозначить запретные границы для вмешательства ИИ в ядерные системы, сохранить контроль человека над кибератаками с серьёзными последствиями и создать линию связи для инцидентов с автономным ИИ. 20 Практическим началом могли бы стать экстренные контакты, уведомления о серьёзных происшествиях и взаимные технические консультации. Участие США и Китая важно, но другим странам тоже нужны право голоса при выработке стандартов и доступ к испытаниям.

Опыт контроля над вооружениями подсказывает принцип: сначала согласовывать узкие взаимные обязательства, исполнение которых можно проверить. Финансовый надзор предлагает другой принцип — сосредоточить наиболее строгие требования там, где последствия сбоя могут быть особенно велики. Для таких систем это могли бы быть независимая оценка, ответственность руководства, план восстановления и своевременные сообщения о серьёзных сбоях, значимых утечках данных, взломах и краже модели. Небольшим компаниям с низкорисковыми продуктами подойдут общая испытательная инфраструктура и более простая документация. Но малый размер компании не должен освобождать опасную систему от строгой проверки.

Международный договор и постоянный орган по ИИ к 2030 году — амбициозная цель, а не прогноз. Более надёжный первый показатель прогресса — смогут ли страны согласовать определения инцидентов, независимость проверяющих и взаимные меры предосторожности, а затем обеспечить регуляторам возможность действовать, когда доказательств безопасности не хватает.