Зачем Ро Ханна потребовал от ИИ-компаний рассказать о попытках похитить веса моделей

Ро Ханна добивается от OpenAI, Anthropic, Google, Meta и xAI ответов на два практических вопроса: были ли известны попытки Китая или других недружественных субъектов незаконно получить веса их ИИ-моделей — и какие меры компании принимают, чтобы этого не допустить.3

Речь не только о защите коммерческой тайны. Веса — это параметры, сформированные при обучении модели; получив их, злоумышленник может запустить модель вне сервиса её разработчика. Тогда защита и ограничения, встроенные в сам сервис, могут не действовать. Поэтому Ханна рассматривает безопасность таких систем и как вопрос национальной безопасности.310

Кража модели и дистилляция — разные вещи

Кража весов означает незаконно получить сами параметры модели. Дистилляция — это когда разработчики обучают собственную модель на ответах другой: они используют её как источник примеров, но не забирают её исходные веса. Поэтому новая модель может перенять некоторые возможности или стиль ответов, но это не равнозначно получению оригинальной системы.310

OpenAI и Anthropic сообщали о случаях дистилляции с участием китайских компаний. Однако публикации указывают лишь на небольшое число известных случаев именно кражи весов. Следовательно, сообщения о дистилляции сами по себе не свидетельствуют, что веса моделей этих компаний были похищены. Доступные сведения не подтверждают успешную кражу весов какой-либо из названных в запросе компаний.310

Почему Ханна настаивает на проверках

Вопрос о защите весов вписывается в более широкий спор о том, кто должен устанавливать правила для передовых ИИ-систем. Администрация Дональда Трампа опирается на добровольные обязательства отрасли; отдельно Reuters сообщало, что администрация не собиралась проводить добровольные проверки безопасности моделей с открытыми весами.9

Ханна выступает за более жёсткий подход: обязательные проверки моделей до их выпуска, усиление государственного надзора и проверяемые международные договорённости по безопасности ИИ. Он также призывает к соглашению США и Китая с механизмами контроля и верификации.5 Его запрос к компаниям ставит вопрос ребром: можно ли считать отраслевые меры достаточными, если общественность не знает ни о попытках проникновения, ни о том, насколько надёжно защищены модели.

При этом из доступных источников нельзя установить, какие именно меры киберзащиты применяют компании, или были ли у них нераскрытые попытки взлома. Запрос Ханны направлен на то, чтобы получить эти сведения; сам по себе он не доказывает, что кража весов уже произошла.