Почему Ро Кханна потребовал от OpenAI и других ИИ-компаний рассказать о попытках кражи моделей

Ро Кханна попросил OpenAI, Anthropic, Google, Meta и SpaceX сообщить, известны ли им попытки Китая или других недружественных акторов незаконно получить веса их ИИ-моделей, а также описать, как компании защищают эти данные. Его беспокоит, что кража весов могла бы дать злоумышленнику доступ к самой модели, ослабить преимущество США в гонке ИИ и создать риски для национальной безопасности.47

Это запрос информации, а не заявление о том, что Китай уже похитил модели этих компаний. Публикации о теме отмечают, что подтверждённых случаев реальной кражи весов известно мало.6

Кража модели — не то же самое, что дистилляция

Веса — это числовые параметры, сформированные в ходе обучения модели. Если получить их, можно запускать копию этой модели. При дистилляции происходит другое: разработчики обучают собственную модель, используя ответы более крупной системы. Это может помочь перенести часть её возможностей, но не означает, что исходные веса были украдены.717

Американские официальные лица обвиняли китайские ИИ-компании в дистилляции моделей США; OpenAI и Anthropic также сообщали о таких случаях. Но сообщения о дистилляции не доказывают кражу самих весов.617

Почему вопрос важен для безопасности и конкуренции

С точки зрения Кханны, защита весов — одновременно задача кибербезопасности и способ не допустить бесконтрольного распространения мощных ИИ-возможностей. Он предупреждал, что утечка могла бы подорвать лидерство США и представлять угрозу национальной безопасности.4

При этом Кханна выступает и за международные правила безопасности ИИ. Он призывал США и Китай договориться о совместных мерах и проверяемых стандартах, чтобы снижать общие риски, связанные с развитием мощных моделей.25 Аналитики предупреждали, что обострение конфликта вокруг предполагаемого копирования технологий может затруднить такое сотрудничество.18

Где возникает спор о добровольных мерах

Администрация Трампа заявляла о намерении предложить разработчикам добровольно передавать некоторые продвинутые модели на проверку кибербезопасности до их выпуска. В то же время запрос Кханны требует от компаний раскрыть, какие попытки доступа им известны и как устроена их собственная защита.7

Однако имеющиеся сообщения не показывают, что добровольные проверки способны предотвратить кражу весов. И сам запрос конгрессмена не подтверждает, что веса какой-либо из пяти компаний уже были похищены.6