Вкрасти модель чи скопіювати її відповіді: чому Ро Ханна питає AI-компанії про захист

Чому Ханна порушив це питання

Конгресмен-демократ Ро Ханна попросив OpenAI, Anthropic, Google, Meta та xAI повідомити про відомі спроби Китаю чи інших ворожих акторів незаконно отримати ваги їхніх моделей, а також описати кіберзаходи захисту. Йдеться не лише про те, чи можуть конкуренти відтворити окремі можливості моделей, а про те, чи здатні компанії вберегти самі моделі від викрадення.3

Це питання національної безпеки: викрадені ваги можуть дати зловмисникам копію моделі, яку можна використовувати поза сервісом її розробника. Водночас наявні повідомлення не встановлюють, що Китай успішно викрав ваги будь-якої з названих компаній.3

Крадіжка ваг — не те саме, що дистиляція

Ваги моделі — це набір параметрів, сформованих під час її навчання, які визначають, як вона обробляє запити й створює відповіді. Викрасти їх означає незаконно заволодіти цими внутрішніми даними.

Дистиляція — інший процес: розробники використовують відповіді вже наявної моделі, щоб навчити власну. OpenAI та Anthropic повідомляли про дистиляцію їхніх моделей китайськими компаніями, зокрема Moonshot і DeepSeek. Але це не означає, що ті отримали оригінальні ваги. У повідомленнях про крадіжки ваг відомих випадків небагато.3 Під час слухань Ханна також порушував питання про різницю між дистиляцією через запити до моделей і незаконним доступом до самих ваг.

Від добровільних обіцянок до обов’язкового нагляду

За адміністрації Трампа політика щодо провідних AI-компаній спирається на добровільні галузеві зобов’язання, зокрема аудит і внутрішні механізми контролю.9 Окремо адміністрація заявила, що в межах добровільної домовленості не проводитиме перевірки безпеки моделей із відкритими вагами.

Ханна просуває жорсткіший підхід: обов’язкові аудити моделей, посилений державний нагляд і угоду США з Китаєм, яку можна перевіряти та забезпечувати міжнародними механізмами контролю.2 Його запити до компаній ставлять практичне питання: чи достатньо їхніх власних заходів безпеки, щоб захистити найпотужніші моделі — і чи мають влада та суспільство спосіб це перевірити.

Доступні джерела не розкривають деталей внутрішніх кіберзахистів цих компаній і не підтверджують, чи були спроби проникнення, про які вони не повідомляли публічно.