Чому Ро Ханна вимагає від AI-компаній пояснити, як вони захищають ваги моделей

Ро Ханна попросив OpenAI, Anthropic, Google, Meta і SpaceX повідомити, чи відомі їм спроби Китаю або інших ворожих гравців отримати несанкціонований доступ до ваг їхніх моделей, а також описати заходи кіберзахисту. Його турбує, що викрадення таких параметрів може дати противнику саму модель — і потенційно послабити технологічну перевагу США та створити ризики для національної безпеки.713

Це запит про те, чи були такі спроби й наскільки добре компанії захищають свої розробки, а не твердження, що Китай уже викрав ваги цих моделей.1114

Крадіжка ваг — не те саме, що дистиляція

Ваги — це числові параметри, сформовані під час навчання моделі: вони визначають, як саме вона працює. Якщо їх викрасти, зловмисник може отримати можливість запустити копію моделі. Дистиляція відбувається інакше: розробник навчає власну модель на відповідях іншої, часто більшої чи потужнішої.717

Американські посадовці звинувачували китайські AI-компанії у використанні дистиляції, а OpenAI та Anthropic повідомляли про такі випадки. Водночас відомих випадків фактичного викрадення ваг значно менше. Отже, запит Ханни стосується іншого, більш прямого виду доступу до технології.617

Кібербезпека, конкуренція та правила

Для Ханни захист передових моделей — не лише питання інтелектуальної власності. Якщо інша держава або ворожа група отримає модель у своє розпорядження, це, на його думку, може зашкодити позиціям США в технологічному суперництві й мати наслідки для національної безпеки.46

Водночас Ханна виступає за домовленості між США та Китаєм щодо правил і запобіжників у сфері AI. Тут виникає складність: аналітики попереджають, що загострення конфлікту через звинувачення у копіюванні може ускладнити співпрацю з питань безпеки.2518

Чи достатньо добровільного нагляду?

Адміністрація Трампа робила ставку на добровільні заходи: зокрема, пропонувала розробникам передавати окремі передові моделі на урядове тестування з кібербезпеки до їхнього випуску. Паралельно Білий дім оголошував про зобов’язання компаній посилювати внутрішній контроль за своїми моделями.

Запит Ханни додає до цієї дискусії практичне питання: які саме захисні заходи компанії застосовують і чи повідомляли їм про спроби проникнення. Наявні повідомлення не доводять ані того, що добровільні перевірки запобігли б крадіжці ваг, ані того, що такі ваги в когось із п’яти компаній уже викрали.71113