AIモデルの重み盗難と「蒸留」は何が違うのか

ロー・カンナ議員がOpenAI、Anthropic、Google、Meta、xAIに情報開示を求めたのは、競合企業がAIの回答をまねできるかどうかだけでなく、モデルの中核部分そのものが敵対的な主体の手に渡る危険を把握するためです。報道によると、同議員は中国などによるモデルの重みへの不正アクセスの試みや、各社のサイバーセキュリティ対策について説明を求めました。3

「重みの窃取」と「蒸留」は別の話

モデルの重みとは、AIが学習を通じて得た膨大なパラメーターで、モデルの動作を形づくる中核部分です。重みを盗むことは、その内部データを不正に入手することを意味します。3

一方、蒸留は、既存モデルに質問して得た回答を使い、別のモデルを訓練する方法です。出力を手がかりに似た機能のモデルを作ることはできますが、それだけで元モデルの重みが手に入るわけではありません。

OpenAIとAnthropicは、中国企業が自社モデルの出力を使って蒸留を行った事例を報告しています。しかし、重みそのものを盗まれたと確認された事例は少ないと報じられています。したがって、蒸留の報告をそのまま「モデルの重みが盗まれた証拠」と見なすことはできません。3

なぜ重みを守ることが安全保障につながるのか

重みが流出すれば、取得した側が開発元のサービスを介さずにモデルを動かしたり、複製したりできる可能性があります。つまり、懸念は知的財産や技術競争にとどまらず、強力なAIの利用を誰がどのように管理できるのかにも及びます。カンナ議員は以前の議会でのやり取りでも、モデルへの問い合わせを通じた蒸留と、重みを守る問題を区別して取り上げていました。

ただし、今回の情報からは、質問に挙げられた企業の重みが中国に盗まれたと確認できるわけではありません。また、各社が実際にどのような対策を講じているか、あるいは公表されていない侵入の試みがあったかも、ここで参照できる情報だけでは確定できません。3

自主基準か、政府による監督か

トランプ政権下では、企業の自主的な安全対策を重視する枠組みが進められています。政権は、自主的な検査の取り決めではオープンウェイト型モデルを安全性評価の対象にしない方針を示したと報じられました。 また、政権と大手AI企業は、外部監査や社内管理策などを含む自主的な取り組みを掲げています。9

これに対しカンナ議員は、モデル公開前の監査を義務づけることや、政府による監督を強めることを主張しています。さらに、米中間で検査や検証の仕組みを備えたAI安全の合意を結ぶよう求めています。2

企業の自主策を信頼できるか、それとも法的な義務や政府の監督が必要か。情報開示の要求は、AIの開発競争をどう管理し、安全保障上のリスクにどう備えるかという、より大きな政策論争の一部です。