画像を生成せずにCSAMモデルを見抜く新手法──MITらが開発した「ガウシアン・プロービング」とは

MIT（マサチューセッツ工科大学）、ボストン大学、そして子ども安全の非営利団体Thornの研究者らは、ガウシアン・プロービング（Gaussian probing） と呼ばれる新しい技術を開発しました。この手法は、生成AIモデルがCSAM（児童性的虐待素材）を生成するようにファインチューニングされているかどうかを、画像を1枚も生成することなく判定できるものです。この研究成果は、国際機械学習会議（ICML）内のワークショップ「Trustworthy AI for Good」でスポットライト論文として発表され、AIの安全性監査における大きな進歩と位置づけられています。

ガウシアン・プロービングとは何か？

ガウシアン・プロービングは、生成AIモデルがファインチューニングによってCSAM生成に特化しているかを検出する、非生成型の監査手法です。特に注目するのはLow-Rank Adaptation（LoRA） です。LoRAは、Stable Diffusionのようなベースモデルを、モデル全体を再学習することなく特定のタスクに特化させるための、効率的で広く使われているファインチューニング手法です。残念ながら、悪意のあるユーザーはこのLoRAアダプターを悪用し、高品質なCSAMを生成できるモデルを作り出しています。

この手法は、適応後のモデルが「何を出力するか」を問うのではなく、アダプターがモデルの内部的な応答プロファイルを、拡散プロセスが本来持つガウシアン状態空間上でどのように変化させるかを問います。

どのように動作するのか？

この手法は、LoRAアダプターがモデルの内部表現をどのように機能的に摂動させるかを測定します。具体的には、ランダムなガウシアン潜在状態（ノイズ）の基準セットをモデルの拡散プロセスに入力し、隠れ層の活性化がどのように変化するかを観察します。

核となる数学的オブジェクトは「探索関数（probe functional）」です。これは、一連のガウシアンノイズ入力に対する拡散タイムステップ全体での平均的な隠れ表現を計算し、それらを集約してアダプターの効果を特徴づける特徴ベクトルを生成します。その後、これらの特徴ベクトルを使って、有害な（CSAM特化の）アダプターと無害なアダプターを区別する分類器が訓練されます。

主著者であるMITの大学院生Vinith Suriyakumar氏は次のように説明しています。「これまで、これを測定する方法はありませんでした。一部の悪意ある人々に利用されている大きな盲点だったのです」。

テストでは100%の精度

テストにおいて、ガウシアン・プロービングはCSAM生成に特化したモデルバリエーションを100%の精度で識別しました。研究者らは、この手法が無害な特化と有害な特化を確実に区別できることを確認しました。これは、単なる訓練時の偶発的なアーティファクトに依存する可能性がある、生の重みに基づくベースライン手法とは対照的です。

この手法は現実的な制約下でも効果を発揮し、Hugging FaceやCivitaiのようにユーザーがLoRAアダプターをアップロードするプラットフォームで大規模に展開できる可能性を示しています。

この研究は、MITのVinith Suriyakumar大学院生、Ashia Wilson准教授、Marzyeh Ghassemi准教授、そしてThornのRebecca Portnoff博士を含む研究者らによる共同作業です。

ガウシアン・プロービングが解決する法的パラドックス

標準的なAI安全性監査は、モデルに有害な入力を与え、その出力を検査するという単純なプロセスに依存しています。しかしCSAMの場合、これは法的に不可能です。米国では、目的の如何を問わず、そのようなコンテンツを生成すること自体が違法だからです。

ガウシアン・プロービングは、出力画像を一切生成することなく、内部活性化のみに基づいてモデルのCSAM生成能力を評価することで、このパラドックスを解決します。MITの発表によれば、「この手法は、モデルがCSAMでファインチューニングされた際に内部の仕組みがどのように変化するかを調べます。画像を見る必要はありません」。

また、この方法は安全性研究者をトラウマとなるような素材にさらすという倫理的問題も回避します。テスト中にCSAM画像を一切閲覧する必要がないからです。

深刻化するAI生成CSAMの危機

この技術が開発された背景には、AI生成CSAMの爆発的な増加があります。信頼できる情報源からの主な統計は以下の通りです。

• NCMEC（全米行方不明・被搾取児童センター） は、2025年に150万件を超えるAI生成CSAMの報告を受けました。これは2024年通年の6万7000件から劇的に増加しており、前年比で約22倍に相当します。
• 2025年上半期だけで、NCMECは48万5000件のAI関連CSAM報告を受け、約35のテック企業がそのような素材を報告するようになりました。
• インターネット・ウォッチ財団（IWF） は、2025年に8,029件のAI生成画像と動画が実際の児童性的虐待を描写していると評価しました。AI生成CSAMは依然として報告全体に占める割合は比較的小さいものの、規模、洗練度、入手しやすさにおいて「広範かつ拡大しつつある」とされています。
• 欧州議会は、2025年にAI生成CSAMが「途方もなく増加」したと指摘し、その主要なベクターとしてオープンソースのテキスト・画像生成モデルを挙げています。
• NCMECは、2023年から2024年の間に、生成AIに関連する報告が1,325%増加したと報告しています。

リアルなフルモーションのAI生成動画コンテンツも一般的になっています。2025年、IWFは3,443件のAI生成児童性的虐待動画を特定し、そのうち65%が英国法で最も深刻な素材とされるカテゴリーAに分類されました。

AI安全性と児童保護への影響

ガウシアン・プロービングは、AI安全性ツールキットにおける重要なギャップを埋めるものです。現在、AI生成CSAMに対する防御策は主に入力フィルタリング、出力フィルタリング、そして訓練データのスクリーニングに依存しています。しかし、研究が示すように、「フィルタリングが完璧であっても、ファインチューニングによってコンセプトを再導入することは可能」であり、現在のフィルタリング手法は「クローズドウェイトモデルには限定的な保護を、オープンウェイトモデルには全く保護を提供しない」のです。

この手法により、有害なファインチューニングモデルが広く流通する前に検出できるようになれば、Hugging FaceやCivitaiといったプラットフォームは、違法なコンテンツ生成に頼ることなく、アップロードされたLoRAアダプターをスクリーニングできるようになります。

今のところ、この技術は、生成自体が法的に制限されている高リスク領域において、モデルの安全性を評価するための、スケーラブルで非生成型の代替手段を提供します。AI生成CSAMの危機が加速する中で、この分野が切実に必要としていたツールです。