MetaがAI生成の児童性的虐待画像を含む有料広告を9ヶ月間にわたり配信

Tech Transparency Project（TTP）は独自に、Meta自身の公開広告ライブラリ内で、2025年11月から2026年8月にかけて掲載された50以上の画像・動画広告を特定した。これらの広告の一部は、非同意の性的画像を生成するいわゆる「ヌーディファイ」アプリへリンクしていた。これらの広告は、米国、英国、および欧州の十数カ国にわたる数千のアカウントにリーチしていたとされる。

Metaのシステムがなぜ見逃したのか

Metaの広告基準は、CSAMを含む広告やヌーディファイアプリを宣伝する広告を明確に禁止している。にもかかわらず、これらの広告はMeta自身の透明性ツールを用いて発見された。TTPの研究者は、一部の広告がMetaの承認済み広告パートナーである北京拠点のGatherOne Inc.に関連していることを突き止めた。同社はAIヌーディファイアプリ向けに、FacebookとInstagram全体で約7,600件の広告を出稿していた。TTPはGatherOneに関連する210のFacebookページを特定し、そのうち85ページが報告時点でも依然としてアクティブであった。

Metaは後に、これらの広告のほとんどはリーチが最小限であり、レビュー後に無効化されたと説明。その原因を、新しいAIモデレーションツールに先行する旧式の検出システムに帰した。

インド政府の迅速な規制対応

インド政府はこの暴露に対して迅速かつ厳しく対応した。BBC Eyeの別の調査により、Instagramが「レイプ動画」「子供動画」といった検索用語を用いてCSAMを宣伝する有料広告を配信し、Telegramチャンネルへ誘導していたことが明らかになったことを受け、インド電子情報技術省（MeitY）は複数の措置を講じた。

• IT大臣アシュウィニ・ヴァイシュナウ氏は、Metaを召喚して正式な説明を求めるようMeitYに指示。
• MeitYは正式な通知を発出し、Metaに対し、児童性的搾取・虐待コンテンツ（CSEAM）を促進・アクセス可能にするInstagram上の広告およびコンテンツを直ちに無効化するよう命令。
• Metaには7日間の猶予が与えられ、詳細な説明を行わなければ、インドのIT法およびPOCSO法に基づく法的措置（罰金や訴追を含む）の可能性に直面することとなった。
• 政府は特に、Metaがどのようにして自社の広告審査システムでこうしたコンテンツを通過させ、有料配信を許可したのかについて、説明を要求した。

EUの先見的な禁止措置

EUの規制対応は、これらの広告に対するMetaへの個別の執行措置ではなく、構造的・立法措置であった。EU AI Actには、2026年12月2日より、CSAMの生成そのものを禁止する新たな条項が盛り込まれた。これは、WIREDの報告で明らかになったようなAI生成の虐待画像を直接的に標的にしたものである。

AI Actはまた、AIツールの導入者・提供者に対し、安全性と透明性を確保する義務を課し、AI生成コンテンツを識別可能にすることを要求している。別件では、欧州委員会はすでに2025年4月、Metaの「同意か支払いか」広告モデルがデジタル市場法に違反しているとして、Metaに2億ユーロの制裁金を科しているが、この措置はCSAMに直接関連するものではない。

この事件が意味するもの

二つの調査結果は、Metaの広告審査インフラにおける体系的な欠陥を明らかにしている。明確なポリシーが存在するにもかかわらず、AI生成のCSAMが複数のプラットフォームで数ヶ月にわたってすり抜けていたのだ。インド政府の迅速な対応——7日間の最終通告——は、プラットフォームの自主規制に対する各国政府の焦燥感の高まりを示している。一方、EUの禁止措置は、CSAMの配信だけでなく生成そのものを違法とする世界的な先例を打ち立てるものとなっている。