Metaの広告審査に問われる実効性――疑いのあるAI生成児童性的虐待広告332件

米国の非営利団体Tech Transparency Project（TTP）は9月8日、MetaのFacebookとInstagramで、AI生成またはAI加工が疑われる児童性的虐待素材（CSAM）を含む有料広告332件が、2025年11月から2026年8月に配信されたと報告した。広告は複数地域で延べ2万9,000人超に到達したとされる。ただしTTPは、公開されているMeta広告ライブラリのデータだけでは、特に地域別の開示対象外となる国・地域での配信実態を完全には把握できないとしている。69

問題は「投稿」ではなく、有料広告だったこと

今回の焦点は、有害な投稿がプラットフォーム上に存在したというだけではない。TTPが確認したのは広告費が支払われた広告であり、広告の入稿・審査・配信というMetaの広告システムを経たとみられる点にある。

TTPによれば、広告には子どもを性的に扱うAI生成・AI加工画像が使われ、「nudify」やディープフェイク型のアプリを宣伝するものが多かった。一部は実在する子どもの写真を加工したように見え、欧州王室の未成年者を写した写真が使われたとされる例もあった。910

広告はEUと英国、米国、インド、オーストラリアで確認された。TTPの調査を報じた記事では、インド向けが84件、オーストラリア向けが120件で、最も多く確認されたのはEU・英国だったとされる。112

TTPは、多くの広告をAIアプリ開発者やMetaの中国における広告販売代理店ネットワークに結び付けた。報告書ではGIMCやBlueFocusなどのリセラーが挙げられ、他の報道でも、広告の多くが「nudify」アプリを宣伝していたと伝えられている。96

審査と違反分類に浮かぶ課題

TTPは、広告内容の多くが、曖昧な表現で巧妙に隠されたものではなく、比較的明白だったと主張する。そのため、広告クリエイティブの審査と広告主への監督の双方に問題があると指摘した。

さらにTTPによると、Metaは削除済みの広告113件を当初、成人向け性的コンテンツや一般的なポリシー違反として分類していたが、TTPから指摘を受けた後、児童搾取に関する分類へ変更したという。9

この分類は単なる表示上の問題ではない。禁止される広告が一貫して児童搾取として扱われなければ、公開される削除データから問題の規模や性質を正確に読み取れなくなる可能性がある、とTTPは指摘している。9

Metaの説明と削除対応

Metaの広報担当者アンディ・ストーン氏は、同社は「nudifyアプリと、実写かAI生成かを問わないあらゆる児童搾取」を禁じていると説明した。違反者は取り締まりを逃れるために手口を変え続けるため、検出と執行を改善し続ける必要があるとも述べた。3

Metaは、多くの広告は到達規模が限られていたこと、一部は外部からの指摘前に停止されていたこと、また一部はAI関連の違反広告を入稿時に検出・阻止する新しいツールの導入前に掲載されていたことも説明している。11

TTPによれば、Metaは9月1日時点で332件中183件を削除していた。その後、TTPが9月2日に調査結果を共有すると、Metaは残る149件を削除し、113件の違反分類も児童搾取に関するものへ変更したという。9

ただしTTPは、その後数日間にも類似広告が表示され続け、欧州王室の未成年者に関する例も確認されたとしている。特定済み広告の削除は進んだ一方、入稿・審査プロセスそのものの問題が解消したことを意味するわけではない。9

各国で強まる監視と説明要求

この報告は、若年利用者の安全やプラットフォーム責任をめぐるMetaへの監視が強まる中で公表された。TTPは、若者への悪影響をめぐる米州司法長官らとの最大180億ドル規模の和解可能性にも触れている。9

マーク・ワーナー米上院議員はこれに先立ち、搾取的な広告がなぜMetaのシステムを通過したのかを問いただした。また、公開広告ライブラリには問題の広告を利用者が通報する仕組みがないことも指摘している。17

インドでは、Metaプラットフォーム上の有料広告がCSAMへのアクセスを促進・容易にしたとの報道を受け、国家人権委員会（NHRC）が政府省庁と警察に回答を求めた。2218

TTPはNCMECに通報

TTPは、調査で特定した広告をすべて、米国の全米行方不明・被搾取児童センター（NCMEC）に通報し、CyberTiplineも利用したとしている。オンライン上の児童搾取が疑われる情報は、NCMECによる評価を経て、必要に応じて法執行機関へ送られることがある。93

この事案が示すのは、AI悪用への対策を、公開後のコンテンツ削除だけに頼れないという点だ。有料広告では、広告主の本人確認、クリエイティブの事前審査、自動検出、適切な違反分類、問題発覚時の迅速な対応が、被害を広げないための重要な防波堤となる。