Meta監視委員会、AI生成わいせつディープフェイクの削除を命令 〜一般ユーザー保護へ向けた政策転換を勧告

委員会がMetaに求めた主要な政策変更

委員会はこの個別事案の裁定を超え、Metaのコンテンツモデレーションの枠組みそのものを変えるよう、拘束力のあるものとないものを含む複数の勧告を行いました 。主な変更点は以下の通りです。

AIによるなりすましを「非同意デフォルト」として扱う

委員会は、性的文脈におけるAIによる人物なりすましは「原則として非同意」とみなすべきだと明言し、これをMetaの「成人性的搾取（Adult Sexual Exploitation）」ポリシーに追加するよう勧告しました 。これにより、被害者自身が「同意していないこと」を証明する負担から解放され、プラットフォーム側にそのようなコンテンツの有害性を認識する責任が生まれます 。

信頼できる連絡先による代理通報を認める

実務上の重要な変更として、委員会はユーザーが「連携アカウント（connected accounts）」、つまり信頼できる友人や家族を指定し、被害者に代わって非同意のわいせつ画像などを通報できる仕組みを導入するよう勧告しました 。これにより、被害者が自身で通報できない場合（内容に気づいていない、トラウマや恐怖からできない）の大きなギャップを解消します。

AI生成の性的画像に特化したグローバルな報告カテゴリを創設する

委員会は、現在はいじめや嫌がらせの規則の下に分類されているAI生成の非同意わいせつ画像について、専用のグローバルな報告カテゴリを設けるよう求めました 。これにより報告が容易になり、追跡も可能になります。

時代遅れの用語「侮蔑的な性的フォトショップ」を「非同意メディア」に更新する

委員会は、Metaが現在使用している「侮蔑的な性的フォトショップ（derogatory sexualized photoshop）」という表現が、AI時代の悪用の実態を反映しておらず不適切だと繰り返し批判してきました 。委員会は、作成方法ではなくコンテンツの「非同意性」を強調する、より明確で正確な用語への更新を求めています 。

コンテンツクレデンシャル（真正性証明）の大規模導入と検出機能の向上

別のAIコンテンツ関連事案で、委員会はメディアの出所や改変履歴を追跡する国際標準規格「C2PAコンテンツクレデンシャル」の採用など、AI生成コンテンツを特定するための拡張可能なツールの実装を求めました 。委員会は、Metaの現行システムがユーザー自身による自己申告に過度に依存し、特に動画や音声について堅牢な自動検出機能を欠いていると指摘しています 。

保護の焦点：一般ユーザー（非公人）のためのセーフティネット

本裁定の中心テーマは、著名人ではない一般の人々を保護する仕組みの欠如です。委員会は、性的ディープフェイクの標的となった非公人は、自ら非同意を証明しなければならない現行システムによって特に深刻な被害を受けると強調しました。著名人と違い、彼らには公的な可視性や組織的な支援が不足しているためです 。本事案もまさに、一般女性のAIわいせつなりすまし動画が、友人によって「非同意で評判を傷つけるもの」として報告されたものでした 。

ジェンダーに基づく被害への対応

委員会の裁定は、こうしたディープフェイクが特に女性や少女に不均衡な害をもたらすことを認識しています。自動検出の強化、立証責任の転換、より明確なポリシーを求める今回の動きは、ジェンダーに基づくオンライン上の虐待の体系的な性質に対処することを目的としています 。

Metaの今後の対応

Metaは、監視委員会の勧告に対して60日以内に回答する義務があります 。今回の特定動画の削除命令には拘束力がありますが、より広範な政策勧告には拘束力はなく、しかし大きな公的・ reputational な重みを持ちます 。今回の裁定は、2024年と2025年に委員会がMetaのディープフェイクポリシーを「支離滅裂だ」「十分に明確ではない」と批判した過去の決定を基礎としています 。