AIで作られたなりすまし動画は、露骨な性的表現や選挙に関する偽情報でなくても、人を傷つけ得る。Metaの独立した監督委員会（Oversight Board）は2026年9月17日に公表した2件の判断で、有害な合成メディアへのMetaの対策は「一貫して根本的に不十分」だと結論づけた。委員会は、Facebook上に残されていた女性を標的とする2本の動画について、Metaの判断を覆し、削除を命じた。111

2件に共通した問題――欺き、嘲笑、敵意を生むAI偽動画

対象者も加工の内容も異なる2件だが、結論は同じだった。Metaのモデレーションと表示ラベルの仕組みでは、女性を欺いたり、笑いものにしたり、敵意をあおったりする目的で使われるAI生成コンテンツに十分対応できていない、ということだ。

1件目は、スコットランドの労働党地方議員の肖像を使い、難民について扇動的な発言をしたように見せたFacebook動画である。監督委は、難民という集団に重大な犯罪的・略奪的な行為を帰属させる内容であり、Metaのヘイトスピーチ規則に基づき削除すべきだと判断した。Metaは当初、この投稿を残していた。1

もう1件は、月経衛生の教育活動に参加していた若いムスリム女性を描いたAI生成動画だ。動画は、彼女が健康に関する助言をしているように偽装する一方、嘲笑を誘う行動をさせていた。監督委は、これは描かれた女性へのいじめに当たるとして削除を求めた。1113

性的表現がなくても、女性を公の場から遠ざける手段になる

リアルに見える偽動画の被害は、性的な内容に限られない。

地方政治家の場合、発していない言葉を発したように見せられれば、信頼を失い、反発や攻撃の対象になるおそれがある。今回の地方議員の事例では、難民に対する憎悪をあおる主張も埋め込まれており、視聴者を欺くだけでなく、保護されるべき集団にも害を及ぼす内容だった。1

地域で活動する啓発ボランティアの場合も、偽動画は本人の顔や公的な役割を嘲笑の材料に変えられる。ムスリム女性の事例は、合成メディアが女性の専門性や発言力を損ない、容姿をめぐる中傷を呼び込むために使われ得ることを示す。投稿を取り巻く敵意には、宗教に関わる側面もあった。11

監督委がより広く懸念するのは、政治家、活動家など人前に立つ女性、とりわけ全国的に著名ではなく十分な支援資源を持たない人々が、安価なAIツールによって容易に作成・拡散できる説得力のあるなりすましの標的になりやすい点だ。問題は著名人や選挙期間中の偽情報だけにとどまらない。113

問題は削除漏れだけではなかった

監督委の批判は、2本の投稿を見逃したという個別の失敗にとどまらない。

地方議員の事例では、通報が優先的な人手レビューにつながらなかった。さらにMetaは、監督委が介入するまで、その動画は規則違反ではなく、AI生成であることを示すラベルも不要だとの立場を維持していた。1

2件の判断を通じて監督委は、有害なAIコンテンツの検知、通報の審査経路、虐待行為の定義、視聴者へのリスク表示に欠陥があると指摘した。ある投稿が特定の人物への嫌がらせや集団への敵意を促すために使われている場合、ラベルを付けるだけでは不十分であり、削除が適切な対応となることがある。111

監督委がMetaに求めた対策

削除しない加工コンテンツについて、監督委はMetaの「高リスクAI」ラベルを強化するよう求めた。提言には、選挙や危機の場面に限らずラベル適用の基準を下げること、閲覧前に注意喚起画面を表示すること、有害な合成メディアの拡散や収益化を抑えることが含まれる。加えて、こうした投稿を繰り返し共有するアカウントへの措置を強め、AIラベルの運用に関する情報を、より透明で検索可能な形にするよう促した。1

また、改変・AI生成コンテンツであることを投稿者自身がラベル付けしなかった場合に、どのような不利益があるのかを明確にすべきだという従来の提言も改めて示した。1

個別事例における削除命令はMetaを拘束する。一方、より広範な政策提言は自動的に拘束力を持つものではなく、Metaは60日以内に回答することが見込まれている。1

選挙偽情報だけではない、合成メディアのリスク

今回の判断は、AIを使った虐待や、同意なく性的な画像を作成できる「ヌーディファイ」ツールの広告をめぐる監視が強まる時期に出された。こうした背景は、監督委の中心的な指摘を補強する。合成メディアのリスクは、選挙をめぐる欺瞞だけではない。

他人の評判を傷つけ、憎悪を増幅し、同意なく性的に扱い、女性が公的な場で発言・活動することをためらわせる手段にもなり得る。

プラットフォームに問われているのは、AI生成の投稿が本物らしく見えるかどうかだけではない。改変された描写が現実の被害を生むために使われていることを、運用システムが見抜き、投稿の拡散が進む前に対応できるかどうかである。

AIで作られたなりすまし動画は、露骨な性的表現や選挙に関する偽情報でなくても、人を傷つけ得る。Metaの独立した監督委員会（Oversight Board）は2026年9月17日に公表した2件の判断で、有害な合成メディアへのMetaの対策は「一貫して根本的に不十分」だと結論づけた。委員会は、Facebook上に残されていた女性を標的とする2本の動画について、Metaの判断を覆し、削除を命じた。111

2件に共通した問題――欺き、嘲笑、敵意を生むAI偽動画

対象者も加工の内容も異なる2件だが、結論は同じだった。Metaのモデレーションと表示ラベルの仕組みでは、女性を欺いたり、笑いものにしたり、敵意をあおったりする目的で使われるAI生成コンテンツに十分対応できていない、ということだ。

1件目は、スコットランドの労働党地方議員の肖像を使い、難民について扇動的な発言をしたように見せたFacebook動画である。監督委は、難民という集団に重大な犯罪的・略奪的な行為を帰属させる内容であり、Metaのヘイトスピーチ規則に基づき削除すべきだと判断した。Metaは当初、この投稿を残していた。1

もう1件は、月経衛生の教育活動に参加していた若いムスリム女性を描いたAI生成動画だ。動画は、彼女が健康に関する助言をしているように偽装する一方、嘲笑を誘う行動をさせていた。監督委は、これは描かれた女性へのいじめに当たるとして削除を求めた。1113

性的表現がなくても、女性を公の場から遠ざける手段になる

リアルに見える偽動画の被害は、性的な内容に限られない。

地方政治家の場合、発していない言葉を発したように見せられれば、信頼を失い、反発や攻撃の対象になるおそれがある。今回の地方議員の事例では、難民に対する憎悪をあおる主張も埋め込まれており、視聴者を欺くだけでなく、保護されるべき集団にも害を及ぼす内容だった。1

地域で活動する啓発ボランティアの場合も、偽動画は本人の顔や公的な役割を嘲笑の材料に変えられる。ムスリム女性の事例は、合成メディアが女性の専門性や発言力を損ない、容姿をめぐる中傷を呼び込むために使われ得ることを示す。投稿を取り巻く敵意には、宗教に関わる側面もあった。11

監督委がより広く懸念するのは、政治家、活動家など人前に立つ女性、とりわけ全国的に著名ではなく十分な支援資源を持たない人々が、安価なAIツールによって容易に作成・拡散できる説得力のあるなりすましの標的になりやすい点だ。問題は著名人や選挙期間中の偽情報だけにとどまらない。113

問題は削除漏れだけではなかった

監督委の批判は、2本の投稿を見逃したという個別の失敗にとどまらない。

地方議員の事例では、通報が優先的な人手レビューにつながらなかった。さらにMetaは、監督委が介入するまで、その動画は規則違反ではなく、AI生成であることを示すラベルも不要だとの立場を維持していた。1

2件の判断を通じて監督委は、有害なAIコンテンツの検知、通報の審査経路、虐待行為の定義、視聴者へのリスク表示に欠陥があると指摘した。ある投稿が特定の人物への嫌がらせや集団への敵意を促すために使われている場合、ラベルを付けるだけでは不十分であり、削除が適切な対応となることがある。111

監督委がMetaに求めた対策

削除しない加工コンテンツについて、監督委はMetaの「高リスクAI」ラベルを強化するよう求めた。提言には、選挙や危機の場面に限らずラベル適用の基準を下げること、閲覧前に注意喚起画面を表示すること、有害な合成メディアの拡散や収益化を抑えることが含まれる。加えて、こうした投稿を繰り返し共有するアカウントへの措置を強め、AIラベルの運用に関する情報を、より透明で検索可能な形にするよう促した。1

また、改変・AI生成コンテンツであることを投稿者自身がラベル付けしなかった場合に、どのような不利益があるのかを明確にすべきだという従来の提言も改めて示した。1

個別事例における削除命令はMetaを拘束する。一方、より広範な政策提言は自動的に拘束力を持つものではなく、Metaは60日以内に回答することが見込まれている。1

選挙偽情報だけではない、合成メディアのリスク

今回の判断は、AIを使った虐待や、同意なく性的な画像を作成できる「ヌーディファイ」ツールの広告をめぐる監視が強まる時期に出された。こうした背景は、監督委の中心的な指摘を補強する。合成メディアのリスクは、選挙をめぐる欺瞞だけではない。

他人の評判を傷つけ、憎悪を増幅し、同意なく性的に扱い、女性が公的な場で発言・活動することをためらわせる手段にもなり得る。

プラットフォームに問われているのは、AI生成の投稿が本物らしく見えるかどうかだけではない。改変された描写が現実の被害を生むために使われていることを、運用システムが見抜き、投稿の拡散が進む前に対応できるかどうかである。