明確なポリシー違反。 ISDの報告書は、これらの調査結果が「性的に露骨なコンテンツ」を禁止するYouTube自身のポリシーと「直接相反する」と明確に指摘しています。研究者らは、これらのポリシーに違反するコンテンツが「容易に発見可能でアクセス可能」な状態であり、事実上プラットフォームを虐待の入り口に変えてしまっていると述べています 。ISDの調査・政策担当シニアディレクター、メラニー・スミス氏は、「YouTubeは受動的な参照トラフィック源だったというだけではない。多くのケースで、これらのツールの使用を積極的に促進していた」と述べ、既存のポリシーの執行が包括的ではないと指摘しています 。
Xと検索エンジン。 2025年のISDの報告書では、XがSIIAツールのキーワードに関する全言及数のうち、289,660件(410,592件中)を占め、これは全アクティビティの70%以上に相当し、その多くがボットによるものだったことが記録されています 。さらに、Google、Yahoo、Bingで「deepnude(ディープヌード)」「nudify(ヌーディファイ)」「undress app(服を脱がせるアプリ)」などの用語を検索するだけで、最初の20件の検索結果の中にSIIAツールへの直接リンクが表示されました。Bingでは、これら3つのクエリすべてにおいて、そのようなツールが最初の検索結果として表示されました 。
ISDの報告書は、これらのツールが蔓延する経済的要因を浮き彫りにしています。
加害者側の価格。 ヌーディフィケーションツールは、ユーザーがわずか**1画像あたり約150円(1ドル)**で性的なコンテンツを生成することを可能にしており、幅広い加害者にとってアクセスしやすいものとなっています 。
プラットフォーム側の収益。 報告書で引用されているWIREDの調査では、これらのプラットフォームが年間最大**約54億円(3600万ドル)**の収益を生み出していると推定されています 。この儲かるビジネスモデルは、事業者にとって自社サービスを簡単に見つけられる状態にしておく強い経済的インセンティブを生み出しています。
この調査では、誰がどのような理由で標的にされているのかが詳細に明らかにされており、純粋に性的な動機を超えたパターンが明らかになっています。
主な被害者。 ISDは、一般的な標的に現在または元の恋人、そして驚くべきことに姉妹やいとこなどの親族が含まれていることを明らかにしました 。オックスフォード・インターネット研究所の2025年の調査によると、公開されている約35,000のディープフェイクモデルバリアントのうち、96%が女性を標的にしていました 。ディープフェイク関連の事件は、世界中の90校以上の学校で報告されています 。
非性的動機。 この虐待の動機は必ずしも性的なものではありません。スミス氏は、「多くのリクエストは、人々を職場から解雇させ、悪意のある方法で生計を脅かすことに関するものだった」と述べています 。風評被害や職業上の害を目的としたディープフェイクの悪用は、特に陰湿な画像ベースの虐待の一形態です。
問題の深刻さは、連邦政府と州レベルの両方で多層的な立法対応を促しています。
連邦:Take It Down Act(テイク・イット・ダウン法)。 2025年5月に署名され成立したこの法律(正式名称:Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act)は、非同意の親密な画像を故意に公開したり、公開すると脅迫したりすることを連邦犯罪としました 。そのプラットフォーム遵守要件は、2026年5月19日に完全に施行されました 。ソーシャルメディアやメッセージングアプリを含む対象プラットフォームは、被害者が非同意の親密な画像(NCII)の削除をリクエストするためのプロセスを提供し、有効なリクエストを受け取った場合、48時間以内にコンテンツを削除することが義務付けられています。違反した場合、連邦取引委員会(FTC)による執行措置の対象となります 。
州レベル:ミネソタ州、全米初のヌーディフィケーション禁止法。 ミネソタ州は、「ヌーディフィケーション」技術を特に対象とした法律を可決した全米最初の州となりました 。2026年8月1日に発効するこの法律は、ウェブサイト、アプリケーション、またはソフトウェアを所有または管理する者が、ユーザーによるヌーディフィケーション技術へのアクセス、ダウンロード、または使用を許可することを禁止しています 。また、被害者が加害者に対して民事訴訟を起こすことも認めています 。この法案は、州上院での全会一致(65対0)を含む圧倒的な超党派の支持を得て可決されました 。違反した企業は、違反1件につき最大**約7200万円(50万ドル)**の民事罰に直面する可能性があります 。
プラットフォームの対応と執行のギャップ。 2026年1月、Xは、自社のAIチャットボット「Grok」が2025年12月の9日間で、少なくとも23,000件の子供の性的画像と180万件の女性の性的画像を生成するために使用されたとの報告を受け、大きな批判に直面しました 。Xはその後、Grokへのアクセスを有料ユーザーに制限しました 。ISDの報告書は、より強力なプラットフォーム規制や学校でのデジタルリテラシープログラムを含む、協調的でシステム全体にわたる対応を求めています 。また、報告書は執行のギャップに関する広範な懸念にも言及しています。YouTubeのポリシーは、性的に露骨なコンテンツへのリンクを名目上禁止していますが、ISDはこれらのルールが包括的に執行されておらず、プラットフォームが依然として主要な入り口であり続けることを許していると指摘しています 。
明確なポリシー違反。 ISDの報告書は、これらの調査結果が「性的に露骨なコンテンツ」を禁止するYouTube自身のポリシーと「直接相反する」と明確に指摘しています。研究者らは、これらのポリシーに違反するコンテンツが「容易に発見可能でアクセス可能」な状態であり、事実上プラットフォームを虐待の入り口に変えてしまっていると述べています 。ISDの調査・政策担当シニアディレクター、メラニー・スミス氏は、「YouTubeは受動的な参照トラフィック源だったというだけではない。多くのケースで、これらのツールの使用を積極的に促進していた」と述べ、既存のポリシーの執行が包括的ではないと指摘しています 。
Xと検索エンジン。 2025年のISDの報告書では、XがSIIAツールのキーワードに関する全言及数のうち、289,660件(410,592件中)を占め、これは全アクティビティの70%以上に相当し、その多くがボットによるものだったことが記録されています 。さらに、Google、Yahoo、Bingで「deepnude(ディープヌード)」「nudify(ヌーディファイ)」「undress app(服を脱がせるアプリ)」などの用語を検索するだけで、最初の20件の検索結果の中にSIIAツールへの直接リンクが表示されました。Bingでは、これら3つのクエリすべてにおいて、そのようなツールが最初の検索結果として表示されました 。
ISDの報告書は、これらのツールが蔓延する経済的要因を浮き彫りにしています。
加害者側の価格。 ヌーディフィケーションツールは、ユーザーがわずか**1画像あたり約150円(1ドル)**で性的なコンテンツを生成することを可能にしており、幅広い加害者にとってアクセスしやすいものとなっています 。
プラットフォーム側の収益。 報告書で引用されているWIREDの調査では、これらのプラットフォームが年間最大**約54億円(3600万ドル)**の収益を生み出していると推定されています 。この儲かるビジネスモデルは、事業者にとって自社サービスを簡単に見つけられる状態にしておく強い経済的インセンティブを生み出しています。
この調査では、誰がどのような理由で標的にされているのかが詳細に明らかにされており、純粋に性的な動機を超えたパターンが明らかになっています。
主な被害者。 ISDは、一般的な標的に現在または元の恋人、そして驚くべきことに姉妹やいとこなどの親族が含まれていることを明らかにしました 。オックスフォード・インターネット研究所の2025年の調査によると、公開されている約35,000のディープフェイクモデルバリアントのうち、96%が女性を標的にしていました 。ディープフェイク関連の事件は、世界中の90校以上の学校で報告されています 。
非性的動機。 この虐待の動機は必ずしも性的なものではありません。スミス氏は、「多くのリクエストは、人々を職場から解雇させ、悪意のある方法で生計を脅かすことに関するものだった」と述べています 。風評被害や職業上の害を目的としたディープフェイクの悪用は、特に陰湿な画像ベースの虐待の一形態です。
問題の深刻さは、連邦政府と州レベルの両方で多層的な立法対応を促しています。
連邦:Take It Down Act(テイク・イット・ダウン法)。 2025年5月に署名され成立したこの法律(正式名称:Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act)は、非同意の親密な画像を故意に公開したり、公開すると脅迫したりすることを連邦犯罪としました 。そのプラットフォーム遵守要件は、2026年5月19日に完全に施行されました 。ソーシャルメディアやメッセージングアプリを含む対象プラットフォームは、被害者が非同意の親密な画像(NCII)の削除をリクエストするためのプロセスを提供し、有効なリクエストを受け取った場合、48時間以内にコンテンツを削除することが義務付けられています。違反した場合、連邦取引委員会(FTC)による執行措置の対象となります 。
州レベル:ミネソタ州、全米初のヌーディフィケーション禁止法。 ミネソタ州は、「ヌーディフィケーション」技術を特に対象とした法律を可決した全米最初の州となりました 。2026年8月1日に発効するこの法律は、ウェブサイト、アプリケーション、またはソフトウェアを所有または管理する者が、ユーザーによるヌーディフィケーション技術へのアクセス、ダウンロード、または使用を許可することを禁止しています 。また、被害者が加害者に対して民事訴訟を起こすことも認めています 。この法案は、州上院での全会一致(65対0)を含む圧倒的な超党派の支持を得て可決されました 。違反した企業は、違反1件につき最大**約7200万円(50万ドル)**の民事罰に直面する可能性があります 。
プラットフォームの対応と執行のギャップ。 2026年1月、Xは、自社のAIチャットボット「Grok」が2025年12月の9日間で、少なくとも23,000件の子供の性的画像と180万件の女性の性的画像を生成するために使用されたとの報告を受け、大きな批判に直面しました 。Xはその後、Grokへのアクセスを有料ユーザーに制限しました 。ISDの報告書は、より強力なプラットフォーム規制や学校でのデジタルリテラシープログラムを含む、協調的でシステム全体にわたる対応を求めています 。また、報告書は執行のギャップに関する広範な懸念にも言及しています。YouTubeのポリシーは、性的に露骨なコンテンツへのリンクを名目上禁止していますが、ISDはこれらのルールが包括的に執行されておらず、プラットフォームが依然として主要な入り口であり続けることを許していると指摘しています 。