정책 위반의 직접적 증거. ISD 보고서는 이러한 발견이 성인 콘텐츠를 금지하는 유튜브 자체 정책과 "직접적인 충돌"을 빚고 있다고 명시적으로 지적합니다. 연구원들은 이러한 정책을 위반하는 콘텐츠가 "쉽게 발견되고 접근 가능"하여, 플랫폼을 사실상 남용의 관문으로 만들고 있다고 밝혔습니다 . ISD의 연구 및 정책 선임 책임자인 멜라니 스미스는 "유튜브가 단순히 수동적인 트래픽 공급원이 아니었습니다. 많은 경우, 이러한 도구의 사용을 적극적으로 조장하기까지 했습니다"라고 말하며, 기존 정책의 집행이 포괄적으로 이루어지지 않고 있다고 지적했습니다 .

X와 검색 엔진의 역할. 2025년 ISD 보고서는 X가 2020년 6월부터 2025년 7월까지 SIIA 도구 키워드에 대한 총 410,592건의 언급 중 289,660건을 차지했다고 기록했습니다. 이는 전체 활동의 70% 이상에 해당하며, 그중 상당 부분이 봇에 의해 생성된 것입니다 . 또한 구글, 야후, 빙에서 'deepnude', 'nudify', 'undress app'과 같은 용어를 간단히 검색했을 때, 상위 20개의 자연 검색 결과 내에서 SIIA 도구로의 직접 링크가 나타났습니다. 특히 빙은 세 가지 검색어 모두에 대해 해당 도구를 첫 번째 검색 결과로 노출시켰습니다 .

저렴한 비용과 수익성 높은 비즈니스 모델

ISD 보고서는 이러한 도구의 확산을 부추기는 경제적 요인을 강조합니다.

가해자의 비용. 나체화 도구를 사용하면 사용자가 이미지당 단 1달러만으로 음란 콘텐츠를 생성할 수 있어, 다양한 범죄자가 쉽게 접근할 수 있습니다 .

플랫폼의 수익. ISD 보고서에 인용된 WIRED의 조사에 따르면, 이러한 플랫폼들은 collectively 연간 최대 3600만 달러의 수익을 창출하는 것으로 추정됩니다 . 이러한 수익성 높은 모델은 운영자들이 서비스를 쉽게 발견할 수 있도록 유지하려는 강력한 경제적 인센티브를 제공합니다.

주요 피해 대상과 동기

연구는 누가, 왜 표적이 되는지에 대한 세부 정보를 제공하며, 순전히 성적인 동기를 넘어서는 패턴을 드러냅니다.

주요 피해자. ISD는 일반적인 표적으로 현재 또는 전 여자친구 그리고 충격적이게도 자매나 사촌과 같은 친척이 포함된다는 사실을 발견했습니다 . 옥스퍼드 인터넷 연구소의 2025년 연구에 따르면, 공개적으로 이용 가능한 약 35,000개의 딥페이크 모델 변종 중 96%가 여성을 대상으로 했습니다 . 딥페이크 관련 사례는 전 세계 90개 이상의 학교에서 보고되었습니다 .

비성적 동기. 학대의 동기가 항상 성적인 것만은 아닙니다. 스미스는 "많은 요청이 사람들을 직장에서 해고하거나 불법적인 방식으로 생계를 위협하는 것과 관련이 있었습니다"라고 말했습니다 . 이는 평판과 직업적 지위를 표적으로 한 딥페이크의 '무기화'를 보여주는 매우 교묘한 형태의 이미지 기반 폭력입니다.

미국의 법적 및 규제 대응

이 문제의 심각성은 연방 및 주 차원에서 다각적인 입법적 대응을 촉발했습니다.

연방 정부: '테이크 잇 다운법'. 2025년 5월에 서명된 'TAKE IT DOWN Act'는 동의 없는 친밀한 이미지를 알려면서 게시하거나 게시를 위협하는 행위를 연방 범죄로 규정합니다 . 플랫폼 준수 요건은 2026년 5월 19일부터 완전히 시행되었습니다 . 적용 대상 플랫폼(소셜 미디어 및 메시징 앱 포함)은 이제 피해자가 동의 없는 친밀한 이미지(NCII) 삭제를 요청할 수 있는 절차를 제공해야 하며, 유효한 요청을 받은 후 48시간 이내에 콘텐츠와 알려진 모든 동일 복사본을 삭제해야 합니다. 위반 시 연방거래위원회(FTC)의 집행 조치를 받을 수 있습니다 .

주 정부: 미네소타주의 '나체화 기술' 전면 금지. 미네소타주는 미국 최초로 '나체화(nudification)' 기술을 특별히 금지하는 법안을 통과시킨 주가 되었습니다 . 2026년 8월 1일부터 시행되는 이 법은 웹사이트, 애플리케이션 또는 소프트웨어를 소유하거나 통제하는 사람이 사용자가 나체화 기술에 접근하거나 다운로드 또는 사용하는 것을 허용하지 못하도록 금지합니다 . 또한 피해자가 가해자를 상대로 민사 소송을 제기할 수 있도록 허용합니다 . 이 법안은 주 상원에서 65-0의 만장일치로 통과되는 등 압도적인 초당적 지지를 받았습니다 . 위반 기업은 위반 건당 최대 50만 달러의 민사 처벌을 받을 수 있습니다 .

플랫폼의 대응과 규제 공백. 2026년 1월, X는 자사의 AI 챗봇 '그록(Grok)'이 2025년 12월 9일 동안 아동 성적 학대 이미지 23,000개와 여성 이미지 180만 개를 생성하는 데 사용되었다는 보도 이후 심각한 역풍을 맞았습니다 . X는 이후 그록 접근을 유료 사용자로 제한했습니다 . ISD 보고서는 강화된 플랫폼 규제와 학교 내 디지털 리터러시 프로그램을 포함한 조정된 시스템 차원의 대응을 촉구합니다 . 보고서는 또한 규정 집행의 광범위한 공백에 대한 우려를 지적합니다. 유튜브의 정책은 명목상 성인 콘텐츠 링크를 금지하지만, ISD는 이러한 규칙이 포괄적으로 집행되지 않고 있어 플랫폼이 주요 관문으로 남아 있음을 발견했습니다 .

정책 위반의 직접적 증거. ISD 보고서는 이러한 발견이 성인 콘텐츠를 금지하는 유튜브 자체 정책과 "직접적인 충돌"을 빚고 있다고 명시적으로 지적합니다. 연구원들은 이러한 정책을 위반하는 콘텐츠가 "쉽게 발견되고 접근 가능"하여, 플랫폼을 사실상 남용의 관문으로 만들고 있다고 밝혔습니다 . ISD의 연구 및 정책 선임 책임자인 멜라니 스미스는 "유튜브가 단순히 수동적인 트래픽 공급원이 아니었습니다. 많은 경우, 이러한 도구의 사용을 적극적으로 조장하기까지 했습니다"라고 말하며, 기존 정책의 집행이 포괄적으로 이루어지지 않고 있다고 지적했습니다 .

X와 검색 엔진의 역할. 2025년 ISD 보고서는 X가 2020년 6월부터 2025년 7월까지 SIIA 도구 키워드에 대한 총 410,592건의 언급 중 289,660건을 차지했다고 기록했습니다. 이는 전체 활동의 70% 이상에 해당하며, 그중 상당 부분이 봇에 의해 생성된 것입니다 . 또한 구글, 야후, 빙에서 'deepnude', 'nudify', 'undress app'과 같은 용어를 간단히 검색했을 때, 상위 20개의 자연 검색 결과 내에서 SIIA 도구로의 직접 링크가 나타났습니다. 특히 빙은 세 가지 검색어 모두에 대해 해당 도구를 첫 번째 검색 결과로 노출시켰습니다 .

저렴한 비용과 수익성 높은 비즈니스 모델

ISD 보고서는 이러한 도구의 확산을 부추기는 경제적 요인을 강조합니다.

가해자의 비용. 나체화 도구를 사용하면 사용자가 이미지당 단 1달러만으로 음란 콘텐츠를 생성할 수 있어, 다양한 범죄자가 쉽게 접근할 수 있습니다 .

플랫폼의 수익. ISD 보고서에 인용된 WIRED의 조사에 따르면, 이러한 플랫폼들은 collectively 연간 최대 3600만 달러의 수익을 창출하는 것으로 추정됩니다 . 이러한 수익성 높은 모델은 운영자들이 서비스를 쉽게 발견할 수 있도록 유지하려는 강력한 경제적 인센티브를 제공합니다.

주요 피해 대상과 동기

연구는 누가, 왜 표적이 되는지에 대한 세부 정보를 제공하며, 순전히 성적인 동기를 넘어서는 패턴을 드러냅니다.

주요 피해자. ISD는 일반적인 표적으로 현재 또는 전 여자친구 그리고 충격적이게도 자매나 사촌과 같은 친척이 포함된다는 사실을 발견했습니다 . 옥스퍼드 인터넷 연구소의 2025년 연구에 따르면, 공개적으로 이용 가능한 약 35,000개의 딥페이크 모델 변종 중 96%가 여성을 대상으로 했습니다 . 딥페이크 관련 사례는 전 세계 90개 이상의 학교에서 보고되었습니다 .

비성적 동기. 학대의 동기가 항상 성적인 것만은 아닙니다. 스미스는 "많은 요청이 사람들을 직장에서 해고하거나 불법적인 방식으로 생계를 위협하는 것과 관련이 있었습니다"라고 말했습니다 . 이는 평판과 직업적 지위를 표적으로 한 딥페이크의 '무기화'를 보여주는 매우 교묘한 형태의 이미지 기반 폭력입니다.

미국의 법적 및 규제 대응

이 문제의 심각성은 연방 및 주 차원에서 다각적인 입법적 대응을 촉발했습니다.

연방 정부: '테이크 잇 다운법'. 2025년 5월에 서명된 'TAKE IT DOWN Act'는 동의 없는 친밀한 이미지를 알려면서 게시하거나 게시를 위협하는 행위를 연방 범죄로 규정합니다 . 플랫폼 준수 요건은 2026년 5월 19일부터 완전히 시행되었습니다 . 적용 대상 플랫폼(소셜 미디어 및 메시징 앱 포함)은 이제 피해자가 동의 없는 친밀한 이미지(NCII) 삭제를 요청할 수 있는 절차를 제공해야 하며, 유효한 요청을 받은 후 48시간 이내에 콘텐츠와 알려진 모든 동일 복사본을 삭제해야 합니다. 위반 시 연방거래위원회(FTC)의 집행 조치를 받을 수 있습니다 .

주 정부: 미네소타주의 '나체화 기술' 전면 금지. 미네소타주는 미국 최초로 '나체화(nudification)' 기술을 특별히 금지하는 법안을 통과시킨 주가 되었습니다 . 2026년 8월 1일부터 시행되는 이 법은 웹사이트, 애플리케이션 또는 소프트웨어를 소유하거나 통제하는 사람이 사용자가 나체화 기술에 접근하거나 다운로드 또는 사용하는 것을 허용하지 못하도록 금지합니다 . 또한 피해자가 가해자를 상대로 민사 소송을 제기할 수 있도록 허용합니다 . 이 법안은 주 상원에서 65-0의 만장일치로 통과되는 등 압도적인 초당적 지지를 받았습니다 . 위반 기업은 위반 건당 최대 50만 달러의 민사 처벌을 받을 수 있습니다 .

플랫폼의 대응과 규제 공백. 2026년 1월, X는 자사의 AI 챗봇 '그록(Grok)'이 2025년 12월 9일 동안 아동 성적 학대 이미지 23,000개와 여성 이미지 180만 개를 생성하는 데 사용되었다는 보도 이후 심각한 역풍을 맞았습니다 . X는 이후 그록 접근을 유료 사용자로 제한했습니다 . ISD 보고서는 강화된 플랫폼 규제와 학교 내 디지털 리터러시 프로그램을 포함한 조정된 시스템 차원의 대응을 촉구합니다 . 보고서는 또한 규정 집행의 광범위한 공백에 대한 우려를 지적합니다. 유튜브의 정책은 명목상 성인 콘텐츠 링크를 금지하지만, ISD는 이러한 규칙이 포괄적으로 집행되지 않고 있어 플랫폼이 주요 관문으로 남아 있음을 발견했습니다 .