유튜브·X, 딥페이크 나체화 사이트 '현금창구' 역할…ISD 보고서

X와 검색 엔진의 역할. 2025년 ISD 보고서는 X가 2020년 6월부터 2025년 7월까지 SIIA 도구 키워드에 대한 총 410,592건의 언급 중 289,660건을 차지했다고 기록했습니다. 이는 전체 활동의 70% 이상에 해당하며, 그중 상당 부분이 봇에 의해 생성된 것입니다 . 또한 구글, 야후, 빙에서 'deepnude', 'nudify', 'undress app'과 같은 용어를 간단히 검색했을 때, 상위 20개의 자연 검색 결과 내에서 SIIA 도구로의 직접 링크가 나타났습니다. 특히 빙은 세 가지 검색어 모두에 대해 해당 도구를 첫 번째 검색 결과로 노출시켰습니다 .

저렴한 비용과 수익성 높은 비즈니스 모델

ISD 보고서는 이러한 도구의 확산을 부추기는 경제적 요인을 강조합니다.

가해자의 비용. 나체화 도구를 사용하면 사용자가 이미지당 단 1달러만으로 음란 콘텐츠를 생성할 수 있어, 다양한 범죄자가 쉽게 접근할 수 있습니다 .

플랫폼의 수익. ISD 보고서에 인용된 WIRED의 조사에 따르면, 이러한 플랫폼들은 collectively 연간 최대 3600만 달러의 수익을 창출하는 것으로 추정됩니다 . 이러한 수익성 높은 모델은 운영자들이 서비스를 쉽게 발견할 수 있도록 유지하려는 강력한 경제적 인센티브를 제공합니다.

주요 피해 대상과 동기

연구는 누가, 왜 표적이 되는지에 대한 세부 정보를 제공하며, 순전히 성적인 동기를 넘어서는 패턴을 드러냅니다.

주요 피해자. ISD는 일반적인 표적으로 현재 또는 전 여자친구 그리고 충격적이게도 자매나 사촌과 같은 친척이 포함된다는 사실을 발견했습니다 . 옥스퍼드 인터넷 연구소의 2025년 연구에 따르면, 공개적으로 이용 가능한 약 35,000개의 딥페이크 모델 변종 중 96%가 여성을 대상으로 했습니다 . 딥페이크 관련 사례는 전 세계 90개 이상의 학교에서 보고되었습니다 .

비성적 동기. 학대의 동기가 항상 성적인 것만은 아닙니다. 스미스는 "많은 요청이 사람들을 직장에서 해고하거나 불법적인 방식으로 생계를 위협하는 것과 관련이 있었습니다"라고 말했습니다 . 이는 평판과 직업적 지위를 표적으로 한 딥페이크의 '무기화'를 보여주는 매우 교묘한 형태의 이미지 기반 폭력입니다.

미국의 법적 및 규제 대응

이 문제의 심각성은 연방 및 주 차원에서 다각적인 입법적 대응을 촉발했습니다.

연방 정부: '테이크 잇 다운법'. 2025년 5월에 서명된 'TAKE IT DOWN Act'는 동의 없는 친밀한 이미지를 알려면서 게시하거나 게시를 위협하는 행위를 연방 범죄로 규정합니다 . 플랫폼 준수 요건은 2026년 5월 19일부터 완전히 시행되었습니다 . 적용 대상 플랫폼(소셜 미디어 및 메시징 앱 포함)은 이제 피해자가 동의 없는 친밀한 이미지(NCII) 삭제를 요청할 수 있는 절차를 제공해야 하며, 유효한 요청을 받은 후 48시간 이내에 콘텐츠와 알려진 모든 동일 복사본을 삭제해야 합니다. 위반 시 연방거래위원회(FTC)의 집행 조치를 받을 수 있습니다 .

주 정부: 미네소타주의 '나체화 기술' 전면 금지. 미네소타주는 미국 최초로 '나체화(nudification)' 기술을 특별히 금지하는 법안을 통과시킨 주가 되었습니다 . 2026년 8월 1일부터 시행되는 이 법은 웹사이트, 애플리케이션 또는 소프트웨어를 소유하거나 통제하는 사람이 사용자가 나체화 기술에 접근하거나 다운로드 또는 사용하는 것을 허용하지 못하도록 금지합니다 . 또한 피해자가 가해자를 상대로 민사 소송을 제기할 수 있도록 허용합니다 . 이 법안은 주 상원에서 65-0의 만장일치로 통과되는 등 압도적인 초당적 지지를 받았습니다 . 위반 기업은 위반 건당 최대 50만 달러의 민사 처벌을 받을 수 있습니다 .

플랫폼의 대응과 규제 공백. 2026년 1월, X는 자사의 AI 챗봇 '그록(Grok)'이 2025년 12월 9일 동안 아동 성적 학대 이미지 23,000개와 여성 이미지 180만 개를 생성하는 데 사용되었다는 보도 이후 심각한 역풍을 맞았습니다 . X는 이후 그록 접근을 유료 사용자로 제한했습니다 . ISD 보고서는 강화된 플랫폼 규제와 학교 내 디지털 리터러시 프로그램을 포함한 조정된 시스템 차원의 대응을 촉구합니다 . 보고서는 또한 규정 집행의 광범위한 공백에 대한 우려를 지적합니다. 유튜브의 정책은 명목상 성인 콘텐츠 링크를 금지하지만, ISD는 이러한 규칙이 포괄적으로 집행되지 않고 있어 플랫폼이 주요 관문으로 남아 있음을 발견했습니다 .