Miljontals leddes till deepfake-sajter via YouTube och X

Direkta policyöverträdelser. ISD påpekar att resultaten står i ”direkt konflikt” med YouTubes egna regler som förbjuder sexuellt explicit innehåll. Forskarna fann att innehåll som bryter mot dessa regler var ”lätt att upptäcka och komma åt”, vilket i praktiken gör plattformen till en inkörsport för övergrepp . Melanie Smith på ISD säger: ”Det handlade inte bara om att YouTube var en passiv källa till trafik. I många fall underlättade man också användningen av verktygen”, och tillägger att efterlevnaden av befintliga regler inte är heltäckande .

X och sökmotorer som åtkomstpunkter. Den tidigare ISD-rapporten från 2025 visade att X stod för 289 660 av 410 592 totala omnämnanden av nyckelord relaterade till SIIA-verktyg mellan juni 2020 och juli 2025 – över 70 procent av all aktivitet, mycket driven av bottar . Enkla sökningar på Google, Yahoo och Bing efter termer som ”deepnude”, ”nudify” och ”undress app” gav direktlänkar till SIIA-verktyg bland de första 20 organiska resultaten. Bing visade sådana verktyg som första resultat för alla tre sökningar .

Låg kostnad och lukrativ affärsmodell

ISD-rapporten belyser de ekonomiska faktorerna bakom spridningen av verktygen.

Pris för förövare. Med ”nudification”-verktyg kan användare skapa explicit innehåll för så lite som 1 dollar per bild, vilket gör övergreppen tillgängliga för en bred krets av förövare .

Intäkter för plattformar. En WIRED-granskning som citeras i ISD-rapporten uppskattar att plattformarna gemensamt genererar upp till 36 miljoner dollar årligen . Den lukrativa modellen skapar starka ekonomiska incitament för att hålla tjänsterna lätta att hitta.

Vanliga måltavlor och motiv

Primära offer. ISD fann att vanliga måltavlor är nuvarande och före detta flickvänner samt, oroväckande nog, släktingar som systrar och kusiner . En studie från Oxford Internet Institute (2025) visade att av nästan 35 000 offentligt tillgängliga deepfake-modellvarianter riktade sig 96 procent mot kvinnor . Fall med deepfakes har rapporterats från över 90 skolor världen över .

Icke-sexuella motiv. Motiven bakom övergreppen är inte alltid sexuella. Smith på ISD noterade att ”många av förfrågningarna handlade om att få folk sparkade från jobbet och att äventyra deras försörjning på ett skadligt sätt” . Denna användning av deepfakes för att skada anseende och karriär är en särskilt lömsk form av bildbaserat övergrepp.

Lagstiftnings- och regleringssvar

Federalt: Take It Down Act. Lagen, som undertecknades i maj 2025, gör det till ett federalt brott att medvetet publicera eller hota att publicera icke-samtyckande intima bilder . Plattformarnas efterlevnadskrav trädde i full kraft den 19 maj 2026 . Berörda plattformar måste nu erbjuda en process för offer att begära borttagning av icke-samtyckande intima bilder och måste ta bort innehållet – inklusive kända identiska kopior – inom 48 timmar efter en giltig begäran, annars riskerar de åtgärder från FTC .

Delstatligt: Minnesotas historiska förbud. Minnesota blev första delstat i USA att anta en lag som specifikt förbjuder ”nudification”-teknik . Lagen träder i kraft den 1 augusti 2026 och förbjuder den som äger eller kontrollerar en webbplats eller app att låta användare komma åt, ladda ner eller använda tekniken . Den ger också offer rätt att väcka civilrättsliga talan . Lagförslaget antogs med bred majoritet, inklusive en enhällig omröstning på 65–0 i delstatens senat . Företag som bryter mot lagen kan få böter på upp till 500 000 dollar per överträdelse .

Plattformarnas reaktioner och brister. I januari 2026 möttes X av kritik efter att dess AI-chattbot Grok använts för att generera minst 23 000 sexualiserade bilder av barn och 1,8 miljoner bilder av kvinnor under nio dagar i december 2025 . X begränsade därefter Grok till betalande användare . ISD-rapporten efterlyser samordnade, systemövergripande insatser som starkare plattformsreglering och digital läskunnighet i skolor . Rapporten pekar också på allvarliga brister i efterlevnaden: YouTubes regler förbjuder nominellt länkning till sexuellt explicit innehåll, men ISD fann att reglerna inte efterlevs fullt ut, vilket gör att plattformen förblir en primär inkörsport .