YouTube og X sendte millioner av brukere til deepfake-nettsider

I strid med egne regler. ISD understreker at funnene er i «direkte konflikt» med YouTubes egne retningslinjer, som forbyr seksuelt eksplisitt innhold. Forskerne fant at innhold som bryter disse retningslinjene, var «lett å oppdage og tilgjengelig», noe som gjør plattformen til en reell inngangsport for overgrep . Melanie Smith, ISDs forskningsdirektør, sier: «Det var ikke bare at YouTube var en passiv kilde til trafikk. I mange tilfeller la plattformen aktivt til rette for bruken av disse verktøyene.» Hun legger til at håndhevingen av eksisterende regler ikke er god nok .

X og søkemotorer som adgangspunkter. Den tidligere ISD-rapporten fra 2025 dokumenterte at X stod for 289.660 av 410.592 totale omtaler av SIIA-verktøy-nøkkelord mellom juni 2020 og juli 2025 – over 70 prosent av all aktivitet, mye drevet av roboter . I tillegg ga enkle søk på Google, Yahoo og Bing etter ord som «deepnude», «nudify» og «undress app» direkte lenker til SIIA-verktøy blant de første 20 resultatene. Bing viste slike verktøy som det aller første resultatet for alle tre søkeordene .

Lave kostnader og lukrativ forretningsmodell

ISD-rapporten peker på de økonomiske driverne bak spredningen av disse verktøyene.

Pris for overgriperne. Nudification-verktøy lar brukere generere eksplisitt innhold for så lite som én dollar per bilde, noe som gjør overgrepet tilgjengelig for svært mange .

Inntekter for plattformene. En WIRED-undersøkelse som ISD viser til, anslår at disse plattformene samlet tjener opptil 36 millioner dollar årlig . Denne lukrative forretningsmodellen skaper sterke økonomiske insentiver for å holde tjenestene lett tilgjengelige.

Hvem rammes og hvorfor?

Forskningen viser tydelige mønstre for hvem som blir rammet og hvorfor – og motivasjonene er ikke alltid rent seksuelle.

Hovedofre. ISD fant at vanlige mål er nåværende og tidligere kjærester og, oppsiktsvekkende nok, slektninger som søstre og kusiner . En studie fra Oxford Internet Institute (2025) viste at av nesten 35.000 offentlig tilgjengelige deepfake-modeller, var 96 prosent rettet mot kvinner . Deepfake-saker er rapportert fra over 90 skoler verden over .

Ikke-seksuelle motivasjoner. Motivasjonene er ikke alltid seksuelle. Smith påpeker at «mange av forespørslene handlet om å få folk sparken fra jobben eller å ødelegge levebrødet deres på andre ondsinnede måter» . Denne bevæpningen av deepfakes for å skade omdømme og karriere er en spesielt lumsk form for bildebasert overgrep.

Lovgivning og regulering

Omfanget av problemet har utløst omfattende lovgivning på både føderalt og delstatsnivå i USA.

Føderalt: Take It Down Act. Loven ble signert i mai 2025 og gjør det til en føderal forbrytelse å bevisst publisere eller true med å publisere ufrivillige intime bilder . Plattformkravene trådte i full kraft 19. mai 2026 . Berørte plattformer, som sosiale medier og meldingstjenester, må nå tilby en prosess der ofre kan be om fjerning av ufrivillige intime bilder (NCII), og må fjerne innholdet – sammen med eventuelle identiske kopier – innen 48 timer etter en gyldig forespørsel, ellers risikerer de sanksjoner fra Federal Trade Commission (FTC) .

Delstatsnivå: Minnesota først i USA med forbud. Minnesota ble den første delstaten i USA til å forby såkalt «nudification»-teknologi . Loven trer i kraft 1. august 2026 og forbyr eiere og kontrollører av nettsider, apper og programvare å la brukere laste ned eller bruke nudification-verktøy . Loven gir også ofre rett til å saksøke overgriperne . Forslaget ble vedtatt med overveldende tverrpolitisk støtte, blant annet enstemmig i delstatssenatet (65–0) . Selskaper som bryter loven, kan få bøter på opptil 500.000 dollar per overtredelse .

Plattformenes respons og hull i håndhevingen. I januar 2026 møtte X kraftig kritikk etter at deres Grok AI-chatbot ble brukt til å generere minst 23.000 seksualiserte bilder av barn og 1,8 millioner bilder av kvinner i løpet av ni dager i desember 2025 . X svarte med å begrense Grok-tilgangen til betalende brukere . ISD etterlyser en koordinert, helhetlig innsats med styrket plattformregulering og digital kompetanse i skolen . Rapporten peker også på at YouTubes retningslinjer i teorien forbyr lenking til seksuelt eksplisitt innhold, men at reglene ikke håndheves, slik at plattformen forblir en hovedinngangsport .