YouTube og X sendte millioner av brukere til deepfake-nettsider

Institute for Strategic Dialogue (ISD) har i en ny rapport fra 2026 samlet dystre bevis for at det ikke er ukjente nettforum, men først og fremst de store sosiale mediene som fungerer som inngangsport til nettsider som lager ufrivillige deepfake-bilder. Rapporten viser omfanget av misbruket, hvor billig og lett tilgjengelig det er, og hvordan lovgivere i USA nå slår tilbake.

ISD-rapporten: YouTube og X som hovedveien inn til nudify-apper

ISD har analysert de ti mest brukte appene og nettsidene for å lage ufrivillige intime bilder og funnet at henvisningstrafikken hovedsakelig kommer fra helt vanlige, store plattformer ^M.

Massiv henvisningstrafikk. Mellom desember 2025 og mars 2026 sendte sosiale medier over 5,7 millioner besøk til nudify-sider ^M. YouTube var den desidert største kilden, med 1,82 millioner besøk – mer enn 30 prosent av all henvisningstrafikk. X kom på andreplass med over 1,3 millioner besøk i samme periode ^M. Videoer som promoterte spesifikke nudify-apper inneholdt ofte direkte lenker og rabattkoder for gratis kreditter, og bidro dermed aktivt til bruken ^M. Dette bygger på en tidligere ISD-analyse fra 2025, som fant at 31 nettsider for syntetisk bildeovergrep (SIIA) hadde til sammen 21 millioner besøk per måned, med opptil 4 millioner på én enkelt måned ⁴.

I strid med egne regler. ISD understreker at funnene er i «direkte konflikt» med YouTubes egne retningslinjer, som forbyr seksuelt eksplisitt innhold. Forskerne fant at innhold som bryter disse retningslinjene, var «lett å oppdage og tilgjengelig», noe som gjør plattformen til en reell inngangsport for overgrep ^M. Melanie Smith, ISDs forskningsdirektør, sier: «Det var ikke bare at YouTube var en passiv kilde til trafikk. I mange tilfeller la plattformen aktivt til rette for bruken av disse verktøyene.» Hun legger til at håndhevingen av eksisterende regler ikke er god nok ^M.

X og søkemotorer som adgangspunkter. Den tidligere ISD-rapporten fra 2025 dokumenterte at X stod for 289.660 av 410.592 totale omtaler av SIIA-verktøy-nøkkelord mellom juni 2020 og juli 2025 – over 70 prosent av all aktivitet, mye drevet av roboter ⁴. I tillegg ga enkle søk på Google, Yahoo og Bing etter ord som «deepnude», «nudify» og «undress app» direkte lenker til SIIA-verktøy blant de første 20 resultatene. Bing viste slike verktøy som det aller første resultatet for alle tre søkeordene ⁴.

Lave kostnader og lukrativ forretningsmodell

ISD-rapporten peker på de økonomiske driverne bak spredningen av disse verktøyene.

Pris for overgriperne. Nudification-verktøy lar brukere generere eksplisitt innhold for så lite som én dollar per bilde, noe som gjør overgrepet tilgjengelig for svært mange ^M.

Inntekter for plattformene. En WIRED-undersøkelse som ISD viser til, anslår at disse plattformene samlet tjener opptil 36 millioner dollar årlig ^M. Denne lukrative forretningsmodellen skaper sterke økonomiske insentiver for å holde tjenestene lett tilgjengelige.

Hvem rammes og hvorfor?

Forskningen viser tydelige mønstre for hvem som blir rammet og hvorfor – og motivasjonene er ikke alltid rent seksuelle.

Hovedofre. ISD fant at vanlige mål er nåværende og tidligere kjærester og, oppsiktsvekkende nok, slektninger som søstre og kusiner ^M. En studie fra Oxford Internet Institute (2025) viste at av nesten 35.000 offentlig tilgjengelige deepfake-modeller, var 96 prosent rettet mot kvinner ^E. Deepfake-saker er rapportert fra over 90 skoler verden over ^M.

Ikke-seksuelle motivasjoner. Motivasjonene er ikke alltid seksuelle. Smith påpeker at «mange av forespørslene handlet om å få folk sparken fra jobben eller å ødelegge levebrødet deres på andre ondsinnede måter» ^M. Denne bevæpningen av deepfakes for å skade omdømme og karriere er en spesielt lumsk form for bildebasert overgrep.

Lovgivning og regulering

Omfanget av problemet har utløst omfattende lovgivning på både føderalt og delstatsnivå i USA.

Føderalt: Take It Down Act. Loven ble signert i mai 2025 og gjør det til en føderal forbrytelse å bevisst publisere eller true med å publisere ufrivillige intime bilder ^A. Plattformkravene trådte i full kraft 19. mai 2026 ^F. Berørte plattformer, som sosiale medier og meldingstjenester, må nå tilby en prosess der ofre kan be om fjerning av ufrivillige intime bilder (NCII), og må fjerne innholdet – sammen med eventuelle identiske kopier – innen 48 timer etter en gyldig forespørsel, ellers risikerer de sanksjoner fra Federal Trade Commission (FTC) ^FN.

Delstatsnivå: Minnesota først i USA med forbud. Minnesota ble den første delstaten i USA til å forby såkalt «nudification»-teknologi ^C. Loven trer i kraft 1. august 2026 og forbyr eiere og kontrollører av nettsider, apper og programvare å la brukere laste ned eller bruke nudification-verktøy ^H. Loven gir også ofre rett til å saksøke overgriperne ^H. Forslaget ble vedtatt med overveldende tverrpolitisk støtte, blant annet enstemmig i delstatssenatet (65–0) ^D. Selskaper som bryter loven, kan få bøter på opptil 500.000 dollar per overtredelse ^C.

Plattformenes respons og hull i håndhevingen. I januar 2026 møtte X kraftig kritikk etter at deres Grok AI-chatbot ble brukt til å generere minst 23.000 seksualiserte bilder av barn og 1,8 millioner bilder av kvinner i løpet av ni dager i desember 2025 ^O. X svarte med å begrense Grok-tilgangen til betalende brukere ^M. ISD etterlyser en koordinert, helhetlig innsats med styrket plattformregulering og digital kompetanse i skolen ^M. Rapporten peker også på at YouTubes retningslinjer i teorien forbyr lenking til seksuelt eksplisitt innhold, men at reglene ikke håndheves, slik at plattformen forblir en hovedinngangsport ^M.