YouTube og X sender millioner af brugere direkte til deepfake-nøgenhedssider

Direkte brud på retningslinjer. ISD-rapporten understreger, at disse fund er i "direkte konflikt" med YouTubes egne politikker, der forbyder seksuelt eksplicit indhold. Forskerne fandt, at indhold, der overtræder politikkerne, var "let at finde og tilgængeligt", hvilket effektivt gør platformen til en gateway for overgreb . Melanie Smith, ISD's forsknings- og politiktalskvinde, udtalte: "Det var ikke bare, at YouTube var en passiv kilde til trafik. I mange tilfælde faciliterede det aktivt brugen af disse værktøjer," og tilføjede, at håndhævelsen af eksisterende politikker ikke er omfattende .

X og søgemaskiner som adgangsveje. Den tidligere ISD-rapport fra 2025 dokumenterede, at X stod for 289.660 af i alt 410.592 omtaler af SIIA-værktøjsnøgleord mellem juni 2020 og juli 2025 – over 70 procent af al aktivitet, hvoraf meget var båret af bots . Desuden gav simple søgninger på Google, Yahoo og Bing efter termer som "deepnude", "nudify" og "undress app" direkte links til SIIA-værktøjer inden for de første 20 søgeresultater. Bing viste sådanne værktøjer som sit allerførste resultat for alle tre søgninger .

Den lave pris og den lukrative forretningsmodel

ISD-rapporten fremhæver de økonomiske faktorer, der driver udbredelsen af disse værktøjer.

Pris for overgrebsmænd. Nudification-værktøjer gør det muligt for brugere at generere eksplicit indhold for så lidt som 1 dollar per billede, hvilket gør overgrebet tilgængeligt for en bred vifte af gerningsmænd .

Indtægt for platformene. En WIRED-undersøgelse, der citeres i ISD-rapporten, anslog, at disse platforme tilsammen genererer op til 36 millioner dollars årligt i indtægter . Denne lukrative forretningsmodel skaber et stærkt økonomisk incitament for operatørerne til at holde deres tjenester let tilgængelige.

Ofre og motivationer

Rapporten kortlægger, hvem der bliver målrettet, og hvorfor, og afslører mønstre, der rækker ud over rent seksuelle motiver.

Primære ofre. ISD fandt, at almindelige ofre inkluderer nuværende og tidligere kærester samt, foruroligende nok, slægtninge som søstre og fætre . En undersøgelse fra Oxford Internet Institute (2025) viste, at af næsten 35.000 offentligt tilgængelige deepfake-modelvarianter var 96 procent rettet mod kvinder . Deepfake-relaterede sager er blevet rapporteret i over 90 skoler verden over .

Ikke-seksuelle motivationer. Motivationerne bag overgrebet er ikke altid seksuelle. Smith bemærkede, at "mange af anmodningerne handlede om at få folk fyret fra deres job og ødelægge deres levebrød på ondskabsfulde måder" . Denne brug af deepfakes til omdømme- og karriereskade repræsenterer en særlig lumsk form for billedbaseret overgreb.

Lovgivningsmæssige svar

Omfanget af problemet har udløst en flerlags lovgivningsmæssig reaktion på både føderalt og delstatsniveau.

Føderalt: Take It Down Act. Lovgivningen, der blev underskrevet i maj 2025, gør det til en føderal forbrydelse bevidst at offentliggøre eller true med at offentliggøre ikke-samtykkede intime billeder . Dens platformskrav trådte i fuld kraft den 19. maj 2026 . Dækkede platforme, herunder sociale medier og messaging-apps, skal nu tilbyde en proces, hvor ofre kan anmode om fjernelse af ikke-samtykkede intime billeder (NCII) og skal fjerne indholdet – sammen med alle kendte identiske kopier – inden for 48 timer efter en gyldig anmodning, eller risikere håndhævelse fra Federal Trade Commission (FTC) .

Delstatsniveau: Minnesotas landsdækkende nudification-forbud. Minnesota blev den første amerikanske delstat til at vedtage en lov, der specifikt forbyder "nudification"-teknologi . Loven træder i kraft 1. august 2026 og forbyder enhver, der ejer eller kontrollerer en hjemmeside, applikation eller software, at tillade brugere at få adgang til, downloade eller bruge nudification-teknologi . Loven giver også ofre mulighed for at anlægge civile søgsmål mod gerningsmænd . Lovforslaget blev vedtaget med overvældende bipartisan støtte, herunder en enstemmig afstemning på 65-0 i delstatens senat . Virksomheder, der overtræder loven, kan idømmes civile bøder på op til 500.000 dollars pr. overtrædelse .

Platformsvar og håndhævelseshuller. I januar 2026 stod X over for betydelig modstand, efter at dets Grok AI-chatbot angiveligt blev brugt til at generere mindst 23.000 seksualiserede billeder af børn og 1,8 millioner af kvinder over en periode på ni dage i december 2025 . X begrænsede efterfølgende Grok-adgang til betalte brugere . ISD-rapporten efterlyser koordinerede, systemdækkende svar, herunder stærkere platformregulering og digitale færdighedsprogrammer i skolerne . Rapporten noterer også udbredt bekymring over håndhævelseshuller: YouTubes politikker forbyder nominelt links til seksuelt eksplicit indhold, men ISD fandt, at reglerne ikke håndhæves konsekvent, hvilket lader platformen forblive en primær gateway .