Miljoenen bezoekers gestuurd naar deepfake-sites via YouTube en X

Directe beleidsschendingen. Het ISD-rapport merkt expliciet op dat deze bevindingen in "direct conflict" zijn met het eigen beleid van YouTube, dat seksueel expliciete content verbiedt. De onderzoekers ontdekten dat content die dit beleid schendt, "gemakkelijk te vinden en toegankelijk" was, waardoor het platform effectief een toegangspoort tot misbruik werd . Melanie Smith, senior directeur onderzoek en beleid bij het ISD, zei: "Het was niet alleen dat YouTube een passieve bron van verwijzingsverkeer was. In veel gevallen faciliteerde het ook het gebruik van deze tools," en voegde eraan toe dat de handhaving van bestaand beleid niet volledig is .

X en zoekmachines als toegangspunten. In het eerdere ISD-rapport uit 2025 was X verantwoordelijk voor 289.660 van de 410.592 totale vermeldingen van SIIA-toolzoekwoorden tussen juni 2020 en juli 2025 — meer dan 70% van alle activiteit, grotendeels afkomstig van bots . Bovendien leverden eenvoudige zoekopdrachten op Google, Yahoo en Bing naar termen als "deepnude", "nudify" en "undress app" directe links naar SIIA-tools op in de eerste 20 organische resultaten. Bing toonde dergelijke tools als het allereerste resultaat voor alle drie de zoekopdrachten .

De lage kosten en lucratieve businesscase

Het ISD-rapport benadrukt de economische factoren die de proliferatie van deze tools aanjagen.

Prijs voor daders. Nudificatietools stellen gebruikers in staat om al voor $1 per afbeelding expliciete content te genereren, waardoor het misbruik toegankelijk wordt voor een breed scala aan daders .

Inkomsten voor platforms. Een WIRED-investering, aangehaald in het ISD-rapport, schatte dat deze platforms gezamenlijk tot $36 miljoen per jaar aan inkomsten genereren . Dit lucratieve model creëert een sterke financiële prikkel voor beheerders om hun diensten gemakkelijk vindbaar te houden.

Veelvoorkomende doelwitten en motieven

Het onderzoek detailleert wie er wordt geviseerd en waarom, en onthult patronen die verder gaan dan puur seksuele motieven.

Primaire slachtoffers. Het ISD ontdekte dat veelvoorkomende doelwitten huidige en ex-vriendinnen zijn en, verontrustend genoeg, familieleden zoals zussen en nichten . Een bredere context uit een studie van het Oxford Internet Institute (2025) wees uit dat van bijna 35.000 openbaar beschikbare deepfake-modelvarianten 96% gericht was op vrouwen . Deepfake-gerelateerde zaken zijn gemeld in meer dan 90 scholen wereldwijd .

Niet-seksuele motieven. De motieven achter het misbruik zijn niet altijd seksueel. Smith merkte op dat "veel van de verzoeken gingen over het laten ontslaan van mensen en het op kwaadaardige wijze in gevaar brengen van hun levensonderhoud" . Deze bewapening van deepfakes voor reputatie- en professionele schade vertegenwoordigt een bijzonder verraderlijke vorm van beeldmisbruik.

Wetgevende en regelgevende reacties

De omvang van het probleem heeft een gelaagde wetgevende reactie uitgelokt op zowel federaal als staatsniveau.

Federaal: De Take It Down Act. Dit wetsvoorstel, ondertekend in mei 2025, maakt het een federaal misdrijf om niet-consensuele intieme beeldenbewust te publiceren of te dreigen deze te publiceren . De nalevingsvereisten voor platforms zijn op 19 mei 2026 volledig van kracht geworden . Gedekte platforms, waaronder sociale media en berichtenapps, moeten nu een proces bieden voor slachtoffers om verwijdering van niet-consensuele intieme beelden (NCII) aan te vragen en moeten de content – samen met eventuele bekende identieke kopieën – binnen 48 uur na een geldig verzoek verwijderen, op straffe van handhaving door de Federal Trade Commission (FTC) .

Staatsniveau: Minnesota's eerste nudificatieverbod. Minnesota werd de eerste Amerikaanse staat die een wet aannam die specifiek 'nudificatie'-technologie verbiedt . Met ingang van 1 augustus 2026 verbiedt de wet iedereen die een website, applicatie of software bezit of beheert, gebruikers toegang te geven tot, te downloaden of te gebruiken van nudificatietechnologie . Het stelt slachtoffers ook in staat civiele rechtszaken aan te spannen tegen daders . Het wetsvoorstel werd aangenomen met overweldigende tweepartijensteun, waaronder een unanieme 65-0 stem in de senaat van de staat . Bedrijven die de wet overtreden, riskeren civiele boetes van maximaal $500.000 per overtreding .

Platformreacties en handhavingstekorten. In januari 2026 kreeg X te maken met aanzienlijke terugslag nadat zijn Grok AI-chatbot naar verluidt was gebruikt om in een periode van negen dagen in december 2025 minstens 23.000 seksuele afbeeldingen van kinderen en 1,8 miljoen van vrouwen te genereren . X beperkte vervolgens de Grok-toegang tot betalende gebruikers . Het ISD-rapport roept op tot gecoördineerde, systeembrede reacties, waaronder sterkere platformregulering en digitale geletterdheidsprogramma's op scholen . Het rapport wijst ook op wijdverbreide zorgen over handhavingstekorten: het beleid van YouTube verbiedt nominaties het linken naar seksueel expliciete content, maar het ISD ontdekte dat deze regels niet volledig worden gehandhaafd, waardoor het platform een primaire toegangspoort blijft .