YouTube e X sono la porta d'accesso principale ai siti di deepfake non consensuali, rivela il nuovo rapporto ISD

Violazioni dirette delle policy. Il rapporto ISD nota esplicitamente che questi risultati sono in "diretto conflitto" con le policy di YouTube, che vietano contenuti sessualmente espliciti. I ricercatori hanno scoperto che i contenuti in violazione erano "facilmente individuabili e accessibili", trasformando di fatto la piattaforma in un gateway per l'abuso . Melanie Smith, direttrice senior della ricerca e delle politiche di ISD, ha dichiarato: "Non era solo che YouTube fosse una fonte passiva di traffico di riferimento. In molti di questi casi, stava anche facilitando l'uso di questi strumenti", aggiungendo che l'applicazione delle policy esistenti non è completa .

X e i motori di ricerca come punti di accesso. Un precedente rapporto ISD del 2025 documentava che X rappresentava 289.660 delle 410.592 menzioni totali di parole chiave relative a strumenti SIIA tra giugno 2020 e luglio 2025 — oltre il 70% di tutta l'attività, in gran parte guidata da bot . Inoltre, semplici ricerche su Google, Yahoo e Bing per termini come "deepnude", "nudify" e "undress app" restituivano link diretti a strumenti SIIA tra i primi 20 risultati organici. Bing presentava tali strumenti come primo risultato per tutte e tre le query .

Il basso costo e il modello di businessredditizio

Il rapporto ISD evidenzia i fattori economici che guidano la proliferazione di questi strumenti.

Prezzo per gli autori di abusi. Gli strumenti di nudificazione consentono agli utenti di generare contenuti espliciti per appena 1 dollaro per immagine, rendendo l'abuso accessibile a una vasta gamma di autori .

Entrate per le piattaforme. Un'indagine di WIRED citata nel rapporto ISD stima che queste piattaforme generino collettivamente fino a 36 milioni di dollari all'anno di entrate . Questo modello redditizio crea un forte incentivo finanziario per gli operatori a mantenere i loro servizi facilmente individuabili.

Vittime e motivazioni comuni

La ricerca dettaglia chi viene preso di mira e perché, rivelando modelli che vanno oltre le motivazioni puramente sessuali.

Vittime principali. L'ISD ha scoperto che i bersagli comuni includono fidanzate attuali ed ex e, in modo allarmante, parenti come sorelle e cugine . Un contesto più ampio, fornito da uno studio dell'Oxford Internet Institute del 2025, ha rilevato che, su quasi 35.000 varianti di modelli deepfake disponibili pubblicamente, il 96% prendeva di mira le donne . Casi di deepfake sono stati segnalati in oltre 90 scuole in tutto il mondo .

Motivazioni non sessuali. Le motivazioni alla base dell'abuso non sono sempre sessuali. Smith ha notato che "molte richieste riguardavano il far licenziare le persone dal lavoro e compromettere i loro mezzi di sostentamento in modi loschi" . Questa strumentalizzazione dei deepfake per danni reputazionali e professionali rappresenta una forma particolarmente insidiosa di abuso basato sulle immagini.

Risposte legislative e regolatorie

La scala del problema ha innescato una risposta legislativa a più livelli, sia a livello federale che statale.

Federale: il Take It Down Act. Firmato legge nel maggio 2025, il TAKE IT DOWN Act (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) rende un reato federale pubblicare o minacciare di pubblicare intenzionalmente immagini intime non consensuali . I suoi requisiti di conformità per le piattaforme sono entrati in pieno vigore il 19 maggio 2026 . Le piattaforme coperte, inclusi social media e app di messaggistica, devono ora fornire un processo per consentire alle vittime di richiedere la rimozione di immagini intime non consensuali (NCII) e devono rimuovere il contenuto — insieme a qualsiasi copia identica nota — entro 48 ore da una richiesta valida, o andare incontro all'applicazione delle norme da parte della Federal Trade Commission (FTC) .

Livello statale: il primo divieto di nudificazione in Minnesota. Il Minnesota è diventato il primo stato degli Stati Uniti ad approvare una legge che vieta specificamente la tecnologia di "nudificazione" . In vigore dal 1° agosto 2026, la legge vieta a chi possiede o controlla un sito web, un'applicazione o un software di consentire agli utenti di accedere, scaricare o utilizzare la tecnologia di nudificazione . Consente inoltre alle vittime di intentare azioni civili contro gli autori dell'abuso . Il disegno di legge è stato approvato con un sostegno bipartisan schiacciante, incluso un voto unanime di 65-0 al Senato statale . Le aziende in violazione possono incorrere in sanzioni civili fino a 500.000 dollari per violazione .

Risposte delle piattaforme e lacune nell'applicazione. Nel gennaio 2026, X ha affrontato una reazione significativa dopo che il suo chatbot AI Grok è stato presumibilmente utilizzato per generare almeno 23.000 immagini sessualizzate di bambini e 1,8 milioni di donne in un periodo di nove giorni nel dicembre 2025 . X ha successivamente limitato l'accesso a Grok ai soli utenti paganti . Il rapporto ISD chiede risposte coordinate e a livello di sistema, tra cui una regolamentazione più forte delle piattaforme e programmi di alfabetizzazione digitale nelle scuole . Il rapporto nota anche diffuse preoccupazioni riguardo alle lacune nell'applicazione: le policy di YouTube vietano nominalmente il collegamento a contenuti sessualmente espliciti, ma l'ISD ha scoperto che queste regole non vengono applicate in modo completo, permettendo alla piattaforma di rimanere un gateway primario .