Deepfake e abusi online sui minori: i 7 rischi più gravi segnalati a Hong Kong

La portata del fenomeno è stata evidenziata anche da un chatbot di IA che, secondo quanto riportato, consentiva di caricare foto reali di donne e bambini e di modificarle digitalmente per creare immagini sessuali. In soli 11 giorni sarebbero state generate circa 3 milioni di immagini .

2. Abusi compiuti da coetanei e casi legati alle scuole

A Hong Kong, uno studente di legge dell'Università di Hong Kong (HKU) è stato accusato di aver usato software gratuito di IA per creare circa 700 immagini pornografiche non consensuali di 20-30 donne. Tra le persone coinvolte ci sarebbero state compagne di università, ex compagne delle scuole primarie e insegnanti delle scuole secondarie .

Il PCPD, l'Ufficio del Commissario per la privacy dei dati personali di Hong Kong, avverte che bambini e adolescenti possono sia creare sia condividere deepfake dannosi dei propri coetanei, talvolta senza comprendere pienamente la gravità delle conseguenze . In altri Paesi, alcune scuole sono già state ricattate con deepfake espliciti che ritraevano studenti .

3. Conseguenze psicologiche potenzialmente devastanti

Le vittime di abusi sessuali basati su immagini generate dall'IA possono provare umiliazione, vergogna, rabbia, senso di violazione e colpa. Queste reazioni possono trasformarsi in un disagio emotivo duraturo, isolamento dalla scuola e dalla famiglia e difficoltà a costruire relazioni basate sulla fiducia .

Nei casi più gravi sono stati segnalati anche autolesionismo e pensieri suicidari. Il trauma può peggiorare ogni volta che l'immagine viene inoltrata, mostrata o ripubblicata . I minori sono particolarmente vulnerabili perché le loro capacità cognitive sono ancora in sviluppo e possono avere maggiori difficoltà a riconoscere un deepfake .

4. Crescita del materiale di abuso sessuale su minori generato dall'IA

Nel 2025 la Internet Watch Foundation ha valutato 8.029 immagini e video generati dall'IA come rappresentazioni realistiche di abusi sessuali su minori . Il volume dei contenuti continua ad aumentare sia nel dark web sia sulle piattaforme commerciali accessibili dalla rete pubblica .

La produzione e la distribuzione su larga scala mettono sotto pressione i sistemi esistenti di moderazione, che possono faticare a individuare e bloccare rapidamente ogni contenuto illecito o dannoso.

5. Una lacuna nella legge di Hong Kong

Secondo l'analisi delle norme attualmente in vigore, a Hong Kong la sola creazione di immagini intime generate dall'IA, se non accompagnata dalla loro diffusione, non costituisce di per sé un reato specifico. Le disposizioni esistenti riguardano soprattutto la pubblicazione o la minaccia di pubblicazione .

Nel caso dell'HKU, le vittime hanno riferito che consultazioni legali avevano confermato questa lacuna, lasciando limitate possibilità di ricorso penale contro chi aveva creato le immagini .

Le autorità hanno annunciato una consultazione pubblica per valutare l'estensione delle norme sui reati sessuali alla pornografia deepfake, con l'obiettivo dichiarato di intervenire legislativamente entro il periodo indicato dal governo . Anche l'Ordine degli avvocati di Hong Kong ha chiesto una legge mirata . A metà del 2026, tuttavia, la normativa non risultava ancora modificata.

6. Consapevolezza ancora insufficiente tra genitori e ragazzi

Il PCPD ritiene che a Hong Kong genitori e minori abbiano in generale una conoscenza insufficiente dei rischi legati ai deepfake e segnala una crescita rapida dei casi che coinvolgono bambini .

Un ulteriore elemento di rischio è lo sharenting, cioè la condivisione frequente da parte dei genitori di foto e video dei propri figli. Le immagini pubblicate online possono diventare materiale facilmente riutilizzabile per creare contenuti falsi .

Per affrontare il problema, nel dicembre 2025 il PCPD ha pubblicato Abuse of AI Deepfakes: Toolkit for Schools and Parents, una guida destinata a scuole, genitori e tutori .

7. Rimuovere i contenuti dopo la diffusione è quasi impossibile

Una volta condivise online, le immagini intime false possono essere estremamente difficili da eliminare del tutto . Possono essere copiate, salvate, ripubblicate su altri servizi o riemergere molto tempo dopo la prima diffusione.

Questa permanenza aggrava il danno psicologico: la vittima può vivere con il timore che il contenuto torni a circolare in qualsiasi momento.

Che cosa stanno facendo le autorità?

Il PCPD ha avviato un'indagine penale sul caso dell'Università di Hong Kong e ha diffuso il proprio kit di orientamento per scuole e famiglie . Il governo di Hong Kong sta inoltre riesaminando il quadro normativo e ha annunciato una consultazione pubblica sull'eventuale estensione delle norme sui reati sessuali ai deepfake pornografici .

Nel febbraio 2026 il PCPD e quasi 60 autorità internazionali per la protezione dei dati hanno pubblicato una dichiarazione congiunta per esprimere preoccupazione sui contenuti dannosi e non consensuali generati dall'IA, con particolare attenzione alla tutela dei minori .

Cosa possono fare genitori e scuole?

Le indicazioni del PCPD invitano i genitori a riflettere prima di pubblicare foto o video dei figli e a valutare con attenzione quante informazioni personali rendere accessibili online .

Le scuole, invece, dovrebbero:

• spiegare agli studenti che creare o condividere deepfake può causare danni seri e avere conseguenze legali ;
• sviluppare competenze di alfabetizzazione digitale, aiutando i ragazzi a riconoscere contenuti manipolati ;
• incoraggiare conversazioni aperte sulla sicurezza online, senza colpevolizzare chi subisce l'abuso;
• intervenire rapidamente se un'immagine viene segnalata, limitandone la condivisione e attivando il supporto appropriato.

Il punto centrale, sottolineano gli esperti, è che un'immagine falsa può produrre conseguenze reali. Per i minori, la prevenzione deve quindi comprendere non solo la protezione dei dati, ma anche educazione digitale, sostegno psicologico e strumenti legali adeguati.