De schaal van het misbruik kan enorm zijn. Een AI-chatbot zou gebruikers hebben toegestaan om echte foto’s van vrouwen en kinderen te uploaden en die digitaal uit te kleden. In slechts elf dagen zouden daarmee ongeveer 3 miljoen seksuele beelden zijn gegenereerd .
Het gevaar beperkt zich niet tot georganiseerde criminelen. Ook leerlingen en studenten kunnen gratis of eenvoudig toegankelijke AI-tools gebruiken tegen klasgenoten.
In Hongkong werd een mannelijke rechtenstudent van de University of Hong Kong (HKU) ervan beschuldigd dat hij met gratis AI-software ongeveer 700 niet-consensuele pornografische beelden had gemaakt van 20 tot 30 vrouwen. Onder de slachtoffers zouden medestudenten, voormalige klasgenoten van de basisschool en docenten van zijn middelbare school zijn geweest .
De PCPD, de Hongkongse privacytoezichthouder, waarschuwt dat kinderen en tieners zowel schadelijke deepfakes kunnen maken als verspreiden zonder volledig te begrijpen hoe ernstig de gevolgen zijn of welke juridische consequenties eraan kunnen zitten . Ook scholen in andere regio’s meldden dat zij werden gechanteerd met expliciete AI-deepfakes van leerlingen .
Voor slachtoffers kan een gefabriceerd beeld aanvoelen als een echte schending van hun lichamelijke integriteit en privacy. Veel slachtoffers ervaren vernedering, schaamte, woede, een gevoel van inbreuk en zelfverwijt. Dat kan leiden tot aanhoudende emotionele problemen, terugtrekking uit school en gezin en moeite om anderen nog te vertrouwen .
In sommige gevallen kunnen zelfbeschadiging en suïcidale gedachten ontstaan. Wanneer het beeld binnen een school of vriendengroep wordt doorgestuurd, wordt het trauma telkens opnieuw versterkt .
Kinderen lopen extra risico omdat hun cognitieve vaardigheden nog in ontwikkeling zijn. Bovendien hebben zij vaak meer moeite om te herkennen of een beeld echt of door AI gemaakt is .
De groei van generatieve AI heeft ook geleid tot een toename van door AI gemaakt materiaal dat realistisch seksueel misbruik van kinderen afbeeldt. De Internet Watch Foundation beoordeelde in 2025 8.029 AI-afbeeldingen en video’s als realistische beelden van seksueel kindermisbruik .
Volgens de organisatie blijft het volume gestaag stijgen. Het materiaal verschijnt niet alleen op het darkweb, maar ook op commerciële platforms op het gewone internet . Daardoor worden bestaande systemen voor opsporing en moderatie zwaar belast.
Een van de meest omstreden kwesties in Hongkong is het verschil tussen het maken en het verspreiden van een beeld. Volgens de huidige wetgeving is het enkel maken van een door AI gegenereerd intiem beeld, zonder dat het wordt verspreid, niet specifiek strafbaar. Publicatie of dreigen met publicatie valt wel onder bestaande strafbepalingen .
Slachtoffers in de HKU-zaak zeiden dat juridisch advies deze leemte bevestigde. Daardoor zou er geen strafrechtelijke mogelijkheid zijn geweest om de student uitsluitend voor het maken van de beelden te vervolgen .
De Security Bureau van Hongkong heeft aangekondigd een openbare consultatie te houden over een uitbreiding van de zedenwetgeving naar pornografische deepfakes. De regering heeft eerder aangegeven de wet te willen aanpassen; volgens de beschikbare berichtgeving was de wet halverwege 2026 echter nog niet gewijzigd . Ook de Hong Kong Bar Association heeft opgeroepen tot specifieke wetgeving voor dit probleem .
De PCPD stelt dat ouders en kinderen in Hongkong over het algemeen nog onvoldoende weten over de gevaren van deepfakes. Tegelijkertijd neemt het aantal gevallen waarbij kinderen betrokken zijn snel toe .
Een extra risico is zogenoemd sharenting: ouders die veel foto’s en video’s van hun kinderen online delen. Die beelden kunnen zonder medeweten of toestemming als grondmateriaal voor een deepfake worden gebruikt .
De PCPD publiceerde in december 2025 de gids Abuse of AI Deepfakes: Toolkit for Schools and Parents. Die toolkit is bedoeld om scholen, ouders en voogden te helpen risico’s te herkennen, incidenten aan te pakken en de persoonsgegevens van kinderen beter te beschermen .
Zodra een nepbeeld online is verspreid, kan het bijzonder moeilijk zijn om alle kopieën te vinden en te verwijderen . Het beeld kan worden gedownload, opnieuw geplaatst of gedeeld in besloten groepen en op platforms in andere landen.
Die blijvende beschikbaarheid vergroot de schade. Slachtoffers kunnen het gevoel krijgen dat het beeld op elk moment opnieuw kan opduiken, zelfs nadat een eerste publicatie is verwijderd.
De PCPD is een strafrechtelijk onderzoek gestart naar het incident rond de HKU-student . Daarnaast probeert de privacytoezichthouder met de toolkit voor scholen en ouders de kennis over deepfakes te vergroten .
De Hongkongse overheid bekijkt ondertussen hoe de bestaande wetgeving moet worden aangepast. De Security Bureau heeft een openbare consultatie aangekondigd over het uitbreiden van de zedenwetgeving naar deepfakepornografie .
Ook internationaal groeit de bezorgdheid. De privacyautoriteiten van Hongkong en bijna zestig internationale tegenhangers publiceerden een gezamenlijke waarschuwing over schadelijke en niet-consensuele AI-beelden, met bijzondere aandacht voor de bescherming van kinderen .
De PCPD adviseert ouders om goed na te denken voordat zij foto’s of video’s van hun kinderen online plaatsen . Dat betekent niet dat elke foto moet verdwijnen, maar wel dat ouders zich bewust moeten zijn van wie de beelden kan zien, downloaden of hergebruiken.
Scholen kunnen daarnaast:
Experts raden aan om thuis en op school open gesprekken te voeren over online veiligheid. Kinderen moeten weten dat zij niet de schuld dragen wanneer iemand hun foto misbruikt en dat zij hulp kunnen vragen zodra zij met een dergelijk beeld worden geconfronteerd .