AI-deepfakes utsätter barn för bildbaserade övergrepp i Hongkong – sju risker
AI verktyg kan på några minuter skapa sexualiserade fejkbilder med foton från sociala medier. Internet Watch Foundation bedömde 8 029 AI genererade bilder och videor som realistiska skildringar av sexuella övergrepp mot barn under 2025.
AI verktyg kan på några minuter skapa sexualiserade fejkbilder med foton från sociala medier.
Internet Watch Foundation bedömde 8 029 AI genererade bilder och videor som realistiska skildringar av sexuella övergrepp mot barn under 2025.
Hongkongs integritetstillsyn, PCPD, varnar för att barn och tonåringar både kan skapa och sprida skadliga deepfakes utan att förstå följderna.
Studio GlobalAI-deepfakes utsätter barn för bildbaserade övergrepp i Hongkong – sju riskerAI verktyg kan på några minuter skapa sexualiserade fejkbilder med foton från sociala medier.
AI-deepfakes har gjort bildbaserade sexuella övergrepp snabbare, billigare och svårare att stoppa. I Hongkong har ett uppmärksammat fall vid University of Hong Kong, HKU, dessutom blottlagt en juridisk gråzon: att skapa en sexualiserad AI-bild utan att sprida den är enligt nuvarande lagstiftning inte nödvändigtvis ett brott .
Här är sju av de största riskerna för barn och unga.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "AI-deepfakes utsätter barn för bildbaserade övergrepp i Hongkong – sju risker"?
AI verktyg kan på några minuter skapa sexualiserade fejkbilder med foton från sociala medier.
What are the key points to validate first?
AI verktyg kan på några minuter skapa sexualiserade fejkbilder med foton från sociala medier. Internet Watch Foundation bedömde 8 029 AI genererade bilder och videor som realistiska skildringar av sexuella övergrepp mot barn under 2025.
What should I do next in practice?
Hongkongs integritetstillsyn, PCPD, varnar för att barn och tonåringar både kan skapa och sprida skadliga deepfakes utan att förstå följderna.
1. Sexualiserade fejkbilder kan skapas på några minuter
Enligt den amerikanska identitets- och bedrägeriskyddsaktören Home Security Heroes kan mer än en av tre deepfake-appar generera pornografiskt innehåll . Med foton som hämtats från sociala medier kan verktygen skapa sexualiserade bilder av barn på kort tid .
I ett annat uppmärksammat fall ska en AI-chattbot ha låtit användare ladda upp verkliga bilder av kvinnor och barn och digitalt ”klä av” personerna. På bara elva dagar ska omkring tre miljoner sexualiserade bilder ha skapats .
2. Övergreppen kan utföras av jämnåriga i skolmiljön
I Hongkong anklagades en manlig juridikstudent vid HKU för att ha använt gratis AI-program för att skapa omkring 700 pornografiska bilder utan samtycke av 20–30 kvinnor. Bland de utsatta fanns universitets- och grundskolekamrater samt lärare från gymnasiet .
Hongkongs Office of the Privacy Commissioner for Personal Data, PCPD, varnar för att barn och tonåringar både kan skapa och dela skadliga deepfakes av klasskamrater utan att förstå hur allvarlig skadan kan bli . Liknande fall har rapporterats från andra regioner, där skolor har utsatts för utpressning med explicita AI-bilder av elever .
3. Den psykiska skadan kan bli långvarig
Barn som utsätts för AI-genererade sexualiserade bilder kan känna förnedring, skam, ilska, kränkning och skuld. Följderna kan bli långvarig psykisk stress, att barnet drar sig undan skolan och familjen samt får svårare att lita på andra . I vissa fall kan utsattheten leda till självskadebeteende och självmordstankar.
Varje gång materialet delas kan traumat förstärkas . Barn är dessutom särskilt sårbara eftersom deras kognitiva förmågor fortfarande utvecklas och de kan ha svårare att upptäcka att en bild är manipulerad .
4. AI-genererat övergreppsmaterial mot barn ökar snabbt
Under 2025 bedömde Internet Watch Foundation 8 029 AI-genererade bilder och videor som realistiska skildringar av sexuella övergrepp mot barn. Organisationen uppger att mängden fortsätter att öka på både darknet och vanliga kommersiella plattformar .
Det innebär att materialet kan produceras och spridas i en omfattning som överbelastar befintliga system för upptäckt och moderering.
5. Hongkongs lagstiftning har en lucka
Enligt den nuvarande rättsliga situationen i Hongkong är det inte i sig ett brott att skapa en AI-genererad intim bild, om den inte också publiceras eller används i ett hot om publicering .
Offer i HKU-fallet uppgav att juridiska konsultationer bekräftade denna lucka. Det innebar att det saknades en tydlig straffrättslig väg mot studenten för själva skapandet av bilderna . Hongkongs säkerhetsbyrå har meddelat att den ska genomföra en offentlig konsultation om att utvidga sexualbrottslagstiftningen till att omfatta deepfake-pornografi, med målet att ändra lagstiftningen . Hongkongs advokatsamfund har samtidigt efterlyst en särskild, riktad lag .
Per mitten av 2026 hade lagändringen ännu inte genomförts.
6. Föräldrar och barn känner ofta inte till riskerna
PCPD har konstaterat att kunskapen om deepfakes generellt är otillräcklig bland både föräldrar och barn i Hongkong, samtidigt som antalet skadliga fall som berör barn ökar snabbt .
Ett särskilt problem är så kallad ”sharenting” – att föräldrar delar stora mängder bilder och videor av sina barn på nätet. Sådant material kan senare missbrukas som råmaterial för deepfakes .
I december 2025 publicerade PCPD handboken Abuse of AI Deepfakes: Toolkit for Schools and Parents, med information och praktiska råd till skolor, föräldrar och vårdnadshavare .
7. Bilderna är nästan omöjliga att få bort
När falska intima bilder väl har spridits på nätet är de mycket svåra att radera helt . De kan kopieras, laddas upp på nytt och dyka upp i nya sammanhang långt efter den första spridningen.
Den varaktigheten förvärrar skadan: offret kan tvingas leva med vetskapen att bilderna när som helst kan återkomma.
Vad gör myndigheterna?
PCPD har inlett en brottsutredning av HKU-fallet och publicerat sin handbok för skolor och föräldrar . Hongkongs regering ser över det rättsliga regelverket, och säkerhetsbyrån planerar en offentlig konsultation om att inkludera deepfake-pornografi i sexualbrottslagstiftningen .
Hongkongs integritetsmyndighet och närmare 60 internationella motsvarigheter har dessutom utfärdat ett gemensamt uttalande om riskerna med AI-genererade skadliga bilder, särskilt när barn berörs .
Vad kan föräldrar och skolor göra?
PCPD rekommenderar att föräldrar tänker efter innan de publicerar bilder eller videor av sina barn på nätet. Skolor bör samtidigt utbilda elever om riskerna med deepfakes och om de möjliga juridiska följderna av att skapa eller sprida sådant material .
Experter rekommenderar också att barn får lära sig grundläggande digital källkritik och att vuxna skapar utrymme för öppna samtal om nätanvändning och säkerhet . Om ett barn drabbas är det viktigt att ta situationen på allvar, bevara relevant information och söka stöd från skolan, vårdnadshavare och berörda myndigheter – utan att skuldbelägga barnet.
