Deepfake aplikace zvyšují riziko sexuálního zneužívání dětí v Hongkongu: 7 hlavních hrozeb

Rozsah problému ukázal také případ AI chatbota, který uživatelům údajně umožňoval nahrát skutečné fotografie žen a dětí a pomocí digitální úpravy vytvořit jejich falešné „svlékání“. Za pouhých 11 dní tak podle zpráv vznikly přibližně 3 miliony sexuálních snímků .

2. Pachatelem může být spolužák nebo někdo ze školy

Hongkongský případ z Univerzity Hongkong (HKU) ukázal, že k podobnému zneužití nemusí docházet pouze v anonymních online komunitách. Student práv tam údajně pomocí bezplatného AI nástroje vytvořil zhruba 700 pornografických snímků bez souhlasu asi 20 až 30 žen. Mezi zobrazenými osobami měly být jeho spolužačky z univerzity i základní školy a učitelky ze střední školy .

PCPD varuje, že děti a dospívající mohou škodlivé deepfakes svých vrstevníků nejen vytvářet, ale také sdílet, aniž by si plně uvědomovali závažnost způsobené újmy . Podobné problémy se objevily i mimo Hongkong: některé školy v jiných regionech čelily vydírání pomocí explicitních AI deepfakes studentů .

3. Dopad na psychiku obětí může být dlouhodobý

Děti, jejichž tvář je použita ve falešném intimním obsahu, mohou prožívat ponížení, stud, vztek, pocit narušení soukromí i sebeobviňování. Následkem může být dlouhodobý emoční stres, uzavírání se před rodinou a školou nebo potíže s budováním důvěry ve vztazích . V některých případech může dojít také k sebepoškozování a sebevražedným myšlenkám.

Újma se navíc zvyšuje pokaždé, když se snímek znovu sdílí nebo se o něm začne mluvit ve školní komunitě . Děti jsou zranitelnější i proto, že jejich schopnosti ještě dozrávají a falešný obsah se jim hůře rozpoznává .

4. AI materiály zobrazující sexuální zneužívání dětí rychle přibývají

Nejde jen o jednotlivé případy mezi spolužáky. V roce 2025 nadace Internet Watch Foundation vyhodnotila 8 029 AI snímků a videí jako realistický obsah zobrazující sexuální zneužívání dětí . Počet takových materiálů podle nadace dál stabilně roste.

Obsah se objevuje jak na dark webu, tak na běžných komerčních platformách dostupných na internetu . Rozšiřování těchto materiálů ve velkém měřítku zároveň zatěžuje existující systémy moderace a odhalování závadného obsahu.

5. Hongkongské právo má mezeru v postihu samotné výroby

Podle současného hongkongského právního rámce není pouhé vytvoření intimního AI snímku bez jeho zveřejnění samo o sobě trestným činem. Zákon se vztahuje především na zveřejnění nebo hrozbu zveřejnění takového obsahu .

Oběti v případu z HKU uvedly, že právní konzultace potvrdily tuto mezeru. Proti studentovi, který měl snímky vytvořit, tak podle dostupných informací neměly k dispozici jasný trestněprávní prostředek .

Hongkongský bezpečnostní úřad oznámil veřejnou konzultaci o rozšíření právní úpravy sexuálních deliktů tak, aby zahrnovala i deepfake pornografii. Cílem bylo připravit změny do roku 2026 . Předseda Hongkongské advokátní komory zároveň vyzval k přijetí zvláštního, cíleného zákona . Podle dostupných informací z poloviny roku 2026 však právní úprava dosud změněna nebyla.

6. Rodiče i děti často riziko podceňují

PCPD zjistil, že povědomí rodičů a dětí v Hongkongu o rizicích deepfakes je obecně nedostatečné. Úřad zároveň upozorňuje, že případy škodlivých deepfakes týkajících se dětí rychle přibývají .

Problém může zhoršovat takzvaný „sharenting“ — nadměrné sdílení fotografií a videí dětí rodiči na internetu. Tyto snímky mohou posloužit jako snadno dostupný materiál pro zneužití .

V prosinci 2025 proto PCPD zveřejnil příručku „Abuse of AI Deepfakes: Toolkit for Schools and Parents“, která má školám, rodičům a opatrovníkům pomoci rozpoznat rizika a reagovat na incidenty .

7. Po zveřejnění se obsah odstraňuje jen velmi obtížně

Jakmile se falešné intimní snímky začnou šířit, jejich úplné odstranění z internetu bývá mimořádně obtížné . Mohou se kopírovat mezi platformami, ukládat do soukromých skupin nebo znovu objevit i po delší době.

Tato trvalost prohlubuje psychickou újmu. Oběť může žít s vědomím, že se snímek kdykoli znovu objeví, i když se původní příspěvek podaří smazat.

Co se v Hongkongu mění?

PCPD zahájil trestní vyšetřování incidentu na HKU a zveřejnil praktickou příručku pro školy a rodiče . Hongkongská vláda současně přezkoumává právní rámec a bezpečnostní úřad plánuje veřejnou konzultaci o rozšíření právní úpravy sexuálních deliktů na deepfake pornografii .

Hongkongský úřad pro ochranu osobních údajů se také spolu s téměř 60 zahraničními protějšky připojil ke společnému varování před škodlivými a nesouhlasnými AI snímky, zejména pokud se týkají dětí .

Co mohou dělat rodiče a školy?

Příručka PCPD doporučuje rodičům pečlivě zvážit, jaké fotografie a videa svých dětí zveřejňují online. Školy by podle úřadu měly studenty vzdělávat o rizicích deepfakes, ochraně soukromí i možných právních důsledcích jejich vytváření a sdílení .

Odborníci zároveň doporučují rozvíjet u dětí kritickou digitální gramotnost a vést s nimi otevřené, klidné rozhovory o bezpečnosti na internetu . Pokud se dítě stane obětí, nemělo by být obviňováno za to, že se jeho fotografie dostala online. Důležité je zachovat důkazy, nešířit obsah dál a co nejdříve vyhledat podporu školy, příslušných úřadů nebo specializované poradenské služby.