YouTube a X posílají miliony uživatelů na deepfake „nudify“ weby, odhaluje nová zpráva ISD

Přímé porušování pravidel. Zpráva ISD výslovně uvádí, že tato zjištění jsou v „přímém rozporu“ s vlastními pravidly YouTube, která zakazují sexuálně explicitní obsah. Výzkumníci zjistili, že obsah porušující tato pravidla byl „snadno objevitelný a dostupný“, čímž se platforma fakticky stala branou ke zneužívání . Melanie Smith, ředitelka výzkumu a politiky ISD, uvedla: „Nebylo to jen o tom, že YouTube byl pasivním zdrojem návštěvnosti. V mnoha případech přímo usnadňoval používání těchto nástrojů,“ a dodala, že vymáhání stávajících pravidel není zdaleka důsledné .

Síť X a vyhledávače jako přístupové body. Dřívější zpráva ISD z roku 2025 zdokumentovala, že síť X představovala 289 660 z celkových 410 592 zmínek o klíčových slovech souvisejících s nástroji SIIA mezi červnem 2020 a červencem 2025 – tedy více než 70 % veškeré aktivity, přičemž velkou část z toho tvořily automatizované účty (boti) . Kromě toho jednoduché vyhledávání na Googlu, Yahoo a Bingu na dotazy jako „deepnude“, „nudify“ a „undress app“ přineslo přímé odkazy na nástroje SIIA již mezi prvními 20 organickými výsledky. Bing u všech tří dotazů zobrazil takový nástroj jako svůj úplně první výsledek .

Nízká cena a výnosný obchodní model

Zpráva ISD zdůrazňuje ekonomické faktory, které pohánějí rozmach těchto nástrojů.

Cena pro útočníky. Nudifikační nástroje umožňují uživatelům vytvářet explicitní obsah již za pouhý 1 dolar za snímek, díky čemuž je toto zneužívání dostupné širokému spektru pachatelů .

Příjmy provozovatelů. Vyšetřování časopisu WIRED, citované ve zprávě ISD, odhaduje, že tyto platformy dohromady generují až 36 milionů dolarů ročně . Tento výnosný model vytváří silnou finanční motivaci pro provozovatele, aby své služby udržovali snadno k nalezení.

Běžné cíle a motivace

Výzkum podrobně popisuje, kdo je terčem útoku a proč, a odhaluje vzorce, které přesahují čistě sexuální motivaci.

Hlavní oběti. ISD zjistil, že mezi běžné cíle patří současné a bývalé přítelkyně a, což je ještě znepokojivější, příbuzné jako sestry a sestřenice . Širší kontext poskytuje studie Oxfordského institutu internetu z roku 2025, která zjistila, že z téměř 35 000 veřejně dostupných variant deepfake modelů bylo 96 % zaměřeno na ženy . Případy související s deepfakes byly hlášeny na více než 90 školách po celém světě .

Nesexuální motivace. Motivace ke zneužívání nejsou vždy sexuální. Smith poznamenala, že „velká část požadavků směřovala k tomu, aby byli lidé vyhozeni z práce a aby byla jejich živobytí zničena nekalými způsoby“ . Toto zneužívání deepfakes k poškození pověsti a profesního života představuje obzvláště zákeřnou formu zneužívání prostřednictvím obrazového materiálu.

Legislativní a regulační odezva

Rozsah problému spustil vícestupňovou legislativní odezvu na federální úrovni i na úrovni jednotlivých států.

Federální úroveň: Zákon Take It Down Act. Podepsán do práva v květnu 2025, zákon TAKE IT DOWN Act (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) stanoví jako federální zločin úmyslné zveřejnění nebo vyhrožování zveřejněním neoprávněných intimních snímků . Jeho požadavky na platformy nabyly plné účinnosti 19. května 2026 . Dotčené platformy, včetně sociálních sítí a aplikací pro zasílání zpráv, musí nyní poskytnout proces, kterým mohou oběti požádat o odstranění neoprávněných intimních snímků (NCII), a musí tento obsah – společně se všemi známými identickými kopiemi – odstranit do 48 hodin od obdržení platné žádosti, jinak čelí vymáhání ze strany Federální obchodní komise (FTC) .

Úroveň států: Minnesotský zakaz „nudifikace“ jako první v USA. Minnesota se stala prvním americkým státem, který přijal zákon specificky zakazující „nudifikační“ technologie . S účinností od 1. srpna 2026 zákon zakazuje každému, kdo vlastní nebo ovládá web, aplikaci nebo software, aby uživatelům umožnil přístup, stažení nebo používání nudifikační technologie . Stejně tak umožňuje obětem podávat občanskoprávní žaloby proti pachatelům . Návrh zákona prošel s drtivou dvoustranickou podporou, včetně jednomyslného hlasování 65-0 ve státním Senátu . Společnostem, které zákon poruší, hrozí občanskoprávní sankce až do výše 500 000 dolarů za jeden přestupek .

Reakce platforem a mezery ve vymáhání. V lednu 2026 čelila síť X výrazné kritice poté, co bylo hlášeno, že její AI chatbot Grok byl použit k vygenerování nejméně 23 000 sexualizovaných snímků dětí a 1,8 milionu snímků žen během devíti dnů v prosinci 2025 . X následně omezila přístup k Groku pouze na placené uživatele . Zpráva ISD vyzývá ke koordinované celosystémové odezvě, která by zahrnovala přísnější regulaci platforem a programy digitální gramotnosti ve školách . Zpráva rovněž upozorňuje na rozšířené obavy z mezer ve vymáhání: pravidla YouTube sice nominálně zakazují odkazování na sexuálně explicitní obsah, ale ISD zjistil, že tato pravidla nejsou důsledně vymáhána, což platformě umožňuje zůstat primární branou ke zneužívání .