Dozorčí rada Metu donutila k razantním změnám. Deepfakům dochází trpělivost

Klíčové změny, které rada po Metě požaduje

Rozhodnutí rady přesahuje jednotlivý případ a obsahuje několik závazných i nezávazných doporučení, která mají zásadně změnit způsob, jakým Meta nakládá s AI generovaným sexuálním obsahem, zejména pokud jde o osoby, které nejsou veřejně známé . Hlavní změny zahrnují:

AI generované podvrhy mají být automaticky považovány za neoprávněné

Rada výslovně uvedla, že AI generované podvrhy v sexuálním kontextu by měly být považovány za „neoprávněné automaticky" a doporučila jejich zařazení do politiky Mety pro dospělé sexuální vykořisťování . Tím se obrací dosavadní logika: důkazní břemeno se přesouvá z oběti, která by musela prokazovat nesouhlas, na platformu, která má rozpoznat, že takový obsah je ze své podstaty škodlivý .

Hlásit obsah mohou i důvěryhodné osoby

Významnou procedurální změnou je doporučení, aby uživatelé mohli určit „propojené účty" – například důvěryhodné přátele či rodinu – kteří by mohli jménem oběti nahlásit porušení pravidel, jako je neoprávněný intimní obsah . Tím se řeší zásadní problém, kdy o existenci takového materiálu oběť ani nemusí vědět, nebo není schopna či ochotna ho nahlásit sama kvůli traumatu či strachu.

Vznikne nová globální kategorie pro hlášení

Rada po Metě požaduje vytvoření samostatné celosvětové kategorie pro hlášení AI generovaného neoprávněného sexuálního obsahu. Tento typ materiálu by se tak přestal řadit pod obecné pravidlo pro šikanu a obtěžování . Uživatelům by se usnadnilo hlášení a správcům by se usnadnilo sledování.

Aktualizace terminologie: Konec „hanlivému photoshopu"

Rada již dříve kritizovala zastaralou terminologii Mety, která používala výrazy jako „hanlivý sexuální photoshop" . Nyní rada doporučuje, aby Meta svá pravidla přeformulovala do jasnějších a přesnějších termínů reflektujících moderní realitu zneužití pomocí AI. Důraz se má přesunout na neoprávněnou povahu obsahu, nikoli na způsob jeho vytvoření .

Zavést standardy pro identifikaci AI obsahu a zlepšit detekci

V souvisejícím případě týkajícím se AI obsahu rada rovněž vyzvala Metu, aby zavedla škálovatelné nástroje pro identifikaci AI generovaného materiálu, včetně přijetí standardu C2PA (Content Credentials) – tedy standardu pro sledování původu a úprav médií . Rada zjistila, že současný systém Mety příliš spoléhá na to, že uživatelé sami označí AI obsah, a postrádá robustní automatizovanou detekci, zejména u videa a audia .

Důraz na ochranu běžných lidí, nejen veřejných osobností

Ústředním tématem rozhodnutí je ochrana obyčejných, neveřejných osob. Rada zdůraznila, že právě tyto osoby, které se stanou terčem deepfake sexuálního obsahu, jsou obzvláště zranitelné, protože nemají veřejnou viditelnost ani institucionální podporu, jakou mají veřejně známé osobnosti. Systém, který po nich vyžaduje, aby samy prokazovaly nesouhlas, je pro ně mnohem tvrdší . Samotný případ se týkal AI generovaného podvrhu ženy, který nahlásil její přítel s tím, že obsah je neoprávněný a poškozuje její pověst .

Reakce na genderově podmíněné násilí

Rozhodnutí rady zároveň uznalo, že tyto deepfakes neúměrně poškozují ženy a dívky. Výzva k lepší automatické detekci, přesunu důkazního břemene a jasnějším pravidlům směřuje k řešení systémové povahy online zneužívání na základě pohlaví .

Co bude dál?

Meta má 60 dní na to, aby na doporučení dozorčí rady oficiálně odpověděla . Zatímco příkaz k odstranění konkrétního videa je závazný, širší politická doporučení závazná nejsou – nesou však značnou veřejnou a reputační váhu . Rozhodnutí navazuje na předchozí verdikty rady z let 2024 a 2025, které označily politiku Mety vůči deepfakes za „nekoherentní" a „nedostatečně jasnou" .