Il Consiglio di Sorveglianza di Meta ordina la rimozione di un deepfake sessualizzato e chiede riforme per proteggere le persone comuni

Le principali riforme richieste dal Consiglio

La sentenza del Consiglio va oltre il singolo caso e include diverse raccomandazioni vincolanti e non vincolanti per rinnovare il modo in cui Meta gestisce i contenuti sessualizzati generati dall'IA, in particolare per le persone che non sono figure pubbliche . Ecco i cambiamenti chiave:

Considerare l'impersonificazione generata dall'IA come non consensuale per default

Il Consiglio ha dichiarato esplicitamente che le impersonificazioni create con l'IA in contesti sessualizzati dovrebbero essere considerate "non consensuali per default" e ha raccomandato di aggiungerle alla politica di Meta sullo sfruttamento sessuale degli adulti . Questo sposta l'onere della prova dalle vittime — che finora dovevano dimostrare la mancanza di consenso — alla piattaforma, che dovrebbe riconoscere il danno intrinseco di tali contenuti .

Consentire ai contatti fidati di segnalare per conto delle vittime

Un cambiamento procedurale significativo raccomandato dal Consiglio è quello di permettere agli utenti di designare "account connessi" — come amici fidati o familiari — che possano segnalare potenziali violazioni, come immagini intime non consensuali, per conto della vittima . Questo affronta un vuoto importante: le vittime potrebbero non essere a conoscenza del contenuto o non essere in grado di segnalarlo a causa di trauma o paura.

Creare una categoria di segnalazione globale per immagini sessualizzate generate dall'IA

Il Consiglio ha chiesto a Meta di creare una categoria di segnalazione globale e dedicata per le immagini sessualizzate non consensuali generate dall'IA, superando l'attuale classificazione sotto una generica norma su bullismo e molestie . Ciò renderebbe le segnalazioni più facili da inoltrare e monitorare.

Aggiornare la terminologia: da "Photoshop denigratorio sessualizzato" a "media manipolati non consensuali"

Il Consiglio aveva già criticato in passato la terminologia obsoleta di Meta, che utilizzava espressioni come "derogatory sexualized photoshop" (Photoshop denigratorio sessualizzato) . Il Consiglio raccomanda di aggiornare le regole di Meta con termini più chiari e accurati che riflettano la realtà moderna dell'abuso basato sull'IA, enfatizzando la natura non consensuale del contenuto piuttosto che il metodo di creazione .

Implementare su larga scala le credenziali dei contenuti e migliorare il rilevamento

In un caso correlato sui contenuti generati dall'IA, il Consiglio ha anche chiesto a Meta di implementare strumenti scalabili per identificare i contenuti creati con IA, incluso l'adozione dello standard Content Credentials (C2PA) — uno standard di provenienza che traccia l'origine e le modifiche dei media . Il Consiglio ha riscontrato che gli attuali sistemi di Meta si basano troppo sull'auto-dichiarazione degli utenti e mancano di un solido rilevamento automatico, soprattutto per video e audio .

Focus sulla protezione delle persone non pubbliche

Un tema centrale della sentenza è stato il divario di protezione per le persone comuni, non pubbliche. Il Consiglio ha sottolineato che le persone non pubbliche prese di mira da deepfake sessualizzati sono particolarmente danneggiate da sistemi che richiedono loro di provare la mancanza di consenso, poiché spesso non hanno la visibilità pubblica o il supporto istituzionale disponibile per le figure pubbliche . Il caso stesso riguardava l'impersonificazione sessualizzata generata dall'IA di una donna, segnalata da un'amica che ha dichiarato che il contenuto era non consensuale e dannoso per la reputazione .

Affrontare il danno di genere

La decisione del Consiglio ha anche riconosciuto il danno sproporzionato che questi deepfake causano a donne e ragazze. Chiedendo un rilevamento automatico più forte, uno spostamento dell'onere della prova e politiche più chiare, il Consiglio ha mirato ad affrontare la natura sistemica dell'abuso online basato sul genere .

Prossimi passi per Meta

Meta è tenuta a rispondere alle raccomandazioni del Consiglio di Sorveglianza entro 60 giorni . Mentre la raccomandazione di rimuovere il video specifico è vincolante, le raccomandazioni politiche più ampie non lo sono, ma hanno un peso pubblico e reputazionale significativo . La sentenza si basa su decisioni precedenti del Consiglio nel 2024 e nel 2025, che avevano definito le politiche di Meta sui deepfake "incoerenti" e "non sufficientemente chiare" .