Meta sommé de mieux protéger les victimes de deepfakes sexuels générés par IA

Les principales réformes politiques exigées par le Conseil

La décision du Conseil va au-delà du cas individuel et émet plusieurs recommandations, contraignantes et non contraignantes, pour refondre la manière dont Meta gère les contenus sexualisés générés par IA, en particulier pour les personnes non publiques . Les changements clés incluent :

Considérer l'usurpation d'identité par IA comme non consensuelle par défaut

Le Conseil a explicitement déclaré que les usurpations d'identité générées par IA dans des contextes sexualisés devraient être considérées comme « non consensuelles par défaut » et a recommandé de les ajouter à la politique de Meta sur l'exploitation sexuelle des adultes . Cela déplace la charge de la preuve : ce n'est plus à la victime de prouver le non-consentement, mais à la plateforme de reconnaître le préjudice inhérent à ce type de contenu .

Permettre aux proches de confiance de signaler pour le compte des victimes

Un changement procédural important recommandé par le Conseil est d'autoriser les utilisateurs à désigner des « comptes connectés » – comme des amis de confiance ou des membres de la famille – qui peuvent signaler des violations potentielles, telles que des images intimes non consensuelles, au nom de la victime . Cela comble une lacune majeure : les victimes peuvent ne pas être au courant du contenu ou être incapables de le signaler elles-mêmes en raison d'un traumatisme ou de la peur.

Créer une catégorie de signalement mondiale pour les deepfakes sexuels générés par IA

Le Conseil a demandé à Meta de créer une catégorie de signalement mondiale dédiée aux deepfakes sexuels non consensuels générés par IA, afin de ne plus les classer sous une règle généralisée de harcèlement et d'intimidation . Cela faciliterait le dépôt et le suivi des signalements.

Mettre à jour la terminologie : de « photoshop sexualisé dérogatoire » à « contenu manipulé non consensuel »

Le Conseil avait déjà critiqué la terminologie obsolète de Meta, qui utilisait des expressions comme « photoshop sexualisé dérogatoire » . Le Conseil recommande de mettre à jour les règles de Meta avec des termes plus clairs et plus précis, reflétant la réalité moderne des abus générés par IA, en insistant sur la nature non consensuelle du contenu plutôt que sur la méthode de création .

Mettre en œuvre des credentials de contenu à grande échelle et améliorer la détection

Dans une affaire connexe concernant du contenu généré par IA, le Conseil a également appelé Meta à déployer des outils à grande échelle pour identifier les contenus générés par IA, notamment en adoptant la norme de provenance C2PA Content Credentials – une norme permettant de tracer l'origine et les modifications des médias . Le Conseil a estimé que les systèmes actuels de Meta reposent trop sur l'auto-déclaration des utilisateurs et manquent d'une détection automatisée robuste, en particulier pour la vidéo et l'audio .

L'accent mis sur la protection des personnes non publiques

Un thème central de la décision était le vide de protection pour les personnes ordinaires et non publiques. Le Conseil a souligné que les personnes non publiques ciblées par des deepfakes sexualisés sont particulièrement vulnérables dans des systèmes qui les obligent à prouver elles-mêmes le non-consentement, car elles manquent souvent de la visibilité publique ou du soutien institutionnel dont disposent les personnalités publiques . L'affaire elle-même portait sur l'usurpation d'identité sexualisée générée par IA d'une femme, signalée par une amie qui affirmait que le contenu était non consensuel et nuisait à sa réputation .

La prise en compte des violences de genre

La décision du Conseil reconnaît également le préjudice disproportionné que ces deepfakes causent aux femmes et aux filles. En appelant à une détection automatisée plus robuste, à un renversement de la charge de la preuve et à des politiques plus claires, le Conseil visait à s'attaquer à la nature systémique des abus en ligne fondés sur le genre .

Prochaines étapes pour Meta

Meta est tenu de répondre aux recommandations du Conseil de surveillance dans un délai de 60 jours . Si la recommandation de supprimer la vidéo spécifique est contraignante, les recommandations politiques plus larges ne le sont pas, mais elles ont un poids public et réputationnel significatif . Cette décision s'appuie sur des décisions précédentes du Conseil, en 2024 et 2025, qui avaient jugé les politiques de Meta en matière de deepfake « incohérentes » et « pas suffisamment claires » .