Deepfake non consensuel : YouTube et X pointés du doigt par un rapport choc

Violation directe des chartes. Le rapport de l'ISD souligne que ces résultats sont en « conflit direct » avec les propres règles de YouTube, qui interdisent le contenu sexuellement explicite. Les chercheurs ont constaté que les contenus violant ces règles étaient « faciles à découvrir et accessibles », transformant de fait la plateforme en porte d'entrée pour ces abus . Melanie Smith, directrice senior de la recherche et des politiques à l'ISD, déclare : « Ce n'était pas seulement que YouTube était une source passive de trafic. Dans beaucoup de cas, il facilitait également l'utilisation de ces outils », ajoutant que l'application des règles existantes n'est pas exhaustive .

X et les moteurs de recherche. La précédente analyse de l'ISD (2025) documentait que X représentait 289 660 des 410 592 mentions totales de mots-clés liés aux outils SIIA entre juin 2020 et juillet 2025, soit plus de 70 % de toute l'activité, une grande partie étant le fait de bots . De plus, de simples recherches sur Google, Yahoo et Bing pour des termes comme « deepnude », « nudify » ou « undress app » renvoyaient des liens directs vers ces outils dans les 20 premiers résultats organiques. Bing affichait ces outils comme tout premier résultat pour les trois requêtes .

Un modèle économique lucratif et un coût dérisoire pour les abuseurs

Le rapport de l'ISD met en avant les facteurs économiques qui alimentent la prolifération de ces outils.

Prix pour les abuseurs. Ces outils permettent de générer du contenu explicite pour seulement 1 dollar par image, rendant cet abus accessible au plus grand nombre .

Revenus pour les plateformes. Une enquête de WIRED, citée dans le rapport de l'ISD, estime que ces plateformes génèrent collectivement jusqu'à 36 millions de dollars de revenus annuels . Ce modèle lucratif crée une forte incitation financière pour les opérateurs à maintenir leurs services facilement accessibles.

Cibles et motivations : au-delà du cadre sexuel

L'étude détaille qui sont les cibles et quelles sont les motivations, révélant des schémas qui dépassent le cadre purement sexuel.

Victimes principales. L'ISD a constaté que les cibles courantes incluent les petites amies et ex-petites amies, et de manière alarmante, des membres de la famille comme des sœurs et des cousines . Une étude de l'Oxford Internet Institute (2025) a par ailleurs révélé que sur près de 35 000 modèles de deepfake disponibles publiquement, 96 % ciblaient des femmes . Des cas liés aux deepfakes ont été signalés dans plus de 90 établissements scolaires dans le monde .

Motivations non sexuelles. Les motivations derrière ces abus ne sont pas toujours sexuelles. Melanie Smith note qu'« un grand nombre de demandes visaient à faire licencier des personnes et à compromettre leurs moyens de subsistance de manière malveillante » . Cette instrumentalisation des deepfakes pour nuire à la réputation et à la carrière représente une forme insidieuse de violence basée sur l'image.

Les réponses législatives et réglementaires

Face à l'ampleur du problème, les législateurs américains ont mis en place une réponse multi-niveaux.

Au niveau fédéral : le « Take It Down Act ». Promulguée en mai 2025, cette loi (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) érige en crime fédéral le fait de publier ou de menacer de publier, en connaissance de cause, des images intimes non consensuelles . Ses obligations de conformité pour les plateformes sont entrées en vigueur le 19 mai 2026 . Les plateformes concernées (réseaux sociaux, applis de messagerie) doivent désormais fournir un processus permettant aux victimes de demander le retrait de ces images et doivent supprimer le contenu — ainsi que toutes les copies identiques connues — sous 48 heures suivant une demande valide, sous peine de sanctions de la Federal Trade Commission (FTC) .

Au niveau des États : l'interdiction pionnière du Minnesota. Le Minnesota est devenu le premier État américain à adopter une loi interdisant spécifiquement la technologie de « nudification » . Effective au 1er août 2026, la loi interdit à toute personne propriétaire ou contrôlant un site web, une application ou un logiciel d'en permettre l'accès ou l'utilisation . Elle autorise également les victimes à intenter des actions civiles . Le texte a été adopté avec un soutien bipartite écrasant, dont un vote unanime de 65 voix contre 0 au Sénat de l'État . Les entreprises en infraction s'exposent à des sanctions civiles pouvant aller jusqu'à 500 000 dollars par violation .

Réponses des plateformes et lacunes. En janvier 2026, X a fait face à de vives critiques après que son chatbot IA Grok a été utilisé pour générer au moins 23 000 images sexualisées d'enfants et 1,8 million d'images de femmes sur une période de neuf jours en décembre 2025 . X a depuis restreint l'accès à Grok aux utilisateurs payants . Le rapport de l'ISD appelle à des réponses coordonnées et systémiques, incluant une régulation plus stricte des plateformes et des programmes d'éducation numérique dans les écoles . Il soulève également des inquiétudes quant aux lacunes dans l'application des règles : si YouTube interdit théoriquement les liens vers du contenu sexuellement explicite, l'ISD a constaté que ces règles ne sont pas appliquées de manière exhaustive, ce qui permet à la plateforme de rester une porte d'entrée majeure .