Meta a diffusé des publicités payantes avec des images d'abus sexuels sur enfants générées par IA

Le Tech Transparency Project (TTP) a identifié indépendamment plus de 50 de ces publicités (images et vidéos) dans la bibliothèque publique d'annonces de Meta, publiées entre novembre 2025 et août 2026. Plusieurs de ces publicités renvoyaient vers des applications dites « nudify » qui génèrent des images sexualisées non consenties . Ces annonces ont collectivement touché des milliers de comptes aux États-Unis, au Royaume-Uni et dans plus d'une douzaine de pays européens .

Comment les propres systèmes de Meta ont failli

Les standards publicitaires de Meta interdisent explicitement les annonces contenant des ASE ou faisant la promotion d'applications nudify . Pourtant, les publicités ont été découvertes grâce aux propres outils de transparence de Meta. Les chercheurs du TTP ont constaté que certaines annonces étaient liées à GatherOne Inc., une société basée à Pékin et partenaire publicitaire agréé de Meta, qui avait placé environ 7 600 publicités pour des applications nudify sur Facebook et Instagram . Le TTP a identifié 210 pages Facebook liées à GatherOne, dont 85 étaient encore actives au moment du rapport .

Meta a déclaré par la suite que la plupart des publicités avaient une portée minimale et avaient été désactivées après examen, attribuant la défaillance à des systèmes de détection antérieurs à ses nouveaux outils de modération IA .

L'Inde réagit avec fermeté

Le gouvernement indien a réagi avec vigueur à ces révélations. Suite à une enquête distincte de BBC Eye qui a révélé qu'Instagram diffusait des publicités payantes faisant la promotion d'ASE — en utilisant des termes de recherche comme « vidéo de viol » et « vidéo d'enfant » renvoyant vers des chaînes Telegram — le ministère indien de l'Électronique et des Technologies de l'information (MeitY) a pris plusieurs mesures :

• Le ministre des Technologies de l'information, Ashwini Vaishnaw, a ordonné au MeitY de convoquer Meta pour une explication formelle .
• Le MeitY a émis un avis officiel ordonnant à Meta de désactiver immédiatement toutes les publicités et contenus sur Instagram qui promeuvent ou facilitent l'accès à des matériels d'exploitation et d'abus sexuels sur enfants (CSEAM) .
• Meta a reçu sept jours pour fournir une explication détaillée, sous peine de poursuites judiciaires, y compris des sanctions potentielles en vertu de la loi indienne sur les technologies de l'information et de la loi POCSO (protection des enfants contre les infractions sexuelles) .
• Le gouvernement a spécifiquement demandé à Meta d'expliquer comment son système de révision des publicités avait pu approuver de tels contenus pour une diffusion payante .

L'Union européenne adopte une interdiction préventive

La réponse réglementaire de l'UE a été structurelle et législative, plutôt qu'une action coercitive spécifique contre Meta pour ces publicités. L'AI Act européen inclut désormais une nouvelle disposition qui interdira la génération d'ASE à partir du 2 décembre 2026 . Cette mesure cible directement les contenus d'abus générés par IA, comme ceux décrits dans le rapport de WIRED.

L'AI Act impose également des obligations aux déployeurs et fournisseurs d'outils d'IA pour garantir la sécurité et la transparence, et exige que les contenus générés par IA soient identifiables . Par ailleurs, la Commission européenne avait déjà infligé une amende de 200 millions d'euros à Meta en avril 2025 pour non-conformité au Règlement sur les marchés numériques concernant son modèle publicitaire « Consentir ou Payer », bien que cette action ne soit pas directement liée aux ASE .

Ce que cela signifie

Les deux enquêtes révèlent une défaillance systémique dans l'infrastructure de révision des publicités de Meta. Malgré des politiques claires, des ASE générées par IA ont contourné les contrôles pendant des mois sur plusieurs plateformes. La réponse rapide de l'Inde — un ultimatum de 7 jours — signale une impatience croissante des gouvernements face à l'autorégulation des plateformes. L'interdiction de l'UE, quant à elle, établit un précédent mondial en criminalisant la génération même d'ASE, et pas seulement leur diffusion.