TTP: Meta ha distribuito 332 annunci sospetti con abusi sessuali su minori creati con l’IA

Il rapporto del Tech Transparency Project (TTP), pubblicato l’8 settembre, sostiene che i sistemi pubblicitari di Meta abbiano distribuito 332 annunci a pagamento su Facebook e Instagram contenenti sospetto materiale di abuso sessuale su minori (CSAM) generato o manipolato con l’intelligenza artificiale. Gli annunci sarebbero rimasti attivi tra novembre 2025 e agosto 2026 e avrebbero raggiunto più di 29.000 utenti in diverse aree del mondo. TTP avverte però che i dati pubblici dell’Ad Library non consentono di misurare integralmente la diffusione, soprattutto dove mancano informative regionali dettagliate. 69

Cosa avrebbe individuato l’indagine

Secondo TTP, gli annunci usavano immagini create o modificate dall’IA per sessualizzare minori e spesso pubblicizzavano applicazioni di tipo “nudify” o deepfake. Per “nudify” si intendono strumenti che alterano digitalmente una fotografia per produrre immagini esplicite. Il gruppo ha dichiarato che alcune immagini sembravano derivare da foto di bambini reali, compreso un minore appartenente a una famiglia reale europea. 910

Gli annunci sarebbero comparsi nell’Unione europea e nel Regno Unito, negli Stati Uniti, in India e in Australia. Le ricostruzioni sull’indagine indicano 84 annunci individuati in India e 120 rivolti a utenti australiani; la maggioranza sarebbe stata diffusa nell’UE e nel Regno Unito. 112

TTP ha collegato molti annunci a sviluppatori di app basate sull’IA e alla rete di rivenditori pubblicitari cinesi di Meta. Nel rapporto vengono citati, fra gli altri, GIMC e BlueFocus; altre ricostruzioni descrivono gli annunci come promozione di app deepfake “nudify”. 96

Perché il fatto che fossero annunci a pagamento è centrale

Il punto non è solo la presenza di contenuti dannosi su una piattaforma social. Si trattava, secondo TTP, di pubblicità a pagamento: materiale sottoposto ai processi di inserimento e revisione degli annunci di Meta prima della sua distribuzione agli utenti.

TTP ritiene che il caso evidenzi lacune sia nella revisione dei contenuti creativi sia nella verifica degli inserzionisti. L’organizzazione ha inoltre riferito che gran parte delle immagini era esplicita, non celata da formule ambigue o segnali visivi difficili da intercettare. 9

Sempre secondo TTP, Meta aveva inizialmente classificato 113 annunci rimossi come violazioni relative a contenuti sessuali per adulti o con categorie di policy generiche. Dopo la segnalazione dell’organizzazione, le notifiche sarebbero state modificate per indicare lo sfruttamento minorile. 9

La classificazione è rilevante anche sul piano della trasparenza: se annunci vietati non vengono attribuiti con coerenza alla categoria dello sfruttamento di minori, i dati pubblici sulle rimozioni potrebbero non restituire con chiarezza dimensione e natura del problema. 9

La risposta di Meta e le rimozioni

Andy Stone, portavoce di Meta, ha dichiarato che l’azienda vieta le app “nudify” e qualunque forma di sfruttamento minorile, «sia reale sia generato dall’IA». Ha aggiunto che chi cerca di aggirare le regole modifica continuamente le proprie tattiche e che Meta deve continuare a migliorare rilevamento e applicazione delle policy. 3

Meta ha inoltre sostenuto che molti annunci avevano una portata limitata, che alcuni erano stati disattivati prima delle segnalazioni esterne e che altri erano precedenti a strumenti più recenti pensati per rilevare e bloccare, già in fase di caricamento, gli annunci IA che violano le regole. 11

TTP riferisce che al 1º settembre Meta aveva rimosso 183 dei 332 annunci. Dopo che l’organizzazione ha condiviso i risultati il 2 settembre, Meta avrebbe eliminato i restanti 149 annunci e riclassificato altri 113 casi secondo le norme sullo sfruttamento minorile. 9

TTP ha tuttavia affermato che annunci analoghi sarebbero comparsi anche nei giorni successivi, incluso uno relativo al minore della famiglia reale europea. Le rimozioni, quindi, hanno riguardato gli annunci identificati, ma non dimostrano di per sé che il problema alla base dei controlli sia stato risolto. 9

Pressioni politiche e regolatorie

Il rapporto arriva mentre Meta è già sottoposta a un esame più ampio sulle tutele per i giovani e sulla sicurezza delle piattaforme. TTP ha collegato le conclusioni dell’indagine a una possibile transazione da 18 miliardi di dollari con procuratori generali statali degli Stati Uniti, in una vicenda relativa alle accuse secondo cui i prodotti di Meta avrebbero danneggiato i minori. 9

Il senatore statunitense Mark Warner aveva già chiesto a Meta come annunci di natura sfruttativa potessero superare i suoi sistemi, rilevando inoltre che l’Ad Library pubblica non offre agli utenti un modo per segnalare gli annunci problematici. 17

In India, la Commissione nazionale per i diritti umani ha chiesto chiarimenti a ministeri e polizia dopo notizie secondo cui inserzioni a pagamento su Instagram avrebbero promosso o facilitato l’accesso a CSAM. 2218

Le segnalazioni al NCMEC

TTP ha dichiarato di aver segnalato tutti gli annunci identificati al National Center for Missing & Exploited Children (NCMEC), anche attraverso la CyberTipline. Questo canale consente di valutare le segnalazioni di sospetto sfruttamento online e, quando opportuno, di inoltrarle alle autorità investigative. 93

La conclusione più ampia del rapporto è che la prevenzione degli abusi dell’IA non può limitarsi alla moderazione dopo la pubblicazione. Nel caso degli annunci a pagamento, il punto decisivo è a monte: controlli sugli inserzionisti, revisione dei contenuti creativi, rilevamento automatico, corretta classificazione delle violazioni e interventi rapidi una volta individuato l’abuso.