Meta godkände betalda annonser med AI-genererat sexuellt övergreppsmaterial mot barn – Indien kräver svar

Tech Transparency Project (TTP) identifierade självständigt över 50 av dessa bild- och videoannonser i Metas egna offentliga annonsbibliotek, publicerade mellan november 2025 och augusti 2026. Flera av annonserna länkade till så kallade "nudify"-appar som skapar icke-samtyckta sexualiserade bilder . Annonserna nådde sammanlagt tusentals konton i USA, Storbritannien och över ett dussin europeiska länder .

Hur Metas egna system misslyckades

Metas annonsregler förbjuder uttryckligen annonser som innehåller CSAM eller främjar nudify-appar . Ändå upptäcktes annonserna med hjälp av Metas egna transparensverktyg. TTP-forskarna fann att vissa annonser var kopplade till det Peking-baserade företaget GatherOne Inc., en godkänd Meta-reklampartner, som hade placerat cirka 7 600 annonser för AI-baserade nudify-appar på Facebook och Instagram . TTP identifierade 210 Facebook-sidor knutna till GatherOne, varav 85 sidor fortfarande var aktiva vid rapporteringstillfället .

Meta uppgav senare att de flesta annonserna hade minimal räckvidd och togs bort efter granskning, och skylde på att detektionssystemen var äldre än företagets nyare AI-moderneringsverktyg .

Indiens snabba regleringssvar

Den indiska regeringen reagerade omedelbart på avslöjandet. Efter en separat BBC Eye-undersökning som visade att Instagram körde betalda annonser som explicit främjade CSAM – med sökord som "rape video" och "child video" som ledde till Telegram-kanaler – vidtog Indiens ministerium för elektronik och informationsteknik (MeitY) flera åtgärder:

• IT-minister Ashwini Vaishnaw gav MeitY i uppdrag att kalla Meta till ett formellt möte för förklaring .
• MeitY utfärdade en formell order om att Meta omedelbart måste inaktivera alla annonser och allt innehåll på Instagram som främjar eller möjliggör tillgång till material som sexuellt exploaterar barn (CSEAM) .
• Meta fick sju dagar på sig att lämna en detaljerad förklaring, annars väntar rättsliga åtgärder, inklusive potentiella straff enligt Indiens IT-lag och POCSO-lag .
• Regeringen krävde specifikt att Meta förklarar hur dess annonsgranskningssystem hade godkänt sådant innehåll för betald distribution .

EU:s framåtblickande förbud

EU:s regleringssvar var strukturellt och lagstiftande snarare än en specifik åtgärd mot Meta för just dessa annonser. EU:s AI-akt har nu en ny bestämmelse som förbjuder generering av CSAM från och med 2 december 2026 . Detta riktar sig direkt mot AI-genererat övergreppsmaterial som det i WIRED-rapporten.

AI-akten ålägger också användare och leverantörer av AI-verktyg att säkerställa säkerhet och transparens, och kräver att AI-genererat innehåll ska vara identifierbart . Separata åtgärder: Europeiska kommissionen hade redan bötfällt Meta med 200 miljoner euro i april 2025 för bristande efterlevnad av den digitala marknadsakten avseende dess "Consent or Pay"-annonseringsmodell, även om detta inte direkt rörde CSAM .

Vad detta innebär

De två granskningarna avslöjar ett systematiskt misslyckande i Metas annonsgranskningsinfrastruktur. Trots tydliga policyer lyckades AI-genererat CSAM i månader glida igenom på flera plattformar. Indiens snabba svar – ett ultimatum på sju dagar – signalerar en växande otålighet bland regeringar gentemot plattformarnas självreglering. EU:s förbud sätter å sin sida ett globalt prejudikat genom att kriminalisera själva genereringen av CSAM, inte bara spridningen.