Rapport: Meta visade 332 misstänkta AI-annonser med övergreppsmaterial mot barn

Tech Transparency Project (TTP) uppger i en rapport publicerad den 8 september att Metas annonssystem distribuerade 332 betalda annonser på Facebook och Instagram med misstänkt AI-genererat övergreppsmaterial mot barn. Annonserna visades mellan november 2025 och augusti 2026 och nådde enligt TTP fler än 29 000 användare i flera delar av världen. Organisationen betonar samtidigt att uppgifterna i Metas offentliga annonsbibliotek inte ger en fullständig bild av spridningen, särskilt utanför de regioner där plattformen redovisar sådan data. 69

Vad granskningen kom fram till

Enligt TTP använde annonserna AI-genererade eller AI-manipulerade bilder för att sexualisera barn. Många marknadsförde appar för så kallad nudify eller deepfakes – verktyg som kan skapa sexualiserat bildmaterial av personer. TTP uppgav att vissa bilder tycktes utgå från foton av verkliga barn, bland annat en minderårig medlem av en europeisk kungafamilj. 910

Annonserna förekom enligt rapporteringen i EU och Storbritannien, USA, Indien och Australien. TTP identifierade 84 annonser i Indien och 120 som riktades mot användare i Australien. Merparten uppges ha körts i EU och Storbritannien. 112

TTP kopplade många annonser till utvecklare av AI-appar och till Metas kinesiska nätverk av återförsäljare av annonser. I rapporten nämns bland andra GIMC och BlueFocus, medan annan rapportering beskriver hur många annonser marknadsförde deepfake-baserade nudify-appar. 96

Det avgörande: det handlade om betald annonsering

Kärnan i kritiken är inte bara att skadligt innehåll dök upp på en social plattform. Det rörde sig om betalda annonser – material som, enligt TTP:s uppgifter, hade skickats in till Metas annonssystem, passerat dess granskning och därefter distribuerats till användare.

TTP menar att detta visar brister både i granskningen av annonsmaterial och i kontrollen av annonsörer. Organisationen uppgav att mycket av bildmaterialet var tydligt och inte dolt bakom vaga formuleringar eller svårtolkade visuella signaler. TTP sade också att Meta först kategoriserade 113 borttagna annonser som vuxensexuellt innehåll eller under allmänna policyregler, men senare ändrade anmälningarna till kategorin barnexploatering efter att organisationen påtalat saken. 9

Klassificeringen har betydelse för insynen. Om förbjudna annonser inte konsekvent registreras som innehåll om barnexploatering kan offentlig statistik om borttagningar ge en missvisande bild av problemets omfattning och karaktär, enligt TTP. 9

Metas svar och borttagningarna

Metas talesperson Andy Stone sade att företaget förbjuder nudify-appar och allt sexuellt utnyttjande av barn, ”oavsett om det är verkligt eller AI-genererat”. Han sade att personer som försöker undvika plattformens regler ständigt ändrar sina metoder och att Meta därför måste fortsätta förbättra upptäckt och efterlevnad. 3

Meta uppgav också att många av annonserna hade begränsad räckvidd, att en del stängts av redan före extern rapportering och att vissa visades innan nyare verktyg för att upptäcka och stoppa regelbrytande AI-relaterade annonser vid uppladdning hade införts. 11

Enligt TTP hade Meta tagit bort 183 av de 332 annonserna senast den 1 september. Efter att TTP delat sina resultat den 2 september tog Meta bort de återstående 149 annonserna och ändrade klassificeringen av 113 andra till regler om barnexploatering, uppger organisationen. 9

TTP sade dock att liknande annonser fortsatte att dyka upp under de följande dagarna, däribland en annons med den europeiska kungliga minderåriga. Borttagningarna omfattade alltså de identifierade annonserna, men visade inte i sig att den underliggande bristen i granskningen var löst. 9

Ökad politisk och regulatorisk press

Rapporten publicerades samtidigt som Meta redan stod under hårdare granskning för hur bolaget hanterar unga användare och säkerhet på sina plattformar. TTP kopplade fynden till en möjlig uppgörelse på 18 miljarder dollar med amerikanska delstatsåklagare, som gäller anklagelser om att Metas produkter har skadat unga. 9

Senator Mark Warner hade tidigare frågat Meta hur exploaterande annonser kunde passera bolagets system. Han pekade också på att Metas offentliga annonsbibliotek saknade en funktion där användare kan anmäla stötande annonser. 17

I Indien begärde den nationella människorättskommissionen svar från myndigheter och polis efter rapporter om att betalda Instagram-annonser marknadsförde eller underlättade tillgång till övergreppsmaterial mot barn. 2218

TTP:s anmälningar

TTP uppger att organisationen rapporterade varje identifierad annons till National Center for Missing & Exploited Children, bland annat via organisationens CyberTipline. Den rapporteringsvägen kan leda till att misstänkt nätbaserat sexuellt utnyttjande av barn granskas och, när det är motiverat, hänvisas vidare till brottsbekämpande myndigheter. 93

Rapportens övergripande slutsats är att skyddet mot AI-relaterade övergrepp inte kan begränsas till moderering efter publicering. För betalda annonser ligger den avgörande kontrollpunkten tidigare: kontroll av annonsörer, granskning av annonsmaterial, automatiserad upptäckt, korrekt policyklassificering och snabba åtgärder när övergrepp identifieras.