Metas egen annonspartner spred tusentals förbjudna ”nudify”-annonser

Omfattningen: tusentals annonser och hundratals sidor

TTP:s granskning byggde på uppgifter i Metas eget annonsbibliotek och identifierade ett omfattande nätverk:

• Över 7 600 annonser marknadsförde AI-appar som kan ta bort kläder från bilder av kvinnor .
• 210 Facebook-sidor angav GatherOne som annonsör och betalande part .
• 179 sidor – 85 procent av nätverket – hade kört annonser som Meta senare tog bort för överträdelser kopplade till sexuellt utnyttjande, sexuell värvning eller nakenhet .
• Flera annonser visade kvinnor som klädde av sig eller simulerade sexuella handlingar, vilket strider mot Metas regler för nakenhet och sexuellt suggestivt innehåll .
• Användarrecensioner av en av apparna flaggade dessutom material som verkade kunna utgöra sexuella övergrepp mot barn .

Enligt TTP bröt annonserna mot tre relevanta delar av Metas regelverk: förbudet mot att marknadsföra appar som skapar bilder av sexuellt innehåll utan samtycke, reglerna mot nakenhet och sexuellt suggestiva annonser samt förbudet mot oautentiskt beteende, exempelvis falska konton .

Varför GatherOne spelar en central roll

GatherOne är inte en vanlig extern annonsbyrå. Företaget är en av endast elva ”top-tier”-återförsäljare som Meta officiellt har auktoriserat i Kina . Eftersom Facebook och Instagram är blockerade i Kina behöver kinesiska företag gå via sådana mellanhänder för att nå användare på Metas globala plattformar.

Kopplingen till GatherOne framgår av uppgifterna i Metas annonsbibliotek: kontona bakom annonserna angav företaget som både annonsör och betalare . GatherOne uppges totalt skapa mer än 30 000 annonser i månaden. Den stora volymen kan vara en del av förklaringen till att Metas system inte lyckades slå ut hela nätverket på en gång, även om rapporten inte fastställer exakt varför annonserna kunde ligga kvar .

Metas och GatherOnes svar

Meta svarade inte direkt på TTP:s frågor, men sade till Bloomberg att bolaget vidtar ”aggressiva åtgärder” mot nudify-appar. Enligt Meta kan annonsörer som bryter mot reglerna få sina annonser stoppade, drabbas av ekonomiska sanktioner och få sina annonskonton avslutade .

Cindy Southworth, chef för Metas policy för kvinnors säkerhet, sade:

”Vi tillåter inte bilder av sexuellt innehåll utan samtycke eller nudify-appar på våra plattformar, och vi vidtar aggressiva åtgärder för att bekämpa dem.”

Så sent som i juni 2025 stämde Meta dessutom skaparna bakom CrushAI:s nudify-appar och presenterade ny teknik för att upptäcka sådant innehåll . TTP:s granskning tyder dock på att åtgärderna inte hindrade annonser från att fortsätta publiceras genom en av Metas egna auktoriserade partners.

Efter att rapporten publicerats uppgav GatherOne för TTP att företaget hade stoppat nya ansökningar om annonskonton med koppling till AI-baserade nudify-, ansiktsbytes- och ”girlfriend”-tjänster. Företaget sade också att det genomförde en omfattande uppgradering av sina kontrollrutiner för att hantera den tekniska utvecklingen inom syntetiska medier .

Kinesiska annonsörer är viktiga för Metas ekonomi

Rapporten publiceras mot bakgrund av Metas stora ekonomiska beroende av kinesiska annonsörer. Enligt uppgifter i rapporten och andra granskningar:

• Meta fick in 18,35 miljarder dollar från Kina under 2024, jämfört med 13,69 miljarder dollar året innan. Det motsvarade ungefär en tiondel av bolagets totala årsintäkter .
• En Reuters-granskning från december 2025, baserad på interna Meta-dokument, kom fram till att omkring 19 procent – över 3 miljarder dollar – av de kinesiska intäkterna härrörde från annonser för bedrägerier, olagligt hasardspel, pornografi och annat förbjudet innehåll .
• Analytiker på MoffettNathanson bedömde att Meta kunde förlora omkring 7 miljarder dollar i kinesiska annonsintäkter till följd av handelstullar .

TTP beskriver därför inte bara de aktuella annonserna som ett isolerat misslyckande, utan som ännu ett exempel på en större kontrollproblematik. Kritiken är att Meta har tolererat policyöverträdelser från kinesiska partners för att skydda en annonsaffär värd miljarder .

Vad innebär Take It Down Act?

Granskningen kommer också efter att USA infört den federala lagen TAKE IT DOWN Act – en lag mot spridning av intima bilder utan samtycke, inklusive AI-genererat material.

Lagen antogs av representanthuset med röstsiffrorna 409–2 och undertecknades av president Donald Trump den 19 maj 2025. Den blev då Public Law No. 119-12 .

Lagen förbjuder publicering på nätet av intima bilder utan den avbildades samtycke, oavsett om materialet är äkta eller datorgenererat. Den kräver också att berörda plattformar skyndsamt tar bort materialet när de får en anmälan .

TTP:s rapport visar samtidigt att lagstiftning inte automatiskt löser problemet. I praktiken är systemet fortfarande beroende av att plattformar som Meta upptäcker överträdelser, agerar konsekvent och stänger av de nätverk som ligger bakom dem – även när de är kopplade till värdefulla annonsintäkter.

Slutsats

TTP:s rapport pekar ut Metas auktoriserade kinesiska annonspartner GatherOne som länken bakom tusentals annonser för förbjudna AI-appar. Många av annonserna togs bort i efterhand, men Meta har inte förklarat varför nätverket kunde fortsätta så länge eller varför det inte stängdes ner tidigare.

GatherOne har sedan dess stoppat nya relaterade kontoansökningar. Fallet sätter ändå fingret på en tydlig konflikt mellan Metas offentliga löften om säkerhet och bolagets ekonomiska beroende av den kinesiska annonsmarknaden – en marknad som gav Meta 18,35 miljarder dollar under 2024, samtidigt som nästan en femtedel enligt en separat granskning kopplades till annonser för förbjudet innehåll.