TTP-Bericht: Meta spielte 332 mutmaßliche KI-Anzeigen mit Darstellungen sexuellen Kindesmissbrauchs aus

Das Tech Transparency Project (TTP) hat nach eigener Recherche 332 bezahlte Anzeigen auf Facebook und Instagram identifiziert, die mutmaßlich KI-generiertes Material sexuellen Kindesmissbrauchs enthielten. Die Anzeigen liefen demnach zwischen November 2025 und August 2026 und erreichten zusammen mehr als 29.000 Menschen. TTP betont allerdings, dass die öffentlich einsehbare Meta Ad Library kein vollständiges Bild der Ausspielung liefert – besonders außerhalb jener Regionen, für die detailliertere Transparenzdaten verfügbar sind. 69

Worum es bei den Anzeigen ging

Den Angaben von TTP zufolge sexualisierten die Werbemittel Kinder mithilfe KI-generierter oder KI-manipulierter Bilder und bewarben oft sogenannte „Nudify“- oder Deepfake-Anwendungen. Mit solchen Tools lassen sich Bilder digital in explizite Darstellungen verändern. Einige Motive sollen auf Fotos realer Kinder beruht haben, darunter auch auf einem Bild eines minderjährigen Mitglieds einer europäischen Königsfamilie. 910

Die Anzeigen tauchten laut Recherche in der Europäischen Union und im Vereinigten Königreich, in den USA, Indien und Australien auf. TTP identifizierte 84 Anzeigen in Indien und 120 mit Ausrichtung auf Australien; der größte Teil der erfassten Anzeigen lief demnach in der EU und im Vereinigten Königreich. 112

TTP brachte zahlreiche Anzeigen mit Entwicklern von KI-Apps sowie mit Metas chinesischem Netzwerk von Werbe-Resellern in Verbindung. Im Bericht werden unter anderem GIMC und BlueFocus genannt. Andere Berichte beschrieben die beworbenen Angebote vor allem als Deepfake-„Nudify“-Apps. 96

Warum die bezahlte Ausspielung besonders schwer wiegt

Der Kern des Falls ist nicht nur, dass schädliche Inhalte auf einer Plattform sichtbar waren. Es handelte sich um bezahlte Werbung: Die Inhalte waren nach den TTP-Ergebnissen in Metas Werbesystem eingereicht, geprüft und an Nutzerinnen und Nutzer ausgeliefert worden.

TTP sieht darin Versäumnisse sowohl bei der Prüfung der Werbemittel als auch bei der Kontrolle der Werbekunden. Viele Bilder seien nicht bloß durch Andeutungen oder mehrdeutige Gestaltung verschleiert gewesen, sondern offen erkennbar. Zudem habe Meta 113 entfernte Anzeigen zunächst unter Kategorien wie Erwachseneninhalte oder allgemeinen Richtlinienverstößen geführt. Erst nachdem TTP darauf hingewiesen habe, seien diese Hinweise in Klassifizierungen wegen Kindesausbeutung geändert worden. 9

Für Transparenz und Durchsetzung ist diese Einordnung wichtig: Werden verbotene Anzeigen nicht konsequent als Material im Zusammenhang mit Kindesausbeutung klassifiziert, könnten öffentlich dokumentierte Entfernungsdaten Ausmaß und Art des Problems unklar darstellen, so TTP. 9

Metas Stellungnahme und die Entfernung der Anzeigen

Meta-Sprecher Andy Stone erklärte, das Unternehmen verbiete „Nudify“-Apps und jede Form von Kindesausbeutung – unabhängig davon, ob Inhalte real oder KI-generiert seien. Personen, die Regeln umgehen wollten, passten ihre Methoden fortlaufend an; Meta müsse deshalb Erkennung und Durchsetzung weiter verbessern. 3

Meta erklärte außerdem, viele der Anzeigen hätten nur eine geringe Reichweite gehabt. Einige seien bereits vor externen Hinweisen deaktiviert worden; andere stammten aus der Zeit vor neueren Werkzeugen, die regelwidrige KI-bezogene Anzeigen schon beim Hochladen erkennen und blockieren sollen. 11

Laut TTP hatte Meta bis zum 1. September 183 der 332 Anzeigen entfernt. Nachdem TTP seine Ergebnisse am 2. September mit dem Unternehmen geteilt hatte, seien auch die übrigen 149 Anzeigen entfernt und 113 weitere Fälle nach den Regeln zu Kindesausbeutung neu klassifiziert worden. 9

TTP berichtete jedoch, dass in den folgenden Tagen weiterhin ähnliche Anzeigen erschienen seien, darunter auch eine mit Bezug zu dem minderjährigen Mitglied der europäischen Königsfamilie. Die Entfernung der konkret identifizierten Anzeigen belegt daher für sich genommen nicht, dass das zugrunde liegende Problem bei Prüfung und Freigabe gelöst ist. 9

Zunehmender politischer und regulatorischer Druck

Der Bericht erschien in einer Phase intensiverer Kritik an Metas Umgang mit jungen Nutzerinnen und Nutzern sowie mit Plattform-Sicherheit. TTP stellte die Ergebnisse in den Zusammenhang mit einem möglichen Vergleich über 18 Milliarden US-Dollar mit Generalstaatsanwälten mehrerer US-Bundesstaaten; dabei geht es um Vorwürfe, Metas Produkte hätten jungen Menschen geschadet. 9

Der US-Senator Mark Warner hatte Meta bereits zuvor gefragt, wie ausbeuterische Anzeigen die Systeme des Konzerns passieren konnten. Er kritisierte zudem, dass die öffentliche Meta Ad Library keine Möglichkeit bietet, problematische Anzeigen direkt zu melden. 17

In Indien forderte die Nationale Menschenrechtskommission Stellungnahmen von Ministerien und der Polizei an, nachdem Berichte über bezahlte Instagram-Anzeigen erschienen waren, die den Zugang zu Material sexuellen Kindesmissbrauchs beworben oder erleichtert haben sollen. 2218

Meldung an die zuständige US-Stelle

TTP erklärte, jede im Rahmen der Recherche identifizierte Anzeige dem National Center for Missing & Exploited Children (NCMEC) gemeldet zu haben, auch über dessen CyberTipline. Dort können Hinweise auf mutmaßliche Online-Kindesausbeutung bewertet und gegebenenfalls an Strafverfolgungsbehörden weitergegeben werden. 93

Die zentrale Lehre aus dem Fall lautet damit: Der Schutz vor KI-Missbrauch darf nicht erst bei der Moderation nach der Veröffentlichung ansetzen. Bei bezahlter Werbung liegen entscheidende Kontrollpunkte früher – bei der Überprüfung von Werbekunden, der Prüfung der Werbemittel, automatisierter Erkennung, korrekter Richtlinienklassifizierung und schnellen Maßnahmen bei festgestelltem Missbrauch.