Metas gefährlicher Widerspruch: KI versagt bei Kinderschutz, doch Menschen werden entlassen

Doch dieses aggressive Testen der Konkurrenz steht in scharfem Kontrast zu Metas eigenen Ergebnissen.

Metas interne Versagensrate beim Kinderschutz

Metas eigene interne Sicherheitstests, die als Beweismittel vor Gericht vorgelegt und vom NYU-Professor Damon McCoy zitiert wurden, ergaben, dass eine Meta-Chatbot-Initiative in rund 70% der Testfälle Minderjährige nicht vor sexueller Ausbeutung schützen konnte . Diese Ergebnisse, über die Axios am 16. Februar 2026 berichtete , stammen aus einem Bericht vom 6. Juni 2025 und zeigen folgende Versagensraten:

• Szenarien sexueller Kindesausbeutung: Versagen in 66,8% der Fälle .
• Sexualstraftaten, Gewaltverbrechen und Hassinhalte: Versagen in 63,6% der Fälle .
• Suizid- und Selbstverletzungsanfragen: Versagen in 54,8% der Fälle .

Diese internen Fehlschläge waren keine Einzelfälle. Bereits im August 2025 enthüllte ein internes Meta-Dokument, das Reuters einsehen konnte, dass Metas KI romantische oder sinnliche Dialoge mit Minderjährigen führen durfte . Im Januar 2026 sperrte Meta den Zugang von Teenagern zu seinen Chatbots vorübergehend – erst nachdem interne Sicherheitswarnungen offenbar ignoriert worden waren . Im August 2025 erklärte Meta gegenüber TechCrunch, man werde die Trainingsregeln für Chatbots anpassen, um unangemessene Themen mit Jugendlichen zu vermeiden – aber erst, nachdem der Reuters-Bericht öffentliche Empörung ausgelöst hatte .

Metas Plan: Menschliche Moderatoren durch KI ersetzen – und die Folgen in Kenia

Trotz dieser dokumentierten Sicherheitslücken treibt Meta den Ersatz von über 90% seiner menschlichen Content-Moderatoren durch generative KI bis Ende 2026 voran – als Teil eines breiteren Sparkurses . Das Unternehmen bestätigte die Umstellung im Januar 2026, der Übergang ist bereits in vollem Gange .

Die menschlichen Kosten dieser Automatisierung sind bereits spürbar. Im April 2026 kündigte Meta seinen Vertrag mit Sama, der kenianischen Outsourcing-Firma, die hunderte Content-Moderatoren in Nairobi beschäftigte. Sama entließ daraufhin 1.108 Mitarbeiter . Eine andere kenianische Outsourcing-Firma feuerte ebenfalls Dutzende Content-Moderatoren – kurz nachdem diese versucht hatten, sich für bessere Bezahlung und psychologische Unterstützung zu organisieren. Mitarbeiter berichten, sie seien wegen ihrer Unterstützung für Gewerkschaftsbildung und wegen Kritik an den traumatischen Arbeitsbedingungen ins Visier genommen worden .

Der Kern des Widerspruchs: Ein krasser Doppelstandard

Die Beweislage zeichnet einen eklatanten Widerspruch. Metas eigene interne Daten belegen, dass seine KI in der überwältigenden Mehrheit der Fälle beim Kinderschutz versagt. Gleichzeitig baut das Unternehmen die menschliche Belegschaft ab, die genau diese Fehler aufdeckte, und setzt Mitarbeiter dafür ein, zu beweisen, dass die KI der Konkurrenz noch schlechter ist.

Dieser Doppelstandard wirft ernste Fragen zu Metas Prioritäten auf. Das Unternehmen investiert massiv in den Nachweis, dass die Chatbots der Konkurrenz für Minderjährige unsicher sind, während die eigenen internen Tests eine Versagensrate von 70% beim Kinderschutz belegen – und die menschlichen Kontrollinstanzen, die diese Fehler entdeckten, abgebaut werden, ersetzt durch eine Technologie, die ihre Sicherheit noch nicht unter Beweis gestellt hat.