KI-Moderation außer Kontrolle: Wie Meta mit fehlerhaften Sperren und einem gescheiterten Einspruchssystem legitime Nutzer verliert

Was die NYT-Recherche ergab

Die Untersuchung zeigt, dass Metas automatisierte Moderationssysteme, die inzwischen etwa 95 Prozent aller ersten Kontrollen übernehmen, eine alarmierend hohe Anzahl von Fehlalarmen produzieren :

• Vage Verstöße ohne Erklärung: Konten werden aus allgemeinen Gründen wie „Betrug und Täuschung" gesperrt. Welcher Beitrag oder welches Verhalten genau den Auslöser gab, bleibt unklar .
• Der Fall Camille Hanson: Ein exemplarischer Fall ist der von Camille Hanson. Ihre Facebook- und Instagram-Konten, mit denen sie und ihr Mann Englischunterricht für Nicht-Muttersprachler anboten und fast eine Million Follower hatten, wurden im März 2026 plötzlich zur Löschung markiert. Die Benachrichtigung erreichte sie mitten in der Nacht .
• Eine Einspruchs-Sackgasse: Wenn Nutzer Einspruch einlegen, wird ihr Fall oft erneut von denselben KI-Systemen bearbeitet – und nicht von einem menschlichen Prüfer. So entsteht eine Endlosschleife. Eine typische Antwort von Meta lautete schlicht: „Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" . (Anm.: „Alle deine Informationen werden dauerhaft gelöscht. Du kannst keine weitere Überprüfung dieser Entscheidung beantragen.")
• Nur durch Medienintervention: Einige Konten, darunter das von Hanson, wurden erst wiederhergestellt, nachdem sich Journalisten der New York Times direkt bei Meta einschalteten .

Metas Reaktion: Fehler eingeräumt, KI verteidigt

Als Reaktion auf die Anfrage der New York Times räumte Meta Fehler in einigen Fällen ein und stellte bestimmte gesperrte Konten wieder her. Gleichzeitig argumentiert das Unternehmen, dass seine neueren KI-Moderationstools weniger Fehler machten als menschliche Prüfer – mit einer Behauptung von 13 Prozent weniger Fehlern und einer 10 Prozent höheren Erkennungsrate von Verstößen .

Diese Haltung ist Teil einer grundlegenden strategischen Neuausrichtung. Meta bestätigte bereits im Januar 2025, dass automatisierte Systeme die Hauptverantwortung für die Identifizierung und Entfernung von regelverstoßenden Inhalten auf Facebook, Instagram und WhatsApp übernehmen sollen . Bis Mitte 2026 wurden tausende Stellen von Vertragsmoderatoren im Zuge dieses Wandels gestrichen .

Was das Meta-Aufsichtsgremium sagt

Metas eigenes unabhängiges Aufsichtsgremium (Oversight Board) äußerte sich im Juni 2026 zum Problem der Kontosperrungen – und seine Erkenntnisse sind eindeutig:

• Am 4. Juni 2026 stellte das Gremium fest, dass Metas Prozess zur Kontodeaktivierung keine rechtsstaatlichen Mindeststandards (due process) erfülle. Verstöße würden ohne Klarheit kommuniziert, und der Kundenservice für Einspruche sei faktisch nicht vorhanden .
• Das Gremium kündigte an, erstmals Metas allgemeines Vorgehen bei der dauerhaften Kontosperrung zu überprüfen .
• In einem separaten Urteil vom 24. Juni 2026 zu einem Fall mit Todesdrohungen bestätigte das Gremium zwar die konkrete Sperrung, kritisierte jedoch erneut die Undurchsichtigkeit von Metas Richtlinien .

Die Kritik des Gremiums spiegelt genau die Beschwerden von Nutzern wie Camille Hanson wider: Das System bietet keinen sinnvollen Weg, eine KI-generierte Entscheidung anzufechten.

Der Zusammenhang mit dem Personalabbau: Weniger Menschen, mehr KI-Fehler

Die unrechtmäßigen Löschungen sind kein isolierter Systemfehler. Sie sind eine vorhersehbare Folge von Metas Personalstrategie:

• April 2026: Meta kündigte an, 10 Prozent seiner Belegschaft (etwa 8.000 Stellen) zu streichen und 6.000 offene Positionen nicht zu besetzen – mit dem erklärten Ziel, Ressourcen in die KI-Entwicklung umzuleiten .
• Mai 2026: Die Entlassungen begannen. Verbleibende Mitarbeiter wurden in KI-zentrierte Rollen versetzt .
• Oktober 2025: Bereits frühere Kürzungen hatten über 100 Mitarbeiter des Risikoprüfungsteams (Risk Review Team) betroffen – genau die Teams, die für die Überwachung der Nutzersicherheit und des Datenschutzes zuständig waren .
• Juni 2026: Berichte bestätigten, dass Meta begonnen hatte, menschliche Inhaltsmoderatoren durch KI-Systeme zu ersetzen und tausende Stellen von Vertragsmoderatoren abzubauen .

Die entlassenen menschlichen Moderatoren und Risikoprüfer waren genau die Arbeitskräfte, die für die Art von differenzierter Prüfung benötigt werden, bei der KI-Systeme systematisch versagen. Dieselben KI-Systeme, die Meta nun hochskaliert, produzieren großflächige, unkorrigierte Fehler – sie sperren und löschen legitime Konten, ohne dass betroffene Nutzer wirksame Einspruchsmöglichkeiten haben.

Die Quintessenz

Die NYT-Recherche, die Ergebnisse des Aufsichtsgremiums und die dokumentierten Personalkürzungen zeichnen ein klares Bild: Metas KI-gesteuertes Moderationssystem produziert massenhaft Fehlalarme, der Einspruchsprozess ist faktisch kaputt, und das Unternehmen hat genau die Leute entlassen, die das Problem beheben könnten – während es die Technologie mit dem Argument verteidigt, sie mache weniger Fehler als die Menschen, die sie ersetzt hat .