NYT onthult: Meta’s AI verwijdert per ongeluk duizenden accounts op Facebook en Instagram

Wat het NYT-onderzoek onthulde

Op 21 juli 2026 publiceerde The New York Times een onderzoek van Stuart A. Thompson en Eli Tan waarin werd gedocumenteerd hoe Meta's AI-gestuurde moderatiesystemen op grote schaal ten onrechte Facebook- en Instagram-accounts blokkeerden en verwijderden . De belangrijkste bevindingen:

• Talloze legitieme zakelijke accounts en creators werden gemarkeerd voor vage overtredingen zoals 'fraude en misleiding', zonder specifieke uitleg .
• Een van de uitgelichte gevallen was Camille Hanson. Haar accounts met bijna een miljoen volgers – die ze gebruikte voor haar bedrijf in Engelse les – werden van de ene op de andere dag gemarkeerd voor verwijdering .
• Wanneer gebruikers in beroep gingen, werden hun zaken vaak opnieuw door dezelfde AI-systemen behandeld in plaats van door een menselijke beoordelaar. Dit zorgde voor een eindeloze, dodelijke lus .
• Sommige accounts, waaronder die van Hanson, werden pas hersteld nadat NYT-journalisten direct hadden ingegrepen .

Meta's reactie

Meta gaf in sommige gevallen de fouten toe en herstelde bepaalde geblokkeerde accounts na vragen van de NYT. Het bedrijf stelt echter dat de nieuwe AI-moderationtools gemiddeld minder fouten maken dan menselijke moderators . Dit past in Meta's bredere strategische verschuiving: het vervangen van menselijke contentmoderatie door AI. Het bedrijf bevestigde deze overgang in januari 2026 en schrapte duizenden banen voor ingehuurde moderators .

Wat de Oversight Board van Meta zei

De Oversight Board, het onafhankelijke toezichtsorgaan van Meta, sprak zich in juni 2026 uit over het bredere probleem van accountdeactivering:

• Op 4 juni 2026 stelde de Board dat Meta's accountdeactiveringsproces geen eerlijk proces ('due process') biedt, dat overtredingen onduidelijk worden gecommuniceerd en dat klantenservice voor bezwaren vrijwel niet bestaat .
• De Board kondigde aan dat het voor de eerste keer Meta's algehele aanpak van permanent accountverwijdering zou onderzoeken .
• In een aparte uitspraak van 24 juni 2026 over een doodsbedreigingszaak handhaafde de Board het specifieke verbod, maar bekritiseerde opnieuw de ondoorzichtigheid van Meta's beleid .

Het verband met Meta's personeelsreducties

De onterechte AI-verwijderingen houden direct verband met Meta's personeelsstrategie:

• In april 2026 kondigde Meta aan 10% van het personeelsbestand (ongeveer 8.000 medewerkers) te schrappen en 6.000 openstaande functies te laten vervallen, expliciet om middelen vrij te maken voor AI-ontwikkeling .
• De ontslagen begonnen in mei 2026, troffen duizenden mensen, en overgebleven werknemers werden overgeplaatst naar AI-gerichte functies .
• In juni 2026 werd gemeld dat Meta menselijke contentmoderators al had vervangen door AI-systemen, waarmee duizenden banen voor ingehuurde moderators verdwenen .
• Eerdere ontslagen in oktober 2025 troffen ook medewerkers die toezicht hielden op gebruikersveiligheid en privacyrisico's, waardoor menselijk toezicht afnam terwijl geautomatiseerde moderatie werd uitgebreid .

Kortom: dezelfde AI-systemen die Meta opschaalt om menselijke moderators te vervangen (als onderdeel van een bredere AI-gedreven reorganisatie) produceren grootschalige, niet-gecorrigeerde fouten – ze blokkeren en verwijderen legitieme accounts, terwijl gebruikers nauwelijks een werkende bezwaarprocedure hebben.