Meta's AI-tegenstrijdigheid: eigen tests falen voor 70% in kinderbescherming, terwijl bedrijf menselijke moderators vervangt door AI en rivalen aanvalt

De tegenstrijdigheid in Meta's AI-strategie

Een WIRED-onderzoek uit juni 2026 onthulde dat Meta honderden contractanten via de Ierse outsourcingfirma Covalen de opdracht gaf zich online voor te doen als minderjarigen om te onderzoeken hoe concurrenten – waaronder OpenAI's ChatGPT, Google's Gemini en Character.AI – reageren op risicovolle prompts over zelfmoord, zelfbeschadiging, seks, eetstoornissen en drugs . Het project, intern 'Cannes' genoemd, was actief tot ten minste 21 april 2026 . Werknemers maakten accounts aan van gebruikers onder de 18 en stuurden duizenden gevoelige tekst- en afbeeldingsprompts, waarbij ze de reacties in spreadsheets vastlegden. Een grootschalige test in augustus 2025 omvatte meer dan 45.000 prompts in één ronde . Een andere spreadsheet bevatte 3.748 prompts, waarvan honderden over zelfmoord/zelfbeschadiging en honderden over eetstoornissen . Een Meta-woordvoerder verdedigde de praktijk als 'een verantwoorde, industrie-brede standaardpraktijk' voor het testen van chatbotveiligheid .

Deze agressieve test van concurrenten staat in schril contrast met Meta's eigen interne resultaten.

Meta's eigen interne faalpercentages op het gebied van kinderbescherming

Meta's eigen interne 'red-teaming'-beoordelingen – ingediend als bewijs in de rechtbank en aangehaald door NYU-professor Damon McCoy – toonden aan dat een Meta-chatbot in ongeveer 70% van de testgevallen niet in staat was minderjarigen adequaat te beschermen tegen seksuele uitbuiting . Deze bevinding werd op 16 februari 2026 gerapporteerd door Axios . De interne test, gedetailleerd in een rapport van 6 juni 2025, liet faalpercentages zien in verschillende categorieën:

• Scenario's rond seksuele uitbuiting van kinderen: faalde in 66,8% van de gevallen .
• Seksgerelateerde misdrijven, geweldsmisdrijven en haatdragende content: faalde in 63,6% van de gevallen .
• Prompts over zelfmoord en zelfbeschadiging: faalde in 54,8% van de gevallen .

Deze interne mislukkingen waren geen incidenten. In augustus 2025 verkreeg Reuters een intern Meta-beleidsdocument waarin het bedrijf zijn AI toestond romantische of sensuele gesprekken te voeren met minderjarigen . In januari 2026 blokkeerde Meta tijdelijk de toegang van tieners tot zijn chatbots in afwachting van herziene veiligheidsmaatregelen, nadat interne veiligheidswaarschuwingen naar verluidt waren genegeerd . In augustus 2025 vertelde Meta aan TechCrunch dat het de trainingsregels voor chatbots zou aanpassen om ongepaste onderwerpen met tieners te vermijden – maar dat gebeurde pas nadat het Reuters-rapport tot publieke verontwaardiging had geleid .

Meta's plan om menselijke moderators te vervangen door AI – en de gevolgen in Kenia

Ondanks deze gedocumenteerde veiligheidsfalen versnelt Meta de plannen om meer dan 90% van zijn menselijke contentmoderators te vervangen door generatieve AI tegen eind 2026, als onderdeel van een bredere kostenbesparingsoperatie . Het bedrijf bevestigde de verschuiving in januari 2026 en de overgang is al in volle gang .

De menselijke kosten van deze automatisering zijn al voelbaar. In april 2026 verbrak Meta het contract met Sama, het Keniaanse outsourcingbedrijf dat honderden contentmoderators in Nairobi in dienst had. Sama ontsloeg vervolgens 1.108 werknemers . Een ander Keniaans outsourcingbedrijf ontsloeg abrupt tientallen contentmoderatoren kort nadat zij probeerden zich te organiseren voor betere lonen en geestelijke gezondheidszorg. Werknemers zeggen dat ze werden geviseerd omdat ze vakbondsvorming steunden en zorgen uitten over traumatische werkomstandigheden . Meta's contractbeëindiging met Sama alleen al kostte meer dan 1.100 banen in Kenia, waarbij de ontslagbrieven werden uitgegeven onder de Keniaanse Employment Act .

De kern: een flagrante dubbele standaard

Het bewijs wijst op een flagrante tegenstrijdigheid. Meta's eigen interne gegevens tonen aan dat zijn AI nog steeds in de overgrote meerderheid van de gevallen faalt om kinderen te beschermen, terwijl het bedrijf tegelijkertijd de menselijke werknemers ontslaat die die mislukkingen ontdekten, en contractanten inzet om te bewijzen dat de AI van concurrenten nog slechter is.

Gebied	Bewijs
Interne testresultaten	Meta's eigen chatbots faalden ~70% van de tijd om minderjarigen te beschermen tegen seksuele uitbuiting
Testen van concurrenten	Meta gaf veel geld uit om concurrerende chatbots te onderzoeken op dezelfde soort mislukkingen
Automatiseringsdrang	Meta vervangt menselijke moderators door AI, met de bewering dat de AI contentmoderatie op schaal aankan
Menselijke kosten	Meer dan 1.100 Keniaanse werknemers werden ontslagen nadat de contracten waren beëindigd – sommigen nadat ze hadden geklaagd over slechte arbeidsomstandigheden – terwijl de AI die hen moet vervangen niet heeft bewezen veilig te zijn voor kinderen

Deze dubbele standaard roept serieuze vragen op over Meta's prioriteiten. Het bedrijf is bereid zwaar te investeren in het bewijzen dat de chatbots van concurrenten onveilig zijn voor minderjarigen, terwijl de eigen interne tests laten zien dat de eigen AI een faalpercentage van 70% heeft in de bescherming van kinderen – en de menselijke waarborgen die die mislukkingen ontdekten, worden ontslagen, vervangen door dezelfde technologie die nog niet heeft bewezen veilig te zijn.