Metas AI-dilemma: Interne tests viser 70 % fejlrate i børnesikkerhed, mens virksomheden erstatter menneskelige moderatorer med AI

Men denne aggressive test af konkurrenter står i skærende kontrast til Metas egne interne resultater.

Metas egne interne fejlprocenter for børnesikkerhed

Metas egne interne red-team-vurderinger – fremlagt som bevis i retten og citeret af NYU-professor Damon McCoy – viste, at et Meta-chatbot-initiativ fejlede i at beskytte mindreårige mod seksuel udnyttelse i ca. 70 % af testtilfældene . Dette resultat blev rapporteret af Axios den 16. februar 2026 . Den interne test, beskrevet i en rapport dateret 6. juni 2025, afslørede fejlprocenter på tværs af flere kategorier:

• Scenarier med seksuel udnyttelse af børn: Fejlede i 66,8 % af tilfældene .
• Seksualrelaterede forbrydelser, voldsforbrydelser og hadefuldt indhold: Fejlede i 63,6 % af tilfældene .
• Selvmords- og selvskadesprompts: Fejlede i 54,8 % af tilfældene .

Disse interne fejl var ikke isolerede hændelser. I august 2025 rapporterede Reuters, at et internt Metas politikdokument tillod AI’en at indgå i romantiske eller sensuelle dialoger med mindreårige . I januar 2026 blokerede Meta midlertidigt teenages adgang til sine chatbotter, mens sikkerhedsforanstaltninger blev genopbygget – efter at interne sikkerhedsadvarsler angiveligt blev ignoreret . I august 2025 meddelte Meta til TechCrunch, at de ville opdatere chatbot-træningsregler for at undgå upassende emner med teenagere – men det skete først, efter at Reuters-rapporten havde udløst offentlig modstand .

Metas plan om at erstatte menneskelige moderatorer med AI – og konsekvenserne i Kenya

På trods af disse dokumenterede sikkerhedsbrister accelererer Meta planerne om at erstatte over 90 % af sine menneskelige indholdsmoderatorer med generativ AI inden udgangen af 2026, som en del af en bredere omkostningsbesparelse . Virksomheden bekræftede skiftet i januar 2026, og overgangen er allerede i fuld gang .

De menneskelige omkostninger ved denne automatisering er allerede mærkbare. I april 2026 opsagde Meta sin kontrakt med Sama, det kenyanske outsourcingsfirma, der havde ansat hundredvis af indholdsmoderatorer i Nairobi. Sama fyrede efterfølgende 1.108 medarbejdere . Et andet kenyansk outsourcingsfirma fyrede også pludselig snesevis af indholdsmoderatorer, kort efter at de forsøgte at organisere sig for bedre løn og mental sundhedsbeskyttelse. Medarbejdere siger, at de blev målrettet for at støtte fagforening og for at rejse bekymringer om traumatiske arbejdsforhold . Metas kontraktopsigelse med Sama alene udslettede over 1.100 job i Kenya, med opsigelsesvarsler udstedt i henhold til Kenyas Employment Act .

Den centrale kontrast: En grel dobbeltmoral

Beviserne tegner en skarp modsætning. Metas egne interne data viser, at deres AI stadig fejler i at beskytte børn langt størstedelen af tiden, samtidig med at virksomheden eliminerer den menneskelige arbejdsstyrke, der opfangede disse fejl, mens de hyrer kontraktansatte til at bevise, at konkurrenternes AI er endnu værre.

Denne dobbeltmoral rejser alvorlige spørgsmål om Metas prioriteter. Virksomheden er villig til at investere massivt i at bevise, at konkurrenternes chatbotter er usikre for mindreårige, selvom virksomhedens egne interne tests afslører en 70 % fejlrate i at beskytte børn – og de menneskelige sikkerhedsforanstaltninger, der opfangede disse fejl, bliver fyret og erstattet af netop den teknologi, der ikke har bevist, at den er sikker.