Metas AI-dilemma: Interne tests viser 70 % fejlrate i børnesikkerhed, mens virksomheden erstatter menneskelige moderatorer med AI

Metas dobbeltmoral: AI-sikkerhedstests og massive fyringer

En omfattende WIRED-undersøgelse fra juni 2026 afslørede, at Meta instruerede hundredvis af kontraktansatte hos det irske outsourcingsfirma Covalen i at udgive sig for mindreårige på nettet . Formålet var at undersøge, hvordan konkurrerende chatbotter – herunder OpenAI's ChatGPT, Google's Gemini og Character.AI – reagerede på højrisiko-prompts om selvmord, selvskade, sex, spiseforstyrrelser og stoffer . Projektet, internt kaldet "Cannes", var aktivt mindst frem til 21. april 2026 . Arbejderne oprettede konti for personer under 18 år og sendte tusindvis af følsomme tekst- og billedprompts, hvorefter svarene blev logget i regneark. En stor test i august 2025 kørte over 45.000 prompts i en enkelt runde . Et andet regneark indeholdt 3.748 prompts, hvoraf hundreder omhandlede selvmord/selvskade og hundreder flere spiseforstyrrelser . En talsperson for Meta forsvarede praksissen som "en ansvarlig, industristandard praksis" for at teste chatbotsikkerhed .

Men denne aggressive test af konkurrenter står i skærende kontrast til Metas egne interne resultater.

Metas egne interne fejlprocenter for børnesikkerhed

Metas egne interne red-team-vurderinger – fremlagt som bevis i retten og citeret af NYU-professor Damon McCoy – viste, at et Meta-chatbot-initiativ fejlede i at beskytte mindreårige mod seksuel udnyttelse i ca. 70 % af testtilfældene . Dette resultat blev rapporteret af Axios den 16. februar 2026 . Den interne test, beskrevet i en rapport dateret 6. juni 2025, afslørede fejlprocenter på tværs af flere kategorier:

• Scenarier med seksuel udnyttelse af børn: Fejlede i 66,8 % af tilfældene .
• Seksualrelaterede forbrydelser, voldsforbrydelser og hadefuldt indhold: Fejlede i 63,6 % af tilfældene .
• Selvmords- og selvskadesprompts: Fejlede i 54,8 % af tilfældene .

Disse interne fejl var ikke isolerede hændelser. I august 2025 rapporterede Reuters, at et internt Metas politikdokument tillod AI’en at indgå i romantiske eller sensuelle dialoger med mindreårige . I januar 2026 blokerede Meta midlertidigt teenages adgang til sine chatbotter, mens sikkerhedsforanstaltninger blev genopbygget – efter at interne sikkerhedsadvarsler angiveligt blev ignoreret . I august 2025 meddelte Meta til TechCrunch, at de ville opdatere chatbot-træningsregler for at undgå upassende emner med teenagere – men det skete først, efter at Reuters-rapporten havde udløst offentlig modstand .

Metas plan om at erstatte menneskelige moderatorer med AI – og konsekvenserne i Kenya

På trods af disse dokumenterede sikkerhedsbrister accelererer Meta planerne om at erstatte over 90 % af sine menneskelige indholdsmoderatorer med generativ AI inden udgangen af 2026, som en del af en bredere omkostningsbesparelse . Virksomheden bekræftede skiftet i januar 2026, og overgangen er allerede i fuld gang .

De menneskelige omkostninger ved denne automatisering er allerede mærkbare. I april 2026 opsagde Meta sin kontrakt med Sama, det kenyanske outsourcingsfirma, der havde ansat hundredvis af indholdsmoderatorer i Nairobi. Sama fyrede efterfølgende 1.108 medarbejdere . Et andet kenyansk outsourcingsfirma fyrede også pludselig snesevis af indholdsmoderatorer, kort efter at de forsøgte at organisere sig for bedre løn og mental sundhedsbeskyttelse. Medarbejdere siger, at de blev målrettet for at støtte fagforening og for at rejse bekymringer om traumatiske arbejdsforhold . Metas kontraktopsigelse med Sama alene udslettede over 1.100 job i Kenya, med opsigelsesvarsler udstedt i henhold til Kenyas Employment Act .

Den centrale kontrast: En grel dobbeltmoral

Beviserne tegner en skarp modsætning. Metas egne interne data viser, at deres AI stadig fejler i at beskytte børn langt størstedelen af tiden, samtidig med at virksomheden eliminerer den menneskelige arbejdsstyrke, der opfangede disse fejl, mens de hyrer kontraktansatte til at bevise, at konkurrenternes AI er endnu værre.

Område	Bevis
Interne testresultater	Metas egne chatbotter fejlede ca. 70 % af tiden i at beskytte mindreårige mod seksuel udnyttelse
Test af konkurrenter	Meta brugte store ressourcer på at undersøge konkurrerende chatbotter for de samme typer af fejl
Automatiseringspres	Meta erstatter menneskelige moderatorer med AI og hævder, at AI’en kan håndtere indholdsmoderering i stor skala
Menneskelige omkostninger	Over 1.100 kenyanske arbejdere blev fyret, da kontrakterne blev opsagt – nogle efter at have fløjtet om dårlige forhold – selvom den AI, der skal erstatte dem, ikke har demonstreret tilstrækkelig sikkerhed for børn

Denne dobbeltmoral rejser alvorlige spørgsmål om Metas prioriteter. Virksomheden er villig til at investere massivt i at bevise, at konkurrenternes chatbotter er usikre for mindreårige, selvom virksomhedens egne interne tests afslører en 70 % fejlrate i at beskytte børn – og de menneskelige sikkerhedsforanstaltninger, der opfangede disse fejl, bliver fyret og erstattet af netop den teknologi, der ikke har bevist, at den er sikker.