Metas KI-dilemma: 70 % svikt i barnesikkerhet – men menneskelige moderatorer erstattes med KI

Dobbeltspillet i Metas KI-strategi

En granskning fra WIRED i juni 2026 avslørte at Meta instruerte hundrevis av konsulenter, ansatt gjennom det irske outsourcingselskapet Covalen, til å utgi seg for å være mindreårige på nett og teste hvordan konkurrenters KI-chatroboter – inkludert OpenAIs ChatGPT, Googles Gemini og Character.AI – reagerte på høyrisikospørsmål om selvmord, selvskading, sex, spiseforstyrrelser og rusmidler . Prosjektet, internt kalt "Cannes", var aktivt minst frem til 21. april 2026 . Arbeiderne opprettet kontoer for personer under 18 år og sendte tusenvis av sensitive tekst- og bildespørsmål, og loggførte svarene i regneark. Én stor test i august 2025 kjørte over 45 000 spørsmål i én enkelt runde . Et annet regneark katalogiserte 3 748 spørsmål, hvorav flere hundre handlet om selvmord/selvskading og flere hundre om spiseforstyrrelser . En talsperson for Meta forsvarte praksisen som "en ansvarlig, bransjestandard praksis" for å teste chatbotsikkerhet .

Men denne aggressive testingen av konkurrenter står i skarp kontrast til Metas egne interne resultater.

Metas egne feilrater for barnesikkerhet

Metas egne interne sikkerhetstester – fremlagt som bevis i retten og sitert av NYU-professor Damon McCoy – viste at et Meta-chatbotinitiativ mislyktes i å beskytte mindreårige mot seksuell utnyttelse i omtrent 70 % av testtilfellene . Dette ble rapportert av Axios 16. februar 2026 . De interne testene, detaljert i en rapport datert 6. juni 2025, viste feilrater på tvers av flere kategorier:

• Seksuell utnyttelse av barn: Mislyktes 66,8 % av gangene .
• Seksuelt relaterte forbrytelser, voldsforbrytelser og hatefullt innhold: Mislyktes 63,6 % av gangene .
• Selvmords- og selvskadingsspørsmål: Mislyktes 54,8 % av gangene .

Disse interne feilene var ikke isolerte hendelser. I august 2025 fikk Reuters tak i et internt policy-dokument fra Meta som tillot KI-en å engasjere seg i romantiske eller sensuelle dialoger med mindreårige . I januar 2026 blokkerte Meta midlertidig tenåringers tilgang til chatbotene sine, i påvente av gjenoppbygde sikkerhetstiltak, etter at interne sikkerhetsadvarsler angivelig ble ignorert . I august 2025 fortalte Meta til TechCrunch at de ville oppdatere chatbot-treningsreglene for å unngå upassende temaer med tenåringer – men det kom først etter at Reuters-rapporten utløste offentlig tilbakeslag .

Metas plan om å erstatte menneskelige moderatorer med KI – og konsekvensene i Kenya

Til tross for disse dokumenterte sikkerhetsfeilene, akselererer Meta planene om å erstatte over 90 % av de menneskelige innholdsmoderatorene med generativ KI innen utgangen av 2026, som en del av en bredere kostnadskuttkampanje . Selskapet bekreftet endringen i januar 2026, og overgangen er allerede i full gang .

Den menneskelige prisen for denne automatiseringen har allerede blitt følt. I april 2026 avsluttet Meta kontrakten med Sama, det kenyanske outsourcingselskapet som hadde ansatt hundrevis av innholdsmoderatorer i Nairobi. Sama sa deretter opp 1 108 ansatte . Et annet kenyansk outsourcingselskap sparket også plutselig dusinvis av innholdsmoderasjonsarbeidere kort tid etter at de forsøkte å organisere seg for bedre lønn og psykisk helsevern. Ansatte sier de ble målrettet fordi de støttet fagforeningsdannelse og tok opp bekymringer om traumatiske arbeidsforhold . Metas kontraktsavslutning med Sama alene fjernet over 1 100 jobber i Kenya, med oppsigelsene utstedt i henhold til Kenyas arbeidsmiljølov .

Kjernen i motsetningen: En klar dobbeltstandard

Bevisene tegner en skarp motsetning. Metas egne interne data viser at KI-en fortsatt ikke klarer å beskytte barn store deler av tiden, samtidig som selskapet eliminerer den menneskelige arbeidsstyrken som fanget opp disse feilene, mens de bruker konsulenter for å bevise at konkurrentenes KI er enda verre.

Område	Bevis
Interne testresultater	Metas egne chatboter mislyktes ~70 % av gangene i å beskytte mindreårige mot seksuell utnyttelse
Konkurrenttesting	Meta brukte store ressurser på å teste konkurrenters chatboter for de samme feilene
Automatiseringspress	Meta erstatter menneskelige moderatorer med KI, og hevder at KI-en kan håndtere innholdsmoderasjon i stor skala
Menneskelig pris	Over 1 100 kenyanske arbeidere ble sagt opp da kontraktene ble avsluttet – noen etter å ha varslet om dårlige forhold – selv om KI-en som skal erstatte dem ikke har vist seg å være tilstrekkelig trygg for barn

Denne dobbeltstandarden reiser alvorlige spørsmål om Metas prioriteringer. Selskapet er villig til å investere tungt i å bevise at konkurrentenes chatboter er utrygge for mindreårige, selv om egne interne tester viser at KI-en har en feilrate på 70 % når det gjelder å beskytte barn – og de menneskelige sikkerhetstiltakene som fanget opp disse feilene, blir sagt opp og erstattet av den teknologien som ikke har bevist seg trygg.