Metas AI-modereringskrise: Feilaktige utestengelser ødelegger legitime kontoer – uten reell klageadgang

Hva NYT-granskningen avdekket

Granskningen fant at Metas automatiske modereringssystemer, som nå håndterer omtrent 95 prosent av førstegangskontrollene, produserer alarmerende mange falske positive :

• Vage brudd uten forklaring: Kontoer flagges for generelle grunner som «svindel og bedrag» uten at det spesifiseres hvilket innlegg eller hvilken oppførsel som utløste flagget .
• Camille Hanson-saken: Et av hovedeksemplene er Camille Hanson. Hennes Facebook- og Instagram-kontoer – som hun og mannen brukte til å undervise i engelsk for ikke-morsmålstalere og som hadde nesten én million følgere – ble plutselig merket for sletting i mars 2026. Varselet kom midt på natten .
• En klagesløyfe uten ende: Når brukere klager, sendes sakene ofte tilbake til de samme KI-systemene i stedet for å nå en menneskelig gransker. Én klagerespons lød ganske enkelt: «Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión» .
• Mediehjelp nødvendig: Noen kontoer, inkludert Hansons, ble først gjenopprettet etter at NYT-journalister grep inn direkte .

Metas svar: Innmømmer feil, forsvarer KI

Etter henvendelser fra NYT innrømmet Meta feil i enkelte tilfeller og gjenopprettet enkelte stengte kontoer. Selskapet hevder imidlertid at de nyere KI-verktøyene gjør færre feil enn menneskelige moderatorer – og viser til 13 prosent færre feil og 10 prosent flere avdekkede brudd .

Denne posisjonen er en del av Metas bredere strategiske dreining. Selskapet bekreftet i januar 2025 at automatiserte systemer skulle overta hovedansvaret for å identifisere og fjerne innhold som bryter retningslinjene på Facebook, Instagram og WhatsApp . I midten av 2026 var tusenvis av stillinger for eksterne moderatorer eliminert som del av denne omstillingen .

Hva Metas tilsynsstyre sa

Metas uavhengige tilsynsstyre (Oversight Board) tok stilling til den bredere problematikken med kontosletting i juni 2026, og funnene var klare:

• 4. juni 2026 uttalte styret at Metas prosess for kontodeaktivering mangler rettssikkerhet (due process), at brudd kommuniseres uklart, og at kundestøtte for klager nesten ikke eksisterer .
• Styret kunngjorde at de for første gang ville gjennomgå Metas generelle tilnærming til permanent sletting av kontoer .
• I en separat kjennelse 24. juni 2026 i en drapstrusselsak opprettholdt styret selve utestengelsen, men kritiserte igjen mangelen på åpenhet i Metas retningslinjer .

Styrets funn gjenspeiler direkte klagene fra brukere som Hanson – systemet gir ingen meningsfull måte å utfordre en KI-generert avgjørelse på.

Sammenhengen med bemanningskutt: Færre mennesker, flere KI-feil

De feilaktige slettingene er ikke en isolert systemfeil. De er en forutsigbar konsekvens av Metas bemanningsstrategi:

• April 2026: Meta kunngjorde at de ville kutte 10 prosent av arbeidsstokken (omtrent 8 000 ansatte) og fjerne 6 000 ledige stillinger, eksplisitt for å omdirigere ressurser til KI-utvikling .
• Mai 2026: Oppsigelsene startet, og gjenværende ansatte ble omplassert til KI-sentrerte roller .
• Oktober 2025: Tidligere kutt hadde allerede omfattet over 100 ansatte i Metas risikovurderingsteam – nettopp teamene som overvåker brukersikkerhet og personvern .
• Juni 2026: Rapporter bekreftet at Meta allerede hadde begynt å erstatte menneskelige innholdsmoderatorer med KI-systemer, og eliminert tusenvis av eksterne modereringsjobber .

De fjernede menneskelige moderatorene og risikovurdererne var akkurat den arbeidsstyrken som trengtes for å håndtere den typen nyansert gransking som KI-systemer systematisk mislykkes med. De samme KI-systemene som Meta nå skalerer opp, produserer storstilte, ukorrigerte feil – de flagger og sletter legitime kontoer med få fungerende klagemuligheter.

Oppsummering

NYT-granskningen, kombinert med tilsynsstyrets funn og dokumenterte bemanningskutt, tegner et tydelig bilde: Metas KI-styrte modereringssystem genererer omfattende falske positive, klageprosessen er funksjonelt brutt, og selskapet har sagt opp de samme menneskene som kunne ha rettet feilene – alt mens selskapet forsvarer teknologien med at den gjør færre feil enn menneskene den erstattet.