Metan tekoälymoderaatio kriisissä: Vialliset bannit tuhoavat laillisia tilejä ilman muutoksenhakumahdollisuutta

Heinäkuun 21. päivänä 2026 New York Times julkaisi Stuart A. Thompsonin ja Eli Tanin tutkimuksen, joka paljastaa, kuinka Metan tekoälypohjaiset moderointijärjestelmät poistavat laillisia Facebook- ja Instagram-tilejä laajamittaisesti – ja kuinka valitusprosessi on täysin toimimaton .

Raportti saapui kriittisellä hetkellä. Meta on samanaikaisesti aloittanut tuhansien ihmismoderaattoreiden irtisanomiset ja ohjannut resursseja tekoälyyn .

Mitä NYT:n tutkimus paljasti?

Tutkimus osoitti, että Metan automatisoidut moderointijärjestelmät, jotka nykyisin käsittelevät noin 95 prosenttia ensimmäisistä toimista, tuottavat hälyttävän paljon vääriä positiivisia tuloksia :

• Epämääräisiä rikkomuksia ilman selitystä: Tilejä poistetaan geneerisillä syillä, kuten "petos ja harhaanjohtaminen", eikä käyttäjä saa tietää, mikä julkaisu tai toiminta laukaisi poiston .
• Camille Hansonin tapaus: Yksi tutkimuksen esille nostama tapaus oli Camille Hanson, jonka Facebook- ja Instagram-tilit – joilla hän ja hänen miehensä opettivat englantia ja joilla oli lähes miljoona seuraajaa – merkittiin yhtäkkiä poistettaviksi maaliskuussa 2026. Ilmoitus saapui keskellä yötä .
• Umpikuja valituksissa: Käyttäjien valitukset ohjautuvat usein takaisin samojen tekoälyjärjestelmien käsiteltäväksi, eivätkä ne koskaan päädy ihmismoderaattorille. Eräässä vastauksessa luki: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" (suom. Kaikki tietosi poistetaan pysyvästi. Et voi pyytää uutta tarkastelua tästä päätöksestä) .
• Median väliintulo vaadittiin: Jotkut tilit, kuten Hansonin, palautettiin vasta, kun NYT:n toimittajat ottivat suoraan yhteyttä Metaan .

Metan vastaus: Myöntää virheitä, puolustaa tekoälyä

NYT:n kyselyn jälkeen Meta myönsi virheitä joissakin tapauksissa ja palautti tiettyjä tilejä. Yhtiö on kuitenkin väittänyt, että sen uudemmat tekoälymoderointityökalut tekevät vähemmän virheitä kuin ihmismoderaattorit – se väittää virheiden vähentyneen 13 prosentilla ja rikkomusten havaitsemisen lisääntyneen 10 prosentilla .

Tämä kanta on osa Metan laajempaa strategista muutosta. Yhtiö vahvisti tammikuussa 2025, että automatisoidut järjestelmät ottavat päävastuun sääntöjä rikkovan sisällön tunnistamisesta ja poistamisesta Facebookissa, Instagramissa ja WhatsAppissa . Vuoden 2026 puoliväliin mennessä tuhansia moderaattorien sopimustyöpaikkoja oli lakkautettu osana tätä siirtymää .

Mitä Metan valvontaelin sanoi?

Metan oma riippumaton valvontaelin (Oversight Board) otti kantaa laajempaan tilien poisto-ongelmaan kesäkuussa 2026, ja sen havainnot olivat karuja:

• 4. kesäkuuta 2026 valvontaelin totesi, että Metan tilien poistoprosessista puuttuu oikeusturva, rikkomuksista tiedotetaan epäselvästi ja asiakastuki on lähes olematonta .
• Valvontaelin ilmoitti tarkastelevansa ensimmäistä kertaa Metan yleistä lähestymistapaa tilien pysyvään poistamiseen .
• Toisessa, 24. kesäkuuta 2026 annetussa päätöksessä, joka koski tappouhkaustapausta, valvontaelin piti poiston voimassa, mutta arvosteli jälleen Metan politiikan läpinäkymättömyyttä .

Valvontaelimen havainnot heijastavat suoraan käyttäjien, kuten Hansonin, valituksia: järjestelmä ei tarjoa mielekästä tapaa haastaa tekoälyn tekemää päätöstä.

Työvoiman vähennyksen yhteys: Vähemmän ihmisiä, enemmän tekoälyvirheitä

Väärät poistot eivät ole yksittäinen järjestelmävikausi. Ne ovat ennustettava seuraus Metan työvoimastrategiasta:

• Huhtikuu 2026: Meta ilmoitti vähentävänsä 10 prosenttia työvoimastaan (noin 8 000 työntekijää) ja poistavansa 6 000 avointa työpaikkaa, ohjatakseen resursseja tekoälyyn .
• Toukokuu 2026: Irtisanomiset alkoivat, ja jäljellä olevia työntekijöitä siirrettiin tekoälypainotteisiin tehtäviin .
• Lokakuu 2025: Aiemmat leikkaukset olivat jo koskeneet yli 100 työntekijää Metan riskinarviointitiimistä – juuri niitä tiimejä, joiden tehtävänä oli valvoa käyttäjien turvallisuutta ja yksityisyyttä .
• Kesäkuu 2026: Raportit vahvistivat, että Meta oli jo alkanut korvata ihmismoderaattorit tekoälyjärjestelmillä, poistaen tuhansia moderaattorien sopimustyöpaikkoja .

Irtisanotut ihmismoderaattorit ja riskinarvioijat olivat juuri niitä työntekijöitä, joita tarvittiin sellaisten vivahteikkaiden tapausten käsittelyyn, joissa tekoälyjärjestelmät järjestelmällisesti epäonnistuvat. Samat tekoälyjärjestelmät, joita Meta skaalaa, tuottavat laajamittaisia, korjaamattomia virheitä – poistavat laillisia tilejä ilman toimivia muutoksenhakumahdollisuuksia.

Yhteenveto

NYT:n tutkimus yhdistettynä valvontaelimen havaintoihin ja dokumentoituihin työvoiman vähennyksiin maalaa selkeän kuvan: Metan tekoälypohjainen moderointijärjestelmä tuottaa laajamittaisia vääriä positiivisia tuloksia, valitusprosessi on käytännössä rikki, ja yhtiö on irtisanonut juuri ne ihmiset, jotka olisivat voineet korjata ongelman – samalla kun yhtiö puolustaa tekniikkaa väittämällä sen tekevän vähemmän virheitä kuin korvaamansa ihmiset.