Metan tekoälymoderaatio kriisissä: Vialliset bannit tuhoavat laillisia tilejä ilman muutoksenhakumahdollisuutta

Mitä NYT:n tutkimus paljasti?

Tutkimus osoitti, että Metan automatisoidut moderointijärjestelmät, jotka nykyisin käsittelevät noin 95 prosenttia ensimmäisistä toimista, tuottavat hälyttävän paljon vääriä positiivisia tuloksia :

• Epämääräisiä rikkomuksia ilman selitystä: Tilejä poistetaan geneerisillä syillä, kuten "petos ja harhaanjohtaminen", eikä käyttäjä saa tietää, mikä julkaisu tai toiminta laukaisi poiston .
• Camille Hansonin tapaus: Yksi tutkimuksen esille nostama tapaus oli Camille Hanson, jonka Facebook- ja Instagram-tilit – joilla hän ja hänen miehensä opettivat englantia ja joilla oli lähes miljoona seuraajaa – merkittiin yhtäkkiä poistettaviksi maaliskuussa 2026. Ilmoitus saapui keskellä yötä .
• Umpikuja valituksissa: Käyttäjien valitukset ohjautuvat usein takaisin samojen tekoälyjärjestelmien käsiteltäväksi, eivätkä ne koskaan päädy ihmismoderaattorille. Eräässä vastauksessa luki: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" (suom. Kaikki tietosi poistetaan pysyvästi. Et voi pyytää uutta tarkastelua tästä päätöksestä) .
• Median väliintulo vaadittiin: Jotkut tilit, kuten Hansonin, palautettiin vasta, kun NYT:n toimittajat ottivat suoraan yhteyttä Metaan .

Metan vastaus: Myöntää virheitä, puolustaa tekoälyä

NYT:n kyselyn jälkeen Meta myönsi virheitä joissakin tapauksissa ja palautti tiettyjä tilejä. Yhtiö on kuitenkin väittänyt, että sen uudemmat tekoälymoderointityökalut tekevät vähemmän virheitä kuin ihmismoderaattorit – se väittää virheiden vähentyneen 13 prosentilla ja rikkomusten havaitsemisen lisääntyneen 10 prosentilla .

Tämä kanta on osa Metan laajempaa strategista muutosta. Yhtiö vahvisti tammikuussa 2025, että automatisoidut järjestelmät ottavat päävastuun sääntöjä rikkovan sisällön tunnistamisesta ja poistamisesta Facebookissa, Instagramissa ja WhatsAppissa . Vuoden 2026 puoliväliin mennessä tuhansia moderaattorien sopimustyöpaikkoja oli lakkautettu osana tätä siirtymää .

Mitä Metan valvontaelin sanoi?

Metan oma riippumaton valvontaelin (Oversight Board) otti kantaa laajempaan tilien poisto-ongelmaan kesäkuussa 2026, ja sen havainnot olivat karuja:

• 4. kesäkuuta 2026 valvontaelin totesi, että Metan tilien poistoprosessista puuttuu oikeusturva, rikkomuksista tiedotetaan epäselvästi ja asiakastuki on lähes olematonta .
• Valvontaelin ilmoitti tarkastelevansa ensimmäistä kertaa Metan yleistä lähestymistapaa tilien pysyvään poistamiseen .
• Toisessa, 24. kesäkuuta 2026 annetussa päätöksessä, joka koski tappouhkaustapausta, valvontaelin piti poiston voimassa, mutta arvosteli jälleen Metan politiikan läpinäkymättömyyttä .

Valvontaelimen havainnot heijastavat suoraan käyttäjien, kuten Hansonin, valituksia: järjestelmä ei tarjoa mielekästä tapaa haastaa tekoälyn tekemää päätöstä.

Työvoiman vähennyksen yhteys: Vähemmän ihmisiä, enemmän tekoälyvirheitä

Väärät poistot eivät ole yksittäinen järjestelmävikausi. Ne ovat ennustettava seuraus Metan työvoimastrategiasta:

• Huhtikuu 2026: Meta ilmoitti vähentävänsä 10 prosenttia työvoimastaan (noin 8 000 työntekijää) ja poistavansa 6 000 avointa työpaikkaa, ohjatakseen resursseja tekoälyyn .
• Toukokuu 2026: Irtisanomiset alkoivat, ja jäljellä olevia työntekijöitä siirrettiin tekoälypainotteisiin tehtäviin .
• Lokakuu 2025: Aiemmat leikkaukset olivat jo koskeneet yli 100 työntekijää Metan riskinarviointitiimistä – juuri niitä tiimejä, joiden tehtävänä oli valvoa käyttäjien turvallisuutta ja yksityisyyttä .
• Kesäkuu 2026: Raportit vahvistivat, että Meta oli jo alkanut korvata ihmismoderaattorit tekoälyjärjestelmillä, poistaen tuhansia moderaattorien sopimustyöpaikkoja .

Irtisanotut ihmismoderaattorit ja riskinarvioijat olivat juuri niitä työntekijöitä, joita tarvittiin sellaisten vivahteikkaiden tapausten käsittelyyn, joissa tekoälyjärjestelmät järjestelmällisesti epäonnistuvat. Samat tekoälyjärjestelmät, joita Meta skaalaa, tuottavat laajamittaisia, korjaamattomia virheitä – poistavat laillisia tilejä ilman toimivia muutoksenhakumahdollisuuksia.

Yhteenveto

NYT:n tutkimus yhdistettynä valvontaelimen havaintoihin ja dokumentoituihin työvoiman vähennyksiin maalaa selkeän kuvan: Metan tekoälypohjainen moderointijärjestelmä tuottaa laajamittaisia vääriä positiivisia tuloksia, valitusprosessi on käytännössä rikki, ja yhtiö on irtisanonut juuri ne ihmiset, jotka olisivat voineet korjata ongelman – samalla kun yhtiö puolustaa tekniikkaa väittämällä sen tekevän vähemmän virheitä kuin korvaamansa ihmiset.