Tili suljettiin perustellusti – prosessi ei vakuuttanut

Lautakunnan mukaan toimittajaan kohdistuneet vakavat uhkaukset ja muu loukkaava sisältö olivat niin vakava rikkomus, että tilin pysyvä sulkeminen oli tässä tapauksessa perusteltua .

Samalla lautakunta arvosteli tapaa, jolla Meta yleensä tekee tilien jäädyttämistä ja sulkemista koskevia päätöksiä. Käyttäjälle voi jäädä epäselväksi, mitä sääntöä hän on rikkonut, miksi seuraamus on juuri pysyvä sulkeminen ja miten päätöksestä voi valittaa .

Lautakunnan viesti on siten kaksijakoinen: lopputulos oli tässä tapauksessa oikea, mutta järjestelmä, jolla Meta päätyy tällaisiin päätöksiin, on liian epäselvä ja puutteellinen.

Lautakunta löysi useita oikeusturvaongelmia

Ratkaisussa nostettiin esiin toisiinsa liittyviä puutteita Metan tilien valvonnassa ja hallinnassa .

• Väkivaltauhkauksiin ei reagoitu riittävän nopeasti. Lautakunta katsoi, ettei Meta ollut tarkastellut toimittajaan kohdistuneita uskottavia väkivaltauhkauksia tarpeeksi nopeasti. Tämä herättää sekä turvallisuuteen että oikeusturvaan liittyviä huolia .
• Säännöt ovat epäselviä ja soveltaminen vaihtelevaa. Tilien jäädyttämistä ja sulkemista koskevat käytännöt eivät lautakunnan mukaan kerro riittävän selvästi, millä perusteilla päätöksiä tehdään .
• Vakaville rikkomuksille ei ole selkeää kehystä. Metalla ei ole lautakunnan mukaan riittävän määriteltyä toimintamallia niin sanottujen erittäin vakavien (”egregious”) rikkomusten käsittelyyn. Tämä voi johtaa epäjohdonmukaisiin ratkaisuihin .
• Muutoksenhaku ja asiakastuki ovat tehottomia. Käyttäjillä ei ole aina todellista mahdollisuutta riitauttaa tilinsä sulkemista. TechCrunchin mukaan myös maksullinen Meta Verified -tuki tarjoaa vain vähän käytännön apua tilikiellosta valittamiseen .

Ongelma ei siis ole lautakunnan kuvauksen perusteella vain siinä, että yksittäinen käyttäjä turhautuu menettäessään tilinsä. Kyse on järjestelmästä, jossa päätösten perustelut, valitusreitit ja seuraamusten perusteet eivät ole riittävän läpinäkyviä.

Viisi periaatetta Metalle ja muille alustoille

Lautakunta esitti samalla viisi suuntaa-antavaa periaatetta, joiden avulla Meta ja muut sosiaalisen median palvelut voisivat kehittää tilien hallintaa. Suositukset eivät ole yksittäistä tapausta koskevan päätöksen tavoin Metaa sitovia .

1. Käyttäjien oikeus avoimuuteen on turvattava. Palvelujen on kerrottava selkeästi ja helposti ymmärrettävästi, millainen toiminta voi johtaa tilin jäädyttämiseen tai pysyvään sulkemiseen .
2. Muutoksenhaun on oltava aidosti toimiva. Käyttäjälle on tarjottava mielekäs mahdollisuus kiistää tiliä koskeva päätös ja saada asiansa asianmukaiseen käsittelyyn .
3. Seuraamusten on oltava oikeasuhtaisia. Alustoilla pitäisi olla nykyistä selkeämpi asteikko erilaisille seuraamuksille, jotta pysyvä sulkeminen ei näyttäydy epäselvänä oletusratkaisuna kaikissa vakavissa tapauksissa .
4. Turvallisuuspäätöksiä varten tarvitaan selkeät toimintakehykset. Ihmisten tekemää arviointia on ohjattava johdonmukaisilla ja avoimilla periaatteilla erityisen vakavan sisällön ja tilikieltojen käsittelyssä .
5. Alustojen rakenteellisiin ongelmiin on puututtava. Sosiaalisen median palvelujen suunnittelu voi osaltaan helpottaa häirintää, kohdennettua hyväksikäyttöä ja väkivaltauhkien leviämistä. Lautakunta kehottaa Metaa korjaamaan myös näitä taustalla olevia ongelmia .

Miksi ratkaisu on merkittävä?

Tapaus osoittaa, että tilin sulkemisen oikeellisuus ja päätöksentekoprosessin oikeudenmukaisuus ovat kaksi eri kysymystä. Meta saattoi lautakunnan mukaan toimia oikein poistaessaan vakavia uhkauksia levittäneen tilin, mutta tämä ei vapauta yhtiötä velvollisuudesta perustella päätöksiään, tarjota toimivaa muutoksenhakua ja soveltaa sääntöjään johdonmukaisesti.

Lautakunnan suositukset haastavat laajemminkin sosiaalisen median alustojen tavan hallita käyttäjätilejä automatisoiduilla ja vaikeasti ymmärrettävillä menettelyillä. Tavoitteena on järjestelmä, jossa käyttäjien turvallisuus voidaan suojata ilman, että oikeusturva, avoimuus ja ihmisoikeudet jäävät tilikiellon varjoon .

Tili suljettiin perustellusti – prosessi ei vakuuttanut

Lautakunnan mukaan toimittajaan kohdistuneet vakavat uhkaukset ja muu loukkaava sisältö olivat niin vakava rikkomus, että tilin pysyvä sulkeminen oli tässä tapauksessa perusteltua .

Samalla lautakunta arvosteli tapaa, jolla Meta yleensä tekee tilien jäädyttämistä ja sulkemista koskevia päätöksiä. Käyttäjälle voi jäädä epäselväksi, mitä sääntöä hän on rikkonut, miksi seuraamus on juuri pysyvä sulkeminen ja miten päätöksestä voi valittaa .

Lautakunnan viesti on siten kaksijakoinen: lopputulos oli tässä tapauksessa oikea, mutta järjestelmä, jolla Meta päätyy tällaisiin päätöksiin, on liian epäselvä ja puutteellinen.

Lautakunta löysi useita oikeusturvaongelmia

Ratkaisussa nostettiin esiin toisiinsa liittyviä puutteita Metan tilien valvonnassa ja hallinnassa .

• Väkivaltauhkauksiin ei reagoitu riittävän nopeasti. Lautakunta katsoi, ettei Meta ollut tarkastellut toimittajaan kohdistuneita uskottavia väkivaltauhkauksia tarpeeksi nopeasti. Tämä herättää sekä turvallisuuteen että oikeusturvaan liittyviä huolia .
• Säännöt ovat epäselviä ja soveltaminen vaihtelevaa. Tilien jäädyttämistä ja sulkemista koskevat käytännöt eivät lautakunnan mukaan kerro riittävän selvästi, millä perusteilla päätöksiä tehdään .
• Vakaville rikkomuksille ei ole selkeää kehystä. Metalla ei ole lautakunnan mukaan riittävän määriteltyä toimintamallia niin sanottujen erittäin vakavien (”egregious”) rikkomusten käsittelyyn. Tämä voi johtaa epäjohdonmukaisiin ratkaisuihin .
• Muutoksenhaku ja asiakastuki ovat tehottomia. Käyttäjillä ei ole aina todellista mahdollisuutta riitauttaa tilinsä sulkemista. TechCrunchin mukaan myös maksullinen Meta Verified -tuki tarjoaa vain vähän käytännön apua tilikiellosta valittamiseen .

Ongelma ei siis ole lautakunnan kuvauksen perusteella vain siinä, että yksittäinen käyttäjä turhautuu menettäessään tilinsä. Kyse on järjestelmästä, jossa päätösten perustelut, valitusreitit ja seuraamusten perusteet eivät ole riittävän läpinäkyviä.

Viisi periaatetta Metalle ja muille alustoille

Lautakunta esitti samalla viisi suuntaa-antavaa periaatetta, joiden avulla Meta ja muut sosiaalisen median palvelut voisivat kehittää tilien hallintaa. Suositukset eivät ole yksittäistä tapausta koskevan päätöksen tavoin Metaa sitovia .

1. Käyttäjien oikeus avoimuuteen on turvattava. Palvelujen on kerrottava selkeästi ja helposti ymmärrettävästi, millainen toiminta voi johtaa tilin jäädyttämiseen tai pysyvään sulkemiseen .
2. Muutoksenhaun on oltava aidosti toimiva. Käyttäjälle on tarjottava mielekäs mahdollisuus kiistää tiliä koskeva päätös ja saada asiansa asianmukaiseen käsittelyyn .
3. Seuraamusten on oltava oikeasuhtaisia. Alustoilla pitäisi olla nykyistä selkeämpi asteikko erilaisille seuraamuksille, jotta pysyvä sulkeminen ei näyttäydy epäselvänä oletusratkaisuna kaikissa vakavissa tapauksissa .
4. Turvallisuuspäätöksiä varten tarvitaan selkeät toimintakehykset. Ihmisten tekemää arviointia on ohjattava johdonmukaisilla ja avoimilla periaatteilla erityisen vakavan sisällön ja tilikieltojen käsittelyssä .
5. Alustojen rakenteellisiin ongelmiin on puututtava. Sosiaalisen median palvelujen suunnittelu voi osaltaan helpottaa häirintää, kohdennettua hyväksikäyttöä ja väkivaltauhkien leviämistä. Lautakunta kehottaa Metaa korjaamaan myös näitä taustalla olevia ongelmia .

Miksi ratkaisu on merkittävä?

Tapaus osoittaa, että tilin sulkemisen oikeellisuus ja päätöksentekoprosessin oikeudenmukaisuus ovat kaksi eri kysymystä. Meta saattoi lautakunnan mukaan toimia oikein poistaessaan vakavia uhkauksia levittäneen tilin, mutta tämä ei vapauta yhtiötä velvollisuudesta perustella päätöksiään, tarjota toimivaa muutoksenhakua ja soveltaa sääntöjään johdonmukaisesti.

Lautakunnan suositukset haastavat laajemminkin sosiaalisen median alustojen tavan hallita käyttäjätilejä automatisoiduilla ja vaikeasti ymmärrettävillä menettelyillä. Tavoitteena on järjestelmä, jossa käyttäjien turvallisuus voidaan suojata ilman, että oikeusturva, avoimuus ja ihmisoikeudet jäävät tilikiellon varjoon .