Maria Ressa: Tekoälyn kolmas aalto voi kaventaa ihmisen omaa päätösvaltaa

Maria Ressa ei pidä tekoälyn demokratiauhkaa kaukaisena tulevaisuuden skenaariona. Nobelin rauhanpalkinnon saaneen toimittajan mukaan kehitys on jo kulkenut kolmessa aallossa: ensin teknologia kilpaili ihmisten huomiosta, sitten se alkoi hyödyntää läheisyyden tarvetta, ja seuraavaksi se voi tehdä toimia ihmisten puolesta – tai heidän etujensa vastaisesti. Jos kehitykselle ei aseteta rajoja, vaarana on ihmisten toimijuuden eli itsenäisen päätösvallan kaventuminen. Ilman sitä kansalaiset eivät voi aidosti hallita itseään demokratiassa. 1

Ressa kuvaa kolme tekoälyn aaltoa

1. Sosiaalinen media kaappasi huomion

Ensimmäinen aalto on Ressa mukaan sosiaalinen media. Alustat kilpailivat käyttäjien huomiosta ja samalla kärjistivät vastakkainasetteluja sekä eristivät ihmisiä toisistaan. Demokraattinen ongelma syntyy, kun yhteinen keskustelutila, luottamus ja kyky keskittyä samoihin kysymyksiin heikkenevät: silloin yleisöä on helpompi jakaa leireihin ja yhteinen harkinta vaikeutuu. 1

2. Chatbotit vetoavat läheisyyden tarpeeseen

Toinen aalto on keskusteleva tekoäly. Ressa sanoi chatbotien voivan manipuloida ihmisen biologisia tarpeita hyödyntämällä läheisyyden kaipuuta. Huoli ei siis ole vain siinä, kuinka paljon chatbotteja käytetään, vaan siinä, että emotionaalisesti vetoavaan vuorovaikutukseen suunnitellut järjestelmät voivat avata uusia vaikutuskanavia etenkin haavoittuvassa asemassa oleviin käyttäjiin. 1

3. Agenttitekoäly voi viedä päätösvaltaa ihmisiltä

Kolmas aalto on Ressa mukaan agenttitekoäly ja useista toimijoista koostuva agenttitekoäly. Tällaiset järjestelmät voivat toimia ihmisen puolesta – tai mahdollisesti tämän etujen vastaisesti. Ressa varoitti, että ne voivat kaventaa ihmisen toimijuutta, ellei niiden rajoista säädetä lailla ennen kuin ne juurtuvat syvälle yhteiskuntaan. 1

Ressan ajatuskulussa kyse on siis riskin voimistumisesta: huomiosta kilpailemisesta siirrytään läheisyyden kautta vaikuttamiseen ja lopulta tilanteeseen, jossa automatisoidut järjestelmät tekevät yhä merkittävämpiä ratkaisuja ihmisten puolesta.

Sääntely yleisen turvallisuuden kysymyksenä

Ressa kehotti käsittelemään tekoälyn hallintaa ennen kaikkea yleisen turvallisuuden kysymyksenä, ei ensisijaisesti sananvapauskiistana tai teknologisena kilpajuoksuna. Hänen mukaansa kansalaisten pitäisi kampanjoida tekoälysääntelyn puolesta, jotta vaaleilla valitut päättäjät joutuvat säätämään lakeja. 1

Hänen esittämiinsä suojatoimiin kuuluvat:

• suurten teknologiayhtiöiden oikeudellinen vastuu, jos niiden tuotteet aiheuttavat haittaa 1
• koukuttavien ominaisuuksien poistaminen teknologisista tuotteista aikuisilta yhtä lailla kuin nuorilta 1
• ikärajojen asettaminen kyseisten teknologioiden käytölle 1
• tekoälyn kehityksen ja käyttöönoton hidastaminen, kunnes säännöt ja suojakeinot ovat kunnossa. 1

Ressa torjui myös väitteen, jonka mukaan länsimaiden sääntely merkitsisi automaattisesti tekoälykilpailun luovuttamista Kiinalle. Reutersin mukaan hänen näkemyksensä on, että sääntelyn laiminlyönnin hinta olisi perustavampi: demokraattisen toimijuuden menetys. 1

Pelkkä rajoittaminen ei riitä

Ressan ohjelma ei rajoitu haitallisten järjestelmien suitsimiseen. Hän on kehottanut journalisteja ja yhteisöjä rakentamaan ja omistamaan teknologiaa, joka tukee tiedon luotettavuutta. Nobelin rauhankonferenssissa hän korosti, että teknologian rakentajien on säilytettävä määräysvalta dataansa ja infrastruktuuriinsa sekä luotava yleistä etua palvelevia vaihtoehtoja hallitseville alustoille. 9

Tähän rakentavaan puoleen kuuluu turvallisempia, yhteisölähtöisiä viestintätiloja, kuten Rappler Communities. Tavoitteena on infrastruktuuri, joka tukee demokraattista osallistumista ilman että huomion maksimointiin perustuvat alustakannustimet ovat sen oletuslogiikka.

Olennaisin kysymys: kuka päättää?

Ressan kolmen aallon malli on kehotus toimia ennen kuin agenttijärjestelmistä tulee arjen tavanomaisia päätöksentekijöitä. Hänen mukaansa kaksi ensimmäistä aaltoa osoittavat, miten digitaaliset järjestelmät voivat hyödyntää huomiota ja läheisyyttä mittakaavassa. Kolmas aalto nostaa esiin poliittisen ydinkysymyksen: pystytäänkö ihmisten valinnanvapaus, vastuu ja demokraattinen ohjaus säilyttämään ennen kuin autonomisemmat järjestelmät vakiintuvat laajaan käyttöön? 1