Miksi tekoälyn inhimillistäminen on vaarallista – ja miten yksi sana ruokkii harhaa

Ongelma ei ole vain siinä, että botti kuulostaa ystävälliseltä. Ihmisen kaltainen esitystapa voi saada käyttäjän uskomaan, että järjestelmä todella ymmärtää hänen kokemuksiaan tai tavoitteitaan, vaikka se tuottaa vastauksia tilastollisten mallien perusteella.

Yliluottamus, riippuvuus ja yksityisyys

Ihmisen kaltaiset järjestelmät voivat herättää käyttäjissä kiintymystä ja emotionaalista riippuvuutta. Tämä voi heikentää käyttäjän itsenäistä harkintaa ja vaarantaa yksityisyyden . Tutkimusten mukaan ihmiset saattavat kertoa ihmisen kaltaiseksi tehdylle asiakaspalvelubotille henkilökohtaisia tietoja helpommin kuin vähemmän inhimillistetylle järjestelmälle .

Sama ilmiö voi saada käyttäjän antamaan koneelle sosiaalisen roolin – esimerkiksi ystävän, neuvonantajan tai luotetun asiantuntijan aseman. Pohjimmiltaan kyse on kuitenkin ennustavasta tekstijärjestelmästä, ei vastavuoroisesta suhteesta .

Vääristyneet käsitykset kyvyistä

Inhimillistävä kieli paisuttaa helposti kuvaa siitä, mihin tekoäly pystyy. Kun järjestelmä ”päättelee”, ”tietää” tai ”ymmärtää”, sanavalinnat voivat antaa vaikutelman ihmisen kaltaisesta mielestä ja tarkoituksellisesta toiminnasta. Tämä osallistuu tekoälyn kykyjen liioitteluun ja teknologiaa koskevaan hypeen .

Iowa Staten yliopiston asiantuntijat ovat varoittaneet erityisesti mentaaliverbien, kuten ”ajatella”, ”tietää”, ”ymmärtää” ja ”haluta”, käytöstä tekoälystä puhuttaessa. Ne viittaavat uskomuksiin, toiveisiin tai tietoisuuteen – ominaisuuksiin, joita tekoälyjärjestelmillä ei ole .

Kenelle kuuluu vastuu, jos kone ”päättää”?

Antropomorfismi voi sotkea myös moraalisia ja juridisia arvioita. Käyttäjä saattaa pitää konetta päätöksestä vastuullisena tai arvioida sitä ikään kuin sillä olisi luonne, aikomuksia tai moraalinen asema . Tällöin ihmisten, yritysten ja muiden järjestelmän suunnitteluun tai käyttöön osallistuneiden vastuu voi jäädä taka-alalle.

Erityisen ongelmallista on se, jos yritys käyttää keinotekoisia persoonia saadakseen kuluttajan luottamaan palveluun, mutta samalla välttää selkeän vastuun päätöksistä ja seurauksista . Vakuuttava käyttöliittymä ei saa peittää sitä, kuka järjestelmän on rakentanut, kuka sitä hallitsee ja kuka vastaa sen virheistä.

Miksi ”tekoäly” voi olla ongelmallinen substantiivi?

Suomen kielessä ”tekoäly” toimii luontevasti substantiivina. Ilmaukset kuten ”tekoäly päätti” tai ”tekoäly haluaa” tekevät siitä helposti yhden toimijan, jolla on oma tahto ja sisäinen näkökulma. Sama koskee englannin ilmausta ”the AI”, jossa määräinen artikkeli vahvistaa vaikutelmaa yhdestä tunnistettavasta agentista.

Siksi Nature-lehti on linjannut, että se välttää ilmauksia ”the AI” ja ”an AI”, koska ne vihjaavat epätoivottavasti toimijuuteen. Lehden suositus on puhua mieluummin ”AI system” -muodossa tai täsmentää, tarkoitetaanko esimerkiksi suurta kielimallia, generatiivista mallia, tiettyä malliversiota vai chatbot-sovellusta .

Suomeksi vastaava ero on esimerkiksi tämä:

• ”Tekoäly päätti hakemuksen hylkäämisestä.”
• ”Tekoälyjärjestelmä tuotti hakemuksesta hylkäystä ehdottavan arvion.”

Ensimmäinen lause antaa vaikutelman itsenäisestä päätöksentekijästä. Jälkimmäinen kertoo tarkemmin, että kyse on järjestelmän tuottamasta arviosta – ja jättää tilaa kysyä, kuka järjestelmän suunnitteli, millä aineistolla se toimii ja kuka tekee lopullisen päätöksen.

Täsmällinen kieli on pieni mutta hyödyllinen suojakeino

Kielen muuttaminen ei yksin poista tekoälyn riskejä. Se ei estä virheellisiä vastauksia, syrjiviä vaikutuksia tai yrityksiä käyttämästä ihmisen kaltaista suunnittelua kaupalliseen manipulointiin. Täsmälliset ilmaukset voivat kuitenkin toimia jatkuvana muistutuksena siitä, että kyse on teknisestä välineestä eikä tuntevasta mielestä.

Siksi on hyödyllistä suosia ilmauksia kuten tekoälyjärjestelmä, kielimalli, malli, algoritmi tai chatbot sen mukaan, mikä tarkalleen on kyseessä. ”Järjestelmä tuotti”, ”malli ennusti” ja ”sovellus luokitteli” ovat yleensä täsmällisempiä kuin ”tekoäly ajatteli” tai ”tekoäly ymmärsi”.

Lopputulos on yksinkertainen: tekoälyn inhimillistäminen ei ole pelkkä harmiton kielikuva. Se voi lisätä yliluottamusta, helpottaa manipulointia, rohkaista arkaluonteisten tietojen jakamiseen ja hämärtää vastuukysymyksiä. Kun puhumme tekoälyjärjestelmistä emmekä yhdestä ”tekoälystä”, pidämme paremmin näkyvillä sen, mitä kone tekee – ja mitä se ei tee.