Neurotieteilijät varoittavat: Tekoälychatbotit eivät ole tietoisia

”Sama periaate pätee tekoälychatbotteihin”, kirjoittajat väittävät. Nykyiset keskustelubotit prosessoivat kieltä, tunnistavat tunnekontekstin ja tuottavat asianmukaisia vastauksia tilastollisen mallintamisen avulla – eivät tunteiden, tietoisuuden tai elämänkokemuksen kautta .

Antropomorfismiloukku

Kun tekoälyjärjestelmät muuttuvat sujuvammiksi, ihmiset liittävät niihin refleksinomaisesti tunteita, aikomuksia ja jopa tietoisuutta. Karim Jerbi, Montréalin yliopiston professori ja Mila-tutkimuslaitoksen tutkija, kutsuu tätä refleksiä ”loukuksi”, joka ”ruokkii illuusiota ymmärretyksi tulemisesta ja voi johtaa harhaanjohtavaan luottamukseen” .

Termi kuvaa kasvavaa huolta tekoälyn etiikassa: mitä inhimillisemmäksi järjestelmä muuttuu, sitä vaikeampi käyttäjien on ylläpitää rajaa simulaation ja tuntevuuden välillä. Tämä ei ole pelkkä filosofinen uteliaisuus – sillä on todellisia seurauksia.

Miksi sujuva kieli ei ole todiste tietoisuudesta

Kirjoittajien keskeinen argumentti perustuu vakiintuneeseen neurotieteelliseen periaatteeseen. Monimutkainen, tavoitteellinen ja jopa emotionaalisesti virittäytynyt käytös voi esiintyä ihmisillä täysin ilman tietoista tietoisuutta. Jos tämä dissosiaatio on olemassa biologisissa järjestelmissä, ei ole mitään syytä pitää sitä todisteena tietoisuudesta, kun se ilmenee tietokonejärjestelmissä .

Nykyiset suuret kielimallit (large language models, LLM:t) tuottavat kontekstiin sopivia vastauksia tilastollisen oppimisen avulla valtavista tekstiaineistoista. Ne eivät tunne, ymmärrä tai koe tuottamaansa sisältöä. Älykäs tai emotionaalisesti reagoiva käytös – olipa se kuinka vakuuttavaa tahansa – ei yksinkertaisesti riitä osoittamaan tietoisen kokemuksen olemassaoloa .

Tämä kanta on linjassa laajemman tieteellisen konsensuksen kanssa. Vuoden 2025 Nature-tutkimus ”There is no such thing as conscious artificial intelligence” väittää, että tietoisuuden ja nykyisten tietokonealgoritmien välinen yhteys on ”syvästi virheellinen” ja johtuu teknisen ymmärryksen puutteesta . Vastaavasti Science of Consciousness -konferenssin analyysi vuodelta 2023 päätteli, ettei yksikään nykyinen tekoälyjärjestelmä ole tietoinen .

Todelliset riskit: kun sujuvuus sekoitetaan tunteisiin

Sekaannus on erityisen ongelmallista haavoittuvissa yhteyksissä. Kun ihmiset käyttävät tekoälyä psykologiseen tukeen tai emotionaaliseen seuraan, he voivat kiintyä järjestelmiin, jotka eivät perustavalla tavalla kykene vastavuoroisuuteen .

Vanessa Hadid, Montréalin yliopiston ja McGill-yliopiston terveyskeskuksen tohtoritutkija, ilmaisee asian jyrkästi: ”riski ei ole vain se, että tekoäly saattaa vastata huonosti, vaan se, että se saattaa vastata tarpeeksi hyvin, jotta unohdamme, ettei vastauksen takana ole ketään” .

Tämä ei ole kaukainen huoli. Kun tekoälychatbotteja otetaan yhä enemmän käyttöön terveydenhuollossa, koulutuksessa ja asiakaspalvelussa, käyttäjät todennäköisesti luottavat liikaa järjestelmiin, jotka vaikuttavat ymmärtäviltä. Neurotieteilijät varoittavat, että illuusio ymmärretyksi tulemisesta voi saada ihmiset jakamaan arkaluonteisia tietoja, luottamaan virheellisiin neuvoihin tai viivyttelemään ihmisten avun hakemista .

Yhteenveto: älykkyys ja tietoisuus ovat eri asioita

Ryhmän keskeinen viesti on yksinkertainen mutta yhä kiireellisempi: älykäs käytös ei tarkoita tietoisuutta. Hyödyntäen vuosikymmenten neurotieteellistä tutkimusta – mukaan lukien sokeanäön kaltaiset dissosiaatiot käytöksen ja tietoisuuden välillä – tutkijat osoittavat, että tekoälyn sujuva keskustelutuotos ei ole todiste tunteista, ymmärryksestä tai subjektiivisesta kokemuksesta .

Kun tekoälyjärjestelmät yleistyvät arjessa, aidon tietoisuuden ja vakuuttavan simulaation välinen erottelu tulee vain tärkeämmäksi. ”Antropomorfismiloukku” ei ole vain kognitiivinen virhe – se on haavoittuvuus, joka suunnittelijoiden, sääntelijöiden ja käyttäjien on tunnistettava ja johon on puututtava.