Altman: tekoälyn nostaminen uskonnolliseksi auktoriteetiksi on turvallisuusriski

Sam Altman sanoi olevansa ”hyvin epämukavassa asemassa”, jos tekoälymalleille annetaan ”uskonnollista voimaa” tai ihmiset luovuttavat niille oman harkintavaltansa. Hän kutsui tätä ”todelliseksi turvallisuusongelmaksi”. Altman ei nimennyt Anthropic-yhtiötä, mutta kommentin ajoitus — vain päiviä sen jälkeen, kun yhtiön tapaamisista uskonnollisten tutkijoiden kanssa uutisoitiin — sai monet tulkitsemaan sen epäsuoraksi kritiikiksi. 71

Keskustelussa on tärkeää erottaa toisistaan kysymys siitä, miten tekoälyn pitäisi toimia, ja kysymys siitä, voisiko se olla tietoinen. Kumpikaan ei itsessään tarkoita, että ihmisille ehdotettaisiin tekoälyn pitämistä hengellisenä auktoriteettina. Anthropic on uutisoinnin mukaan tarkastellut näitä kysymyksiä, ja yhtiön perustaja Christopher Olah on sanonut olevansa aidosti epävarma siitä, ovatko tekoälymallit tietoisia. 1

Mistä Altman varoitti?

Altman nosti esiin kaksi huolta: tekoälyn kohtelemisen ikään kuin sillä olisi uskonnollista valtaa sekä ihmisten oman harkinnan siirtämisen mallille. Hän piti tätä yhdistelmää turvallisuusriskinä. Koska päivityksessä ei nimetty yritystä tai hanketta, sen yhdistäminen Anthropiciin perustuu kommentin ajankohtaan ja ympärillä olleisiin uutisiin — ei suoraan Altmanin esittämään syytökseen. 7

Varoitus ulottuu uskontoa laajemmalle. Jos mallin sujuvat ja itsevarmat vastaukset alkavat näyttäytyä auktoriteettina, ihmiset saattavat antaa sille enemmän painoarvoa kuin sen todellinen ymmärrys oikeuttaa. Lähteissä kerrotaan Altmanin huolesta, mutta ne eivät osoita, kuinka yleistä tällainen toiminta on tai millaisia vaikutuksia sillä on ollut. 67

Miksi Anthropicin tapaamiset herättivät huomiota?

Anthropic keskusteli uskonnollisten tutkijoiden kanssa siitä, miten Claude-mallin moraalista toimintaa voisi ohjata ja voisivatko tekoälymallit olla tietoisia. Aiheiden yhtymäkohdat Altmanin varoitukseen selittävät, miksi hänen kommenttinsa luettiin reaktiona yhtiön työhön. 17

Olah kuitenkin korosti epävarmuuttaan: ”Emme tiedä, ovatko tekoälymallit tietoisia. Minä en tiedä. Olen aidosti epävarma.” Mahdollisen tietoisuuden pohtiminen ei todista, että mallilla olisi subjektiivisia kokemuksia. Myöskään uskonnollisten ajattelijoiden kuuleminen mallin moraalisesta toiminnasta ei itsessään anna sille uskonnollista asemaa. 1

Tietoisuus ja moraalinen toiminta ovat eri kysymyksiä

Tekoälymalli voidaan suunnitella noudattamaan ohjeita siitä, miten sen tulisi vastata. Tämä ei kuitenkaan osoita, että mallilla olisi sisäinen kokemus tai omaa tietoisuutta. Anthropicin keskusteluissa käsiteltiin uutisoinnin mukaan sekä Clauden toimintaa että mahdollista tietoisuutta — eri kysymyksiä, joita ei pidä niputtaa yhdeksi väitteeksi. 1

Uutisoinnissa kerrottiin myös vastalauseista ajatukselle, että malleja koulutettaisiin ikään kuin ne olisivat tietoisia: Microsoftin tekoälyjohtaja varoitti tällaisen lähestymistavan voivan olla vaarallinen. Kyse on raportoidusta huolesta, ei ratkaisusta laajempaan kiistaan koneiden tietoisuudesta. Olah on puolestaan kertonut olevansa asiasta epävarma. 91

Ihmisen asema tekoälyn aikakaudella

Paavi Leo XIV:n tekoälyä käsittelevässä kiertokirjeessä ihmisarvo nostettiin keskustelun keskiöön. Asiakirjaa käsitelleen uutisoinnin mukaan paavi vaati tekoälyä kehittäville yrityksille tiukempaa valvontaa, suojaa työntekijöille, joiden työhön teknologian muutokset vaikuttavat, sekä toimia tekoälyn tuottaman valheellisen tiedon torjumiseksi. Näissä huolissa korostuu, että ihmisten etujen ja vastuun on pysyttävä keskeisinä tekoälyä kehitettäessä ja käytettäessä. 152

Myös OpenAI on joutunut tarkasteluun

Keskustelu käytiin samaan aikaan, kun OpenAI:sta julkaistiin erillisiä uutisia. Business Insider kertoi turvallisuusjohtaja David Robinsonin lähteneen yhtiöstä ja arvostelleen sen turvallisuustyötä. BBC puolestaan uutisoi, että OpenAI erotti kolme tutkijaa epäillyn tietojen virheellisen käsittelyn vuoksi. Uutiset eivät ratkaise kysymystä tekoälyn tietoisuudesta, mutta ne ovat taustaa, kun yhtiöiden väitteitä ja valvontaa arvioidaan. 1226

Selkein johtopäätös on rajatumpi kuin tuomio Anthropicin tai OpenAI:n toiminnasta: Altman varoitti kohtelemasta tekoälymalleja uskonnollisina auktoriteetteina tai luovuttamasta niille ihmisen omaa harkintaa. Anthropicin raportoidut keskustelut nostivat esiin Clauden moraalisen toiminnan ja mahdollisen tietoisuuden, mutta saatavilla oleva uutisointi ei osoita, että yhtiö olisi antanut Claudelle uskonnollisen auktoriteetin — tai että tekoälyn tietoisuudesta olisi saatu lopullinen vastaus. 71