Sam Altmanin ”Hyvät maaorjat” -heitto paljasti tekoälyn luottamuspulan

OpenAI:n toimitusjohtaja Sam Altman kuvasi 23. elokuuta julkaistussa podcastissa tekoälyalan pahimmillaan alentuvaa viestintää. Hänen sarkastisessa ”Hyvät maaorjat” -esimerkissään yritykset tarjoaisivat ihmisille syövän parantamisen, materiaalista yltäkylläisyyttä ja viihdettä – mutta odottaisivat vastineeksi, että yleisö lopettaa valittamisen ja antaa niiden päättää tulevaisuudesta. 3242

Altman ei nimennyt Anthropic-yhtiön toimitusjohtajaa Dario Amodeita suoraan. Kommentti osui kuitenkin lähelle Amodein muutamaa päivää aiemmin esittämää ajatusta: väite siitä, että tekoäly vielä parantaa syövän, ei enää innosta yleisöä, ellei ala pysty näyttämään todellisia lääketieteellisiä läpimurtoja. 1416

Mitä Altmanin ”maaorjat”-heitto tarkoitti?

Altman arvosteli ennen kaikkea holhoavaa vaihtokauppaa – ei välttämättä lupausta paremmasta lääketieteestä tai runsaammasta hyvinvoinnista. Hänen huolensa oli, että tekoälyjohtajat voisivat tarjota aineellista vaurautta vastineeksi siitä, että ihmiset luopuvat merkittävästä vaikutusvallasta omaan tulevaisuuteensa.

Sama ajatus nousi esiin podcastin muissa kohdissa. Altman kuvasi kahta osittain ristiriitaista riskiä: tekoäly voi muuttua niin voimakkaaksi, etteivät ihmiset enää pysty luotettavasti hallitsemaan sitä, tai päätösvalta voi keskittyä pienelle joukolle yrityksiä, malleja tai yksittäisiä ihmisiä. 3135

Tässä kehyksessä ongelma on teknisen lisäksi poliittinen. Tulevaisuus voi näyttää materiaalisesti menestyksekkäältä, mutta tavallisilla ihmisillä voi silti olla hyvin vähän vaikutusvaltaa heidän työhönsä, yksityisyyteensä ja yhteiskunnan instituutioihin vaikuttaviin järjestelmiin.

Miksi kommentti yhdistettiin Amodeihin?

Amodei vastasi 15. elokuuta sijoittaja Gavin Bakerille, joka oli väittänyt Amodein toistuvien tekoälyn vaaroja koskevien varoitusten lisänneen yleistä vastustusta teknologiaa kohtaan. Baker yhdisti tämän myös datakeskusten rakentamista koskevaan vastarintaan. 722

Amodei torjui ajatuksen, että ongelma ratkeaisi muuttamalla viestintä myönteisemmäksi. Hän kuvasi yleisön epäluottamusta ”perustavanlaatuiseksi luottamuskriisiksi”, joka juontuu pitkäaikaisesta epäluottamuksesta yrityksiä, hallituksia ja teknologiayhtiöitä kohtaan. 13

Amodei esitti samalla poikkeuksellisen suoran kritiikin omaa alaansa kohtaan. Hänen mukaansa tekoäly-yhtiöt, Anthropic mukaan lukien, eivät ole vielä lunastaneet suuria lupauksiaan maailman hyödyttämisestä. Väite siitä, että tekoäly parantaa syövän, on hänen mielestään muuttunut kliseeksi, jota monet pitävät harhaanjohtavana. Yleisön mielipiteen muuttaisi hänen mukaansa se, että syöpä todella parannetaan. 814

Tässä Altmanin ja Amodein näkemykset kohtaavat. Molemmat varoittavat pyytämästä yleisöä hyväksymään valtavia lupauksia pelkän uskon varassa. Altman painottaa itsenäisen päätösvallan poliittista hintaa. Amodei taas puhuu uskottavuuden hinnasta silloin, kun poikkeuksellisia hyötyjä luvataan ilman näkyviä tuloksia.

Amodein vastaus Bakerin optimismiin

Bakerin tulkinnassa tekoälyn vastareaktio oli pitkälti viestintäongelma: katastrofiriskeistä pitäisi puhua vähemmän, hyötyjä korostaa voimakkaammin ja teknologiasta tehdä yleisölle helpommin hyväksyttävä. Amodein mukaan epäluottamus on kuitenkin vanhempaa kuin yhdenkään johtajan julkiset puheenvuorot, eikä kiiltävä markkinointikampanja voi sitä korjata. 17

Tämä ei tarkoita, että Amodei olisi torjunut tekoälyn mahdollisuudet. Hän arvioi, että tekoäly voisi auttaa parantamaan useimmat ihmisten sairaudet noin viiden–kymmenen vuoden kuluessa, vaikka myönsi väitteen kuulostavan poikkeukselliselta. 16

Ratkaiseva ero on ennusteen ja saavutetun tuloksen välillä. Amodein mukaan alalla saattaa olla vahva perustelu tekoälyn puolesta, mutta se jää epäuskottavaksi niin kauan kuin ihmiset eivät näe konkreettisia tuloksia eivätkä ymmärrä, miten hyödyt jakautuvat.

Miten Mark Zuckerberg liittyy kiistaan?

Metan toimitusjohtaja Mark Zuckerberg on maalannut optimistista tulevaisuutta, jossa superäly vahvistaa kaikkien ihmisten mahdollisuuksia ja työpaikkoja riittää edelleen. Hänen 6 500 sanan esseensä ”The Future is for Everyone” esitti tekoälyn ennen kaikkea yksilöiden laajasti jakamana työkaluna. 1726

Amodein luottamusta koskeva näkemys haastaa epäsuorasti ajatuksen siitä, että myönteinen tulevaisuuskuva riittäisi yksin. Ihmiset voivat edelleen kysyä, kuka malleja hallitsee, kuka korjaa niiden tuottaman vaurauden, kuka kantaa riskit ja pystyvätkö instituutiot pitämään yhtiöt vastuussa.

Epäluottamus ei rajoitu tekoälyn turvallisuuteen. Esille ovat nousseet myös työpaikkojen väheneminen, eriarvoisuus, yksityisyys, sisällöntuottajien korvaukset ja tekoälyn vaikutukset yhteiskuntaan. WIREDin siteeraamassa kyselyssä moni yhdysvaltalainen suhtautui tekoälyyn kielteisemmin kuin myönteisesti. 25

Saatavilla oleva aineisto tukee vakavaa kiistaa luottamuksesta ja yleisestä hyväksynnästä. Se ei kuitenkaan todista, että yhden toimitusjohtajan varoitukset olisivat aiheuttaneet datakeskusten vastustusta, eikä se osoita yhtä mitattua, koko alan kattavaa syytä innostuksen vähenemiselle.

Syvempi jakolinja: lupaukset vastaan valta

Altmanin, Amodein ja heidän kriitikoidensa välinen kiista ei siis koske vain sävyä.

• Optimismi ensin: Tekoäly-yhtiöiden on kerrottava hyödyistä selkeämmin eikä annettava katastrofiriskien määrittää koko teknologiaa. 730
• Luottamus ensin: Epäluottamus heijastaa vuosikymmenten kehitystä, eikä markkinointi voi korvata toteutuneita hyötyjä, uskottavaa hallintoa ja tilivelvollisuutta. 12
• Hallinta ensin: Vauraakaan tekoälytulevaisuutta ei voida pitää hyväksyttävänä, jos muutamat yritykset, mallit tai ihmiset tekevät kaikkien kannalta ratkaisevat päätökset. 3537

Altmanin ”Hyvät maaorjat” -heitto teki ristiriidan näkyväksi: ala voi luvata yltäkylläisyyttä ja kuulostaa samalla siltä, että yleisöltä odotetaan itsenäisen päätösvallan luovuttamista. Amodein kommentti täydentää kritiikkiä toisesta suunnasta: edes hyväntahtoiset lupaukset eivät palauta luottamusta, ennen kuin ne muuttuvat todennettaviksi tuloksiksi.

Johtopäätös on yksinkertainen. Tekoälyjohtajat eivät voi olettaa, että pelko tai optimismi vakuuttaa ihmiset yksinään. Luottamus riippuu siitä, mitä teknologia oikeasti tuottaa, kuka sitä hallitsee, kuka sen hyödyt saa ja säilyykö ihmisillä todellinen mahdollisuus vaikuttaa rakennettavaan tulevaisuuteen.