Geoffrey Hinton pitää 10 prosentin tekoälystä johtuvan sukupuuton riskiä mahdollisena

Geoffrey Hinton, tekoälytutkimuksen uranuurtaja ja vuoden 2024 fysiikan Nobel-palkinnon saanut tutkija, sanoi pitävänsä 10 prosentin mahdollisuutta siihen, että tekoäly aiheuttaisi ihmiskunnan sukupuuton seuraavan vuosikymmenen aikana, arviona, joka ei ole kohtuuton. Hän liitti arvioon kuitenkin olennaisen varauksen: ”kukaan ei oikeastaan tiedä, miten järkevä arvio pitäisi tehdä.” 14

Tämä ero on tärkeä. Hinton ei esittänyt tieteellisesti kalibroitua ennustetta, vaan katsoi, ettei riskiä pidä sivuuttaa, kun mahdollinen vahinko olisi niin valtava ja tulevien järjestelmien kyvykkyyksistä tiedetään niin vähän.

Mistä Hintonin huoli kumpuaa?

Hinton erottaa toisistaan kaksi tekoälyyn liittyvää ongelmaa: ihmisten harjoittaman tekoälyn väärinkäytön sekä tilanteen, jossa erittäin kyvykkäitä tekoälyjärjestelmiä ei ehkä enää pystytä hallitsemaan luotettavasti.

Lähiajan väärinkäytöistä hän on varoittanut jo Nobel-luennossaan. Hinton nosti esiin yhteiskuntaa jakavat suosittelujärjestelmät, autoritaaristen valtioiden massavalvonnan ja tekoälyavusteisen tietojenkalastelun. Hänen mukaansa tekoälyä saatetaan lähitulevaisuudessa käyttää myös vaarallisten virusten ja tappavien aseiden kehittämiseen. Hän vaati hallituksilta ja kansainvälisiltä järjestöiltä kiireellisiä toimia.

Kyse ei siis ole vain yhdestä mahdollisesta epäonnistumisesta. Kehittyneet järjestelmät voivat tehdä disinformaatiosta vakuuttavampaa ja yksilöllisemmin kohdennettua, auttaa hyökkääjiä löytämään ohjelmistojen haavoittuvuuksia tai madaltaa biologisten ja kyberuhkien toteuttamisen kynnystä. Tekoälyturvallisuutta painottavien tutkijoiden pahimmassa skenaariossa järjestelmä voisi hankkia resursseja tai pääsyn kriittiseen infrastruktuuriin ja samalla vastustaa ihmisten yrityksiä rajoittaa sitä. 5

Sukupuuttoväitteen ytimessä on kohdistamisongelma

Keskeinen tekninen kysymys on kohdistaminen eli alignment: pystytäänkö ihmistä paljon kyvykkäämpi järjestelmä saamaan toimimaan varmasti ihmisten tarkoittamien tavoitteiden mukaisesti, hyväksymään korjaukset ja pysymään todellisissa rajoissa.

Entinen Anthropicin ja OpenAI:n tutkija Jacob Coxon erosi Anthropicin palveluksesta ja väitti, että johtavat laboratoriot ovat ”kilpailemassa suoraan itseään parantavaan superälykkyyteen” ja ”uhkapelaamassa ihmishengillä”. 18 Hänen huolensa liittyy siihen, että järjestelmien kyky parantaa itseään voisi kasvaa nopeammin kuin turvallisuusmenetelmät kehittyvät.

Anthropicin kohdistamistieteen johtaja Evan Hubinger tuki julkisesti Coxonin varoituksen ydintä. Hubinger sanoi arvioivansa itse, että todennäköisyys tekoälyn aiheuttamalle kaikkien ihmisten kuolemalle seuraavan vuosikymmenen aikana on yli 10 prosenttia. Hän lisäsi, ettei Anthropicilla vielä ole suunnitelmaa superälykkyyden kohdistamisongelman ratkaisemiseksi eikä yhtiö ole selvästi matkalla ratkaisuun. 16

Väite ei ole, että nykyiset mallit olisivat itsenäisesti tuhoamassa ihmiskuntaa. Hubinger on pitänyt nykyisten mallien riskiä pienenä. Huoli koskee mahdollista murroskohtaa: malleista voi tulla riittävän kyvykkäitä kehittämään itseään tai toimimaan tehokkaasti maailmassa ennen kuin kehittäjät osaavat hallita niitä luotettavasti. 116

Skeptikot kiistävät erityisesti lähivuosien sukupuuttoskenaarion

Kaikki tutkijat eivät kiistä sitä, etteikö tekoäly voisi pahentaa kyberrikollisuutta, disinformaatiota tai biologista väärinkäyttöä. Erimielisyys koskee loikkaa vakavista vahingoista ihmiskunnan sukupuuttoon.

Tekoälytutkija Gary Marcus on sanonut, että tekoäly voi edistää kyberhyökkäyksiä, biologisia uhkia, disinformaatiota ja konfliktien kärjistymistä. Hänen mukaansa ei kuitenkaan ole uskottavaa lähiajan reittiä siihen, että teknologia kirjaimellisesti ”tappaisi kaikki ihmiset”. 15 Marcusin näkökulmasta konkreettisiin riskeihin on puututtava ilman oletusta, että nykyiset suuret kielimallit johtavat suoraan hallitsemattomaan superälykkyyteen.

Myös Yann LeCun on kyseenalaistanut varmat niin sanotut p(doom)-arviot, joilla tarkoitetaan tekoälyn aiheuttaman katastrofin todennäköisyyttä. Hänen näkemyksensä on kuvattu sellaiseksi, että tekoälyn sukupuuttoriski on paljon pienempi kuin ydinsodan riski – samalla kun kaikki tällaiset prosenttiarviot ovat väistämättä spekulatiivisia.

Käytännön kiista ei siis ole yksinkertaisesti jako huolestuneisiin ja huolettomiin. Se kiteytyy kahteen ratkaisemattomaan kysymykseen:

1. Kyvykkyyksien aikataulu: Kuinka pian – jos koskaan – järjestelmistä tulee laaja-alaisesti ihmistä kyvykkäämpiä ja kykeneviä parantamaan omaa suorituskykyään?
2. Hallinta: Jos näin käy, voidaanko järjestelmät pitää luotettavasti hallinnassa vai pettävätkö suojatoimet kyvykkäämpien mallien ja markkinakilpailun paineessa?

Mitä 10 prosentin arvio kertoo – ja mitä se ei kerro?

Tekoälyn aiheuttaman ihmiskunnan sukupuuton todennäköisyydelle ei ole olemassa varmennettua laskentatapaa. Hintonin ja Hubingerin kaltaiset arviot ovat syvän epävarmuuden vallitessa tehtyjä asiantuntijaharkintoja, eivät historiallisesta aineistosta johdettuja todennäköisyyksiä. 14

Lukua ei siksi pidä tulkita todisteeksi siitä, että sukupuutto olisi todennäköinen. Toisaalta luotettavan prosenttiluvun puuttuminen ei myöskään osoita riskiä mitättömäksi. Rajatumpi johtopäätös on, että asiantuntijat ovat jyrkästi eri mieltä todennäköisyydestä ja tapahtumaketjuista, mutta monet tunnistavat voimakkaan tekoälyn aiheuttavan vakavia turvallisuus- ja hallintahaasteita jo kauan ennen mahdollista äärimmäistä skenaariota.

Varotoimia vaaditaan ennen laajempaa käyttöönottoa

Hinton on vaatinut tekoälyriskeihin kiireellistä huomiota hallituksilta ja kansainvälisiltä järjestöiltä. Coxon on puolestaan korostanut sääntelyn keskeistä roolia vaarojen vähentämisessä.

Keskustelu painottuu siksi suojatoimiin, jotka voidaan kohdistaa tunnistettaviin kyvykkyyksiin ja käyttötapoihin: edistyneimpien mallien tiukkoihin arviointeihin, parempaan kyberturvallisuuteen, bioturvallisuuden suojauksiin, vakavien poikkeamien raportointiin ja riippumattomaan arviointiin ennen kuin järjestelmille annetaan lisää autonomiaa tai pääsy herkkiin työkaluihin.

Kiista 10 prosentin arviosta tuskin ratkeaa pian. Hintonin keskeinen viesti ei ole, että kukaan pystyisi laskemaan riskin varmasti. Hänen mukaansa panokset ovat niin suuret ja epävarmuus niin syvä, että varmuuden odottaminen voi olla väärä kynnys varotoimille. 14