Geoffrey Hinton: 10 prosentin riski tekoälyn aiheuttamasta sukupuutosta ei ole kohtuuton

Geoffrey Hinton, Nobel-palkittu tietojenkäsittelytieteilijä ja modernin tekoälyn keskeinen uranuurtaja, sanoi BBC:n Newsnight -ohjelmassa, ettei 10 prosentin todennäköisyys sille, että tekoäly tappaisi kaikki ihmiset seuraavan kymmenen vuoden aikana, vaikuta kohtuuttomalta arviolta. Hän liitti lausuntoon kuitenkin olennaisen varauksen: kukaan ei oikeasti tiedä, miten tällaiselle riskille voisi antaa järkevän todennäköisyysarvion. 91012

Kyse ei siis ole ennusteesta, jonka mukaan ihmiskunnan tuho olisi väistämätön. Hinton ei myöskään väitä, että nykyiset chatbotit aiheuttaisivat tällaisen uhan. Hänen varoituksensa koskee mahdollista tulevaisuutta, jossa tekoälyjärjestelmät ovat ihmisiä paljon kyvykkäämpiä mutta niiden toiminta pysyy vaikeasti hallittavana.

Mitä Hintonin 10 prosentin arvio tarkoittaa

Hinton hyväksyi haastattelussa ajatuksen, että 10 prosenttia on mahdollinen arvio tekoälyn aiheuttamalle ihmiskunnan sukupuutolle vuosikymmenen sisällä. Perusteena oli ennen kaikkea epävarmuus: ihmiskunta ei ole aiemmin joutunut elämään rinnakkain mahdollisesti itseään älykkäämpien toimijoiden kanssa. 910

Hinton on esittänyt vakavia arvioita myös pidemmällä aikavälillä. Loppuvuodesta 2024 hän arvioi, että tekoälyn aiheuttaman ihmiskunnan sukupuuton riski voisi olla 10–20 prosenttia seuraavan 30 vuoden aikana. Vuonna 2025 hän kuvasi lukua enemmän vaistonvaraiseksi arvioksi kuin laskelmaan perustuvaksi ennusteeksi. 1415

Ero riskinarvion ja väistämättömyyttä ennustavan väitteen välillä on tärkeä. Hintonin mukaan poikkeuksellisen suuret mahdolliset seuraukset ovat syy varovaisuuteen, eivät peruste sivuuttaa epävarmuutta.

Miksi ihmistä kyvykkäämpi tekoäly huolestuttaa

Tässä keskustelussa ei puhuta elokuvamaisesta konekapinasta. Hintonin huoli on, että ihmistä selvästi parempi järjestelmä voisi kyetä aiheuttamaan laajaa häiriötä tai tavoitella päämääriä, jotka ovat ristiriidassa ihmisten etujen kanssa.

Mahdollisiksi vahingon reiteiksi on esitetty ihmisten manipulointia, biologisten tai tietokonevirusten kehittämistä, kyberhyökkäyksiä sekä kriittisen infrastruktuurin häirintää. Ne ovat skenaarioita erittäin kyvykkäille tuleville järjestelmille – eivät näyttöä siitä, että nykyiset tekoälytyökalut pystyisivät tähän. 1011

Tämä ero on olennainen. Anthropicin kohdistamistieteen johtaja Evan Hubinger on sanonut pitävänsä nykyisten mallien riskiä pienenä. Hänenkin huolensa koskee sitä, että järjestelmät voisivat myöhemmin tulla paljon kyvykkäämmiksi tai parantaa itseään nopeammin kuin tutkijat ehtivät hallita kehitystä turvallisesti. 11624

Coxonin lähtö ja Hubingerin varoitus

Keskustelu kärjistyi, kun Jacob Coxon jätti Anthropicin ja koko tekoälyalan. Coxon syytti Anthropicia ja OpenAI:ta kilpajuoksusta itseään parantavaan superälyyn ilman riittävää vastuullisuutta ja kuvasi kehitystä uhkapeliksi ihmishengillä. 317

Coxon ei ennustanut täsmällisesti, että ihmiskunta päättyisi vuoteen 2030 mennessä. Hänen rajatumpi väitteensä oli, että edistyneintä tekoälyä rakentavat ihmiset todella uskovat teknologian voivan tappaa kaikki kuluvan vuosikymmenen loppuun mennessä. 57

Hubinger tuki julkisesti huolen vakavuutta. Hän kirjoitti arvioivansa henkilökohtaisesti yli 10 prosentin todennäköisyyden sille, että tekoäly voisi tappaa kaikki ihmiset seuraavan vuosikymmenen aikana. Samalla hän sanoi Anthropicin yrittävän parhaansa. Ratkaiseva lisäys oli, ettei yhtiöllä vielä ole suunnitelmaa superälyn kohdistamisongelman ratkaisemiseksi eikä se ole selvästi matkalla sellaiseen ratkaisuun. 16

Mitä kohdistaminen tarkoittaa?

Tekoälyn kohdistamisella (alignment) tarkoitetaan ongelmaa, jossa kehittyneen järjestelmän pyritään varmistamaan toimivan luotettavasti ihmisten tarkoittamien tavoitteiden mukaisesti ja pysyvän hallittavana myös ennalta arvaamattomissa tilanteissa.

Turvallisuustutkijoille kyse ei ole vain siitä, kieltäytyykö malli haitallisesta pyynnöstä. Kysymys on siitä, voidaanko järjestelmää, jolla on laajaa autonomiaa, pääsy työkaluihin ja mahdollisesti käyttäjiään paremmin ymmärrettyjä kykyjä, ohjata turvallisesti todellisissa käyttötilanteissa.

Hubingerin kommentit eivät todista, että kohdistaminen olisi mahdotonta. Ne kertovat hänen arviostaan, ettei superälyn turvalliseen kohdistamiseen ole vielä osoitettua ratkaisua ennen kuin tällaisia järjestelmiä mahdollisesti rakennetaan. 16

Asiantuntijat ovat yhtä mieltä varovaisuudesta – eivät luvusta

Hintonin täsmällisestä 10 prosentin arviosta ei ole asiantuntijakonsensusta.

Gary Marcus on tukenut Hintonin keskeistä varovaisuusperiaatetta: olisi typerää kehittää superälyä ennen kuin on tieteellinen yhteisymmärrys siitä, että se voidaan rakentaa turvallisesti ja hallittavasti. Raportoinnin mukaan Marcus ei silti pidä ihmiskunnan sukupuuttoon johtavaa lähireittiä realistisena. Tämä havainnollistaa keskustelun olennaista jakolinjaa: suojatoimien tarpeesta voi olla samaa mieltä ilman, että hyväksyy saman todennäköisyysarvion tai aikataulun. 1141

Siksi numeerisia riskiarvioita kannattaa lukea asiantuntijoiden henkilökohtaisina harkintoina, ei mitattuina faktoina.

Käytännön kysymys: millaista näyttöä pitäisi vaatia?

Yhteinen nimittäjä ei ole väite, että tekoälyn aiheuttama sukupuutto olisi varma. Pikemminkin kyse on siitä, ansaitseeko merkittäväkin mahdollisuus menettää hallinta ihmistä kyvykkäämmistä järjestelmistä julkista tarkastelua ennen kuin teknologinen kehitys ohittaa turvallisuustyön.

Hintonin arvio, Coxonin irtisanoutuminen ja Hubingerin kohdistamisvaroitus palautuvat samaan avoimeen kysymykseen: millaista näyttöä yhteiskunnan pitäisi vaatia ennen sellaisten järjestelmien käyttöönottoa tai skaalaamista, joista voi tulla strategisesti ihmistä kyvykkäämpiä?

Lukijan kannalta kannattaa erottaa toisistaan kolme usein sekoittuvaa väitettä:

• Nykyiset tekoälymallit ovat sukupuuttotason uhka.
• Tulevat järjestelmät voivat saada kykyjä, joista syntyy tällainen uhka.
• Tämän lopputuloksen todennäköisyys voidaan arvioida täsmällisesti.

Lähteet tukevat toista väitettä vakavana, tunnettujen tutkijoiden esittämänä huolena. Hubinger kuvaa nykyisten mallien riskin pieneksi, ja Hinton puolestaan sanoo, ettei todennäköisyyttä itsessään voi laskea luotettavasti. 11016