Sam Altman varoittaa kahdesta tekoälyriskistä: hallinnan menetyksestä ja vallan keskittymisestä

OpenAI:n toimitusjohtaja Sam Altman näkee tekoälyn vaarat kahdessa eri suunnassa. Ihmiset voivat menettää hallinnan yhä kyvykkäämmistä järjestelmistä. Tai järjestelmät voivat pysyä ihmisten hallittavina, mutta todellinen valta niiden käytöstä voi kasautua harvoihin käsiin.

Ajatus yhdistää teknisen turvallisuuden ja vallankäytön kysymykset: kyse ei ole vain siitä, mihin mallit pystyvät, vaan myös siitä, kuka päättää niiden tavoitteista ja käytöstä. 1316

Kaksi kehityskulkua, jotka Altman haluaa estää

Ensimmäinen riski on ihmisen hallinnan menetys. Altman on varoittanut tilanteesta, jossa ihmiskunta menettäisi tekoälylle “hallinnan tulevaisuudesta”. Hänen mukaansa tämä on mahdoton hyväksyä: tekoälyn on palveltava ihmisiä, ei tehtävä ihmisistä järjestelmien varassa olevia tai niille alisteisia. 216

Toinen riski on tekoälyvallan keskittyminen. Altman varoittaa myös maailmasta, jossa poikkeuksellisen voimakas tekoäly on yhden henkilön, yrityksen tai valtion hallussa ja sitä käytetään oman maailmankuvan pakottamiseen muille. Hän kuvasi mahdollista lopputulosta “äärimmäisen dystooppiseksi”. 113

Riskit liittyvät toisiinsa, mutta ne eivät ole sama asia. Ensimmäinen koskee sitä, kykenevätkö ihmiset ymmärtämään, rajaamaan ja ohittamaan järjestelmiä. Toinen taas sitä, voiko näennäisesti hallittuja järjestelmiä käyttää toimija, jolla on liikaa valtaa ilman tehokasta ulkopuolista valvontaa.

Mitä suojatoimia Altman kannattaa?

Altman ei aja tekoälykehityksen pysäyttämistä. Hänen linjansa on, ettei mallien kykyjen pidä antaa edetä nopeammin kuin niiden yhteensovittamisen, seurannan ja turvallisuuden. Kilpailupaine ei hänen mukaansa oikeuta huolimattomaan toimintaan. 213

Hän on nostanut esiin muun muassa seuraavia keinoja:

• Yhteensovittaminen ja seuranta samassa tahdissa kykyjen kasvun kanssa. Kehittäjillä pitää olla todellinen kyky arvioida ja hallita sitä, mitä yhä kyvykkäämmät mallit tekevät. 213
• Tekoäly ihmisten palveluksessa. Tämä on Altmanin mukaan periaate, joka erottaa hyväksyttävän kehityksen hallinnan menetyksestä. 216
• Yhtenäiset liittovaltiotason vaatimukset huipputason tekoälylle. Altman on suhtautunut myönteisesti Yhdysvaltain liittovaltiotasoiseen kehykseen, joka asettaisi johdonmukaiset turvallisuusvaatimukset niin sanotulle frontier-AI:lle eli kyvykkyyksiltään alan kärkeä edustavalle tekoälylle. 1316
• Riippumaton tarkastus. Altman on maininnut riippumattomat auditoijat keinona lisätä luottamusta siihen, että yhä kyvykkäämpiä malleja kehittävät yritykset toimivat vastuullisesti. 16

Käytännössä tämä tarkoittaa korkeampaa näyttökynnystä kaikkein kyvykkäimmille järjestelmille: turvatoimien pitäisi olla testattuja ja uskottavia ennen käyttöönottoa, ei vasta sen jälkeen, kun kyvykkyydet ovat jo kasvaneet.

Anthropicin varoitukset tekevät kiistasta terävämmän

Samoihin aikoihin Anthropicin entinen tutkija Jacob Coxon varoitti, että johtavat laboratoriot tavoittelevat itseään parantavaa tekoälyä ja samalla “pelaavat elämällämme”. Hänen eroonsa liittyneen uutisoinnin mukaan järjestelmiä rakentavat tutkijat pelkäävät vakavasti, että niistä voi tulla ihmisten hallittaviksi liian voimakkaita. 17

Coxonin sävy on Altmania suorempi, mutta huoli on pitkälti sama: kyvykkyyksien kehitys voi ohittaa kyvyn valvoa järjestelmiä luotettavasti. Anthropicin yhteensovittamistyötä johtava Evan Hubinger antoi julkisuudessa henkilökohtaisen arvion, jonka mukaan tekoälyn aiheuttaman ihmiskunnan sukupuuton todennäköisyys seuraavan vuosikymmenen aikana on yli 10 prosenttia. Hän myös totesi, ettei superälyä koskevan yhteensovittamisen täydellistä ratkaisua vielä ole. Kyse on yksittäisestä riskiarviosta, ei vakiintuneesta ennusteesta tai tieteellisestä todennäköisyydestä. 17

Oleellista ei ole väittää tiettyä sukupuuttotakarajaa todistetuksi — sitä se ei ole. Merkittävää on, että huipputason kehitystyötä tekevät tutkijat kiistelevät julkisesti siitä, etenevätkö nykyiset turvallisuuskäytännöt riittävän nopeasti verrattuna kehitteillä oleviin järjestelmiin.

Alan todellinen erimielisyys: kyvykkyydet ensin vai turvallisuus ensin?

Keskustelu esitetään usein vastakkainasetteluna tekoälyn kiihdyttäjien ja hidastajien välillä. Se on kuitenkin liian karkea jako. Useimmat osapuolet katsovat, että tekoälystä voi olla merkittävää hyötyä. Erimielisyys koskee ennen kaikkea ajoitusta ja sääntöjen toimeenpantavuutta.

Yhden näkemyksen mukaan huipputason mallien kehitystahtia on säädeltävä niin, että turvallisuustutkimus, arviointimenetelmät, hallinto ja väärinkäytöksiin reagoiminen ehtivät kypsyä. Anthropicin toimitusjohtaja Dario Amodei on vaatinut mallien kyvykkyyksien kehitysvauhdin hidastamista. Hänen ehdotuksiinsa kuuluvat muun muassa kehitystyöhön läheisesti pääsevät riippumattomat arvioijat, huippulaboratorioiden yhteistyö ja kansainvälinen koordinaatio.

Vastapaine on silti todellinen: yritykset ja valtiot pelkäävät, että kilpailijoita hitaampi eteneminen merkitsee taloudellisen tai geopoliittisen edun menettämistä. Altmanin kanta on, ettei kilpailu voi olla peruste sille, että kyvykkyydet ohittavat yhteensovittamisen ja valvonnan. 13

Reutersin mukaan osa tutkijoista uskoo, että mallien kyvykkyydet kehittyvät odotettua nopeammin samalla, kun ihmisten näkyvyys järjestelmien toimintaan — ja mahdollinen hallinta niihin — vähenee. Siksi keskeinen politiikkakysymys on kiireellinen: jatketaanko asteittain itsenäisempien mallien käyttöönottoa turvatoimien kuroessa eroa kiinni, vai pitääkö suojatoimien riittävyys osoittaa ensin?

Tekoälyn hallinnassa tarvitaan kahta näkökulmaa

Altmanin kaksi varoitusta viittaavat siihen, että huipputason tekoälyn hallinnassa on ratkaistava sekä teknisen hallinnan että vallan jakautumisen ongelma. Mallien paremmat arvioinnit, yhteensovittamistutkimus, seuranta ja riippumaton valvonta vastaavat ensimmäiseen. Yhtenäiset säännöt, läpinäkyvyys ja yksipuolisen vallankäytön rajoitukset vastaavat toiseen.

Katastrofiennusteita tai tarkkoja aikatauluja ei pidä käsitellä varmoina tosiasioina. Mahdollisten epäonnistumisten vakavuus selittää kuitenkin sen, miksi vaatimukset vahvemmista arvioinneista, ulkopuolisesta tarkastelusta ja turvallisuusvaatimuksista ovat nousseet tekoälyalan ydinkysymykseksi. 13