Altman ja Amodei vievät tekoälyturvallisuuden YK:n turvallisuusneuvostoon

YK:n turvallisuusneuvoston kuulemisessa kehittynyt tekoäly asetetaan kansainvälisen turvallisuuden kehykseen. Esillä ovat järjestelmien haitallinen käyttö, mahdollisuus siihen, että kehittäjät menettävät tehokkaan hallinnan yhä kyvykkäämmistä malleista, sekä yhteisten turvallisuusstandardien ja rajat ylittävien suojatoimien tarve. Puhujien täsmällisiä puheenvuoroja ei ole julkaistu ennakkoon. Ranska kutsui 23. syyskuuta pidettävän kokouksen koolle turvallisuusneuvoston kansainvälisen rauhan ja turvallisuuden ylläpitämistä koskevan asialistan alla. 10

Mitä puhujat todennäköisesti painottavat

OpenAI:n toimitusjohtajan Sam Altmanin, Anthropicin toimitusjohtajan Dario Amodein, tekoälytutkija Yoshua Bengion ja Hugging Facen toimitusjohtajan Clément Delanguen odotetaan korostavan kansainvälistä koordinaatiota. Ajatus on, ettei niin sanottujen rajamallien — kaikkein kyvykkäimpien tekoälymallien — turvallisuutta jätettäisi yksittäisten yritysten tai valtioiden hoidettavaksi.

Käytännössä tämä voisi tarkoittaa yhteisiä riskiarvioita, tiedonvaihtoa vaarallisista kyvykkyyksistä ja häiriötilanteista, riippumatonta testausta sekä toimia aseellistamisen ja muun haitallisen käytön estämiseksi. Kokouksen ilmoitettuun aihepiiriin kuuluvat tekoälyn kansainväliselle turvallisuudelle aiheuttamat riskit. 10

Turvallisuusyhteistyö on mahdollista — mutta rajat ovat tiukat

OpenAI ja Anthropic ovat jo toteuttaneet yhteisen arviointiharjoituksen: kumpikin sovelsi omia turvallisuus- ja vääränlaista toimintaa koskevia arviointejaan toisen osapuolen julkisesti julkaistuihin malleihin, ja tulokset julkaistiin. Menettelyn tarkoitus on löytää katvealueita, joita laboratorio ei välttämättä havaitse omasta järjestelmästään. 15

Tällainen vastavuoroinen tarkastus tuo kuitenkin esiin hankalan rajanvedon. Kilpailevien yritysten pitäisi antaa toisilleen riittävästi pääsyä ja turvallisuustietoa, jotta testaus olisi merkityksellistä. Samalla niiden on vältettävä tietojen vaihtoa, joka voisi yhdenmukaistaa tuotesuunnitelmia, mallien julkaisuaikatauluja, hintoja tai teknisen kehityksen vauhtia.

Miksi kilpailuoikeus nousi keskiöön

Yhdysvalloissa ehdotettu kuluttajien ryhmäkanne väittää, että Anthropic, OpenAI, SpaceXAI ja Google sopivat laittomasti tekoälykehityksen hidastamisesta. Kyse on kantajien väitteestä, ei tuomioistuimen toteaman rikkomuksen tai sopimuksen näytöstä. 1

Kanne havainnollistaa perusristiriitaa. Turvallisuuden puolustajat voivat pitää yhteisiä julkaisukynnyksiä tai taukoja varovaisena riskienhallintana. Kantajat taas voivat tulkita saman toiminnan määräävässä asemassa olevien kilpailijoiden tuotannon rajoittamiseksi.

Rajattu, dokumentoitu ja tekniseen turvallisuustestaukseen keskittyvä ristiinarviointi on helpompi perustella kuin yhteinen päätös siitä, milloin tai kuinka nopeasti malleja parannetaan ja julkaistaan. Avoin kysymys on, voidaanko turvallisuusyhteistyölle rakentaa riittävän tarkat, auditoitavat pelisäännöt ilman, että siitä muodostuu käytännössä kilpailijoiden välistä koordinaatiota.

Jyrkkä vastakohta Trumpin YK-linjalle

Turvallisuusneuvoston keskustelussa rajamallien riskit nähdään yhteistoimintaongelmana, joka vaatii kansainvälisiä suojatoimia. Donald Trumpin YK:n yleiskokouksessa esittämä linja oli poliittisesti vastakkainen: hän torjui kansainvälisen tekoälyn valvonnan, kuvasi turvallisuusvaroituksia huijaukseksi, painotti Yhdysvaltain etua tekoälykilpailussa ja sanoi liittovaltion käyttävän ilmaisua ”super intelligence” eli superäly ”artificial intelligence” -termin sijasta. 3

Raportoinnin mukaan nimitysmuutos koskisi Yhdysvaltain hallinnon virallista viestintää. 2

Ranskan johtaman aloitteen tavoitteena on yhteiset säännöt, joilla estetään turvallisuudesta tinkivä kilpajuoksu. Trumpin lähestymistavassa pidättyvyys puolestaan näyttäytyy uhkana Yhdysvaltain teknologiselle kilpailukyvylle. Juuri näiden kahden näkemyksen väliin jää tekoälypolitiikan vaikein kysymys: miten edistää täsmällistä, valvottavaa turvallisuusyhteistyötä ilman, että kilpailu markkinoilla vääristyy.