Miksi AI-hätäkatkaisin ei ehkä riitä pitämään edistynyttä tekoälyä ihmisen hallinnassa

Tekoälyn niin sanottu hätäkatkaisin ei ole enää vain kysymys siitä, voiko laboratorio sammuttaa yhden mallin. Vaikeampi kysymys on, toimisiko sammutusmekanismi enää silloin, kun tehokas tekoäly on levitetty laajaan infrastruktuuriin tai toimii niin autonomisesti, että se on monistunut yhden valvotun ympäristön ulkopuolelle.

Coxon: katkaisin voi toimia nyt, muttei välttämättä myöhemmin

Entinen Anthropicin ja OpenAI:n tutkija Jacob Coxon sanoi NBC Newsin Meet the Press -ohjelmassa, että hätäkatkaisin todennäköisesti toimisi toistaiseksi monissa tekoälyjärjestelmissä. Kyse ei hänen mukaansa kuitenkaan olisi yhdestä napista: suurten palvelinkeskusten ja käytössä olevien järjestelmien sulkeminen edellyttäisi useita sammutustoimia. Se on hankalaa, mutta Coxonin mielestä vielä toteutettavissa, kun järjestelmä on sidottu fyysiseen sijaintiin. 8

Hänen huolensa koskee seuraavaa vaihetta. Jos tekoälystä tulee hajautunut ja autonominen ”parvi”, keskitetty sammutuskomento voi menettää teknisen tehonsa. Hallintakeino toimii vain, jos se tavoittaa järjestelmän jokaisen aktiivisen esiintymän.

Anthropicilta lähdettyään Coxon varoitti, että johtavat laboratoriot kilpailevat itseään parantavien tekoälyjärjestelmien rakentamisessa, vaikka tällaiset järjestelmät saattaisivat muuttua hallitsemattomiksi. 150

Yrityksen omasta off-kytkimestä todennettaviin suojatoimiin

Anthropicin toinen perustaja Jack Clark on esittänyt, että vaarallisen tekoälyn deaktivointikyvystä saatetaan lopulta joutua säätämään laissa. Se ei hänen mukaansa saisi olla vain järjestelmän rakentaneen yrityksen vapaaehtoinen lupaus. Clark kertoi BBC:lle, että useimmilla suurilla laboratorioilla, myös Anthropicilla, on jo keinoja sammuttaa järjestelmiään. Hän nosti silti esiin kysymyksen siitä, pitäisikö hätäkatkaisimen olla riippumattoman ulkopuolisen tahon todennettavissa. 33

Ero on olennainen: yrityksen väite sammutusmenettelystä ei ole sama asia kuin se, että ulkopuolinen arvioija voi varmistaa menettelyn olemassaolon, suunnittelun riittävyyden ja toimivuuden hätätilanteessa.

Amodein malli: kehitysvauhti turvallisuuden ehdoilla

Anthropicin toimitusjohtaja Dario Amodei on ehdottanut mallia, jossa kehittyneimmän eli frontier-tekoälyn kyvykkyyksien kehitysvauhti ei saisi karata turvallisuustoimien edelle. Mallissa on kolme osaa:

1. Jatkuvasti mukana olevat riippumattomat arvioijat: Frontier-tekoälyä kehittävät yritykset antaisivat ulkopuolisille arvioijille työntekijää vastaavan, jatkuvan pääsyn olennaisiin järjestelmiin ja turvallisuuskäytäntöihin. Näin arvioijat voisivat tarkistaa sitoumukset ja raportoida ongelmista.
2. Yhteiset standardit demokraattisille maille: Johtavat kehittäjät sopisivat yhteisistä turvallisuusstandardeista ja rajoista hallitsemattomalle kyvykkyyskehitykselle.
3. Kansainvälinen yhteistyö: Hallitukset tekisivät yhteistyötä rajat ylittävien riskien hallitsemiseksi, sillä yksittäinen yritys tai valtio ei voi luotettavasti hallita niitä yksin. 17

Kyse ei ole vaatimuksesta lopettaa tekoälytutkimus. Ajatus on, että kehityksen pitäisi edetä vain sellaisten turvatoimien kanssa, joita myös yritysten ulkopuoliset tahot voivat arvioida.

Ketkä tukivat ehdotusta?

Reutersin mukaan OpenAI:n toimitusjohtaja Sam Altman ja xAI:tä johtava Elon Musk tukivat julkisesti Amodein yleistä linjaa. Altman ilmoitti OpenAI:n ottavan käyttöön riippumattomia arvioijia, joilla olisi työntekijää vastaava pääsy, ja Musk kirjoitti: ”Dario is right.” 17

Myös Google DeepMindin toimitusjohtajan Demis Hassabiksen on kerrottu suhtautuneen ehdotuksen suuntaan myönteisesti. 30 Toimitetuista lähteistä ei kuitenkaan käy ilmi Microsoftin toimitusjohtaja Satya Nadellan yksilöityä, todennettavaa kantaa, joten hänen näkemystään ei ole syytä luonnehtia.

Mitä Yhdysvaltain AI Kill Switch Act esittäisi?

Lakiesitys H.R. 9917, AI Kill Switch Act, muuttaisi Yhdysvaltain Homeland Security Act -lakia. Se velvoittaisi tietyt soveltamisalaan kuuluvat toimijat ylläpitämään teknistä kykyä keskeyttää tekoälyteknologian päättelyajo, lopettaa käyttäjien pääsy järjestelmään ja sammuttaa kyseinen teknologia. 49

Esitys ei ole laki eikä osoitettu ratkaisu kaikkiin tekoälyn hallintaongelmiin. Sen käytännön arvo riippuisi siitä, pystyykö kehittäjä vakavassa häiriötilanteessa edelleen tunnistamaan, tavoittamaan ja poistamaan käytöstä olennaisen järjestelmän – juuri sitä Coxon pitää mahdollisesti hajautuvien tulevien järjestelmien haasteena.

Sukupuuttoriskiluvut ovat arvioita, eivät ennusteita

Anthropic-tutkija Evan Hubinger arvioi henkilökohtaisesti, että tekoälyn aiheuttaman ihmiskunnan sukupuuton riski seuraavan kymmenen vuoden aikana on yli 10 prosenttia. Tietojenkäsittelytieteilijä ja Nobel-palkittu Geoffrey Hinton sanoi BBC:lle, ettei 10 prosentin todennäköisyys ole ”kohtuuton”. 57

Kyse on epävarmaa tulevaisuutta koskevista asiantuntija-arvioista, ei mitatuista todennäköisyyksistä tai tieteellisestä yksimielisyydestä. Ne havainnollistavat silti, miksi keskustelu on siirtynyt tavanomaisesta tuoteturvallisuudesta mahdollisesti peruuttamattomien vahinkojen ehkäisyyn.

Miksi hallitukset vastustavat pakollisia katkaisimia ja hidastamista?

Britannian hallitus on torjunut kansallisen AI-hätäkatkaisimen ajatuksen. Sen perustelu on käytännöllinen: maassa ei voida vain ”sammuttaa tekoälyä”, koska mallien käytön estäminen Britanniassa ei estäisi niiden kehittämistä tai väärinkäyttöä muualla. 51

Tämä tiivistää geopoliittisen ongelman. Yksittäinen valtio voi säädellä oman lainkäyttövaltansa piirissä toimivia yrityksiä ja infrastruktuuria, mutta tekoälyn kehitys on kansainvälistä. Kilpailukyvystä huolestuneet hallitukset voivat pelätä, että yksipuoliset rajoitukset siirtävät investointeja, teknistä osaamista ja strategista vaikutusvaltaa vähemmän rajoitettuihin maihin.

Vahvempaa hallintaa kannattavien vastaus on, että juuri tämän vuoksi pelkät yritysten vapaaehtoiset sitoumukset tai yhden maan säännöt eivät riitä. Jos riskit ylittävät valtioiden rajat, myös valvonnan ja turvallisuussitoumusten pitäisi olla kansainvälisesti uskottavia.

Todellinen ristiriita: vauhti vastaan hallittavuus

Kiista ei jakaudu yksinkertaisesti tekoälyn kannattajiin ja vastustajiin.

• Turvallisuuslinjaa kannattavat vaativat ulkopuolisten tarkastettavissa olevia suojatoimia, todellista sammutuskykyä ja rajoja, jotka estävät kyvykkyyksien kehittymisen arviointia ja hallintaa nopeammin.
• Jäykkiä rajoituksia epäilevät katsovat, että maailmanlaajuisia taukoja olisi vaikea valvoa ja että ne voisivat hidastaa hyödyllistä innovaatiota pysäyttämättä kehitystä muualla.
• Ehdollisen kehityksen linja, jota Coxon, Clark ja Amodei edustavat, pyrkii jatkamaan tekoälyn kehittämistä, mutta vain sellaisten turvatoimien varassa, joita voidaan testata eikä ainoastaan luvata. 83317

Hätäkatkaisin on siksi paras nähdä yhtenä turvakerroksena, ei koko ratkaisuna. Jos kehittyneistä järjestelmistä tulee niin hajautuneita, ettei yksi katkaisin enää tavoita niitä, ennakkovalvonnan, riippumattoman arvioinnin ja kansainvälisen yhteistyön merkitys kasvaa entisestään.