Tekoälyn turvallisuustutkijat uupuvat paineessa, jossa riskejä pitää arvioida mutta julkaisuja ei välttämättä voi pysäyttää

Turvallisuustyö edistyneimpien eli niin sanottujen frontier-AI-mallien parissa voi synnyttää poikkeuksellisen kovan paineen. Mallien arvioijat saattavat pitää mahdollisia haittoja vakavina, mutta heillä ei välttämättä ole valtaa lykätä julkaisua tai vaatia korjauksia.

Britannian AI Safety Institutesta (AISI) on raportoitu, että useat työntekijät ovat jääneet sairauslomalle tai hakeneet keskusteluapua. Raportoiduiksi taustatekijöiksi on mainittu tiukat testausaikataulut, heikko työilmapiiri ja huoli siitä, että mallien käyttöönotto etenee suojatoimia nopeammin. Tämä ei todista, että kuormitus olisi yleistä koko instituutissa tai kaikissa suurissa AI-laboratorioissa. Se kuitenkin nostaa esiin, miten raskasta työ voi olla ihmisille, jotka arvioivat korkean panoksen teknologiaa. 2

Mikä tekee työstä henkisesti vaikeaa?

Turvallisuustutkijat eivät arvioi kaukaista tai puhtaasti teoreettista teknologiaa, vaan järjestelmiä, jotka saatetaan ottaa käyttöön lähiaikoina. He voivat löytää haavoittuvuuden, mutta havainto ei automaattisesti tarkoita, että tutkija voisi keskeyttää mallin julkaisun.

AISI:a koskevissa raporteissa painottuvat lyhentyneet arviointiajat julkaisemattomille järjestelmille sekä huoli kaupallisten lanseerausten ja mallien kyvykkyyksien nopeasta tahdista. 2 Uupumusta voi lisätä kokemus siitä, että yksittäinen arvioija kantaa vastuuta riskeistä, joita hän ei yksin pysty ratkaisemaan.

Kyse ei siksi ole ensisijaisesti yksittäisen työntekijän reaktiosta eikä todisteesta siitä, että katastrofi olisi väistämätön. Kyse on rakenteellisesta ongelmasta: seuraukset virhearviosta voivat tuntua suurilta, työtahti on kova ja riippumattoman puuttumisen keinot jäävät epäselviksi.

Mitä riskejä tutkijat arvioivat?

Huoli koskee sekä nykyisiä ja lähiajan väärinkäyttöjä että epävarmempia, pidemmän aikavälin hallinnan menettämisen skenaarioita.

Kyber- ja biologinen väärinkäyttö

Tehokas AI-malli voisi alentaa haitallisen toiminnan vaatimaa osaamista, aikaa tai kustannuksia. Entinen Anthropicin tutkija Jacob Coxon, joka työskenteli aiemmin myös OpenAI:lla, on nostanut esiin AI-avusteiset biologiset uhat ja kyberaseet mahdollisina vakavan vahingon reitteinä. 15

Tämä ei tarkoita, että jokin tietty malli olisi jo aiheuttanut tällaisen tapahtuman. Juuri siksi turvallisuustiimit korostavat arviointeja, käyttörajoituksia ja valvontaa ennen kuin entistä parempaan päättelyyn tai itsenäisempään toimintaan kykeneviä järjestelmiä levitetään laajalti.

Kehitys, joka etenee valvontaa nopeammin

Toinen huoli liittyy siihen, että AI automatisoi yhä suuremman osan tutkimuksesta ja ohjelmistokehityksestä – ja nopeuttaa näin omaa kehityssykliään. Georgetownin yliopiston CSET-tutkimuskeskuksen raportin mukaan pitkälle automatisoitu AI-tutkimus ja -kehitys voisi vauhdittaa kyvykkyyksien kasvua ja samalla vaikeuttaa järjestelmien ymmärtämistä ja hallintaa. Raportti esittää tämän mahdollisena riskiskenaariona, ei varmistuneena kehityskulkuna. 48

Nykyinen näyttö asettaa kuitenkin tärkeän rajan. Eräässä tuoreessa tutkimuksessa agentit pystyivät tekemään huomattavan osan tutkimusinsinöörityöstä ilman ihmistä, mutta ne eivät edenneet merkittävästi testatuissa avoimissa tutkimuskysymyksissä. 49 Täysi, itseään toistuvasti parantava AI ei siis ole osoitettu todellisuudeksi. Huoli kohdistuu vauhtiin: jo osittainen automatisointi voi lyhentää aikaa, joka jää arvioinnille, sääntelylle ja virheiden korjaamiselle.

Miksi Jacob Coxonin ero nousi symboliksi?

Coxonin julkinen ero teki muuten usein laboratioiden sisällä käytävästä keskustelusta näkyvämpää. Hän kertoi työskennelleensä esikoulutustutkimuksessa sekä OpenAI:lla että Anthropicilla ja arvioi yritysten kilpailevan itseään parantavaa superälyä kohti ilman riittävää vastuullisuutta. BBC:lle hän sanoi, että teknologian parissa työskentelevät ihmiset ovat sen vauhdista ja seurauksista ”aidosti pelästyneitä”. 1

Yhden ihmisen ero ei vahvista kaikkia hänen ennusteitaan. Se kuitenkin konkretisoi työpaikkadilemman: onko turvallisuutta tehokkainta parantaa pysymällä laboratorion sisällä vai lähtemällä ja puhumalla julkisesti, jos sisäiset vaikutuskanavat eivät tunnu riittäviltä?

Miksei yksi laboratorio voi vain hidastaa?

Keskeinen hallintaongelma on yhteistoiminta. Jos yksi laboratorio yksin hidastaa kyvykkyyksien kehittämistä, se voi pelätä jäävänsä jälkeen kilpailijoista. Samalla sen työntekijöillä olisi entistä vähemmän vaikutusvaltaa koko alan kehityskilpailuun.

Stanfordin HAI-instituutin keskustelussa arvioitiin, että laajaa AI-kyvykkyyksien kehityksen hidastamista olisi vaikea toteuttaa. Panelistit painottivat silti viranomaisten tai pätevien kolmansien osapuolten tekemiä riippumattomia arviointeja sekä vahvempia investointeja turvallisuuteen, tietoturvaan ja seurantaan. 18

Tämä siirtää vastuun yksittäisiltä tutkijoilta yhteisiin sääntöihin. Keskeisiä kysymyksiä ovat: kuka tekee testit, mitä tapahtuu riskirajan ylittyessä ja kuka pystyy varmistamaan, että sääntöjä noudatetaan?

Ovatko alan hidastamisvaatimukset vilpittömiä?

Anthropicin Dario Amodei, OpenAI:n Sam Altman ja Google DeepMindin Demis Hassabis ovat eri painotuksin tukeneet edistyneimmän AI-kehityksen hidastamista tai tahdittamista. 32 Julkisessa keskustelussa on ehdotettu esimerkiksi sitä, että riippumattomilla arvioijilla olisi jatkuva pääsy huippumalleja kehittäviin laboratorioihin. 36

Julkinen sitoumus ei kuitenkaan vielä ole toimeenpantava rajoite. Kriitikot huomauttavat, että suuryritysten suunnittelema AI-jäädytys voisi vahvistaa niiden markkina-asemaa ja vaikeuttaa pienempien kilpailijoiden toimintaa. 34 Molemmat asiat voivat olla totta samanaikaisesti: johto voi nähdä turvallisuusriskit aidosti vakavina, ja vakiintuneet toimijat voivat silti hyötyä säännöistä, joihin uusien tulijoiden on vaikea yltää.

Siksi hyödyllisempi mittari kuin motiivien arvaaminen on todennettavuus. Vakavaa turvallisuussitoumusta voisi arvioida esimerkiksi näillä perusteilla:

• riippumattomat arvioinnit, joita kehittäjä ei hallitse yksin;
• selkeät riskikynnykset ja seuraukset niiden ylittämisestä;
• avoin poikkeama- ja tietoturvaraportointi;
• tosiasiallinen ulkopuolinen valvonta; sekä
• suoja työntekijöille, jotka ilmoittavat turvallisuushuolista.

Mitä raportit kertovat – ja mitä eivät?

Raportit eivät osoita, että ihmiskunnan sukupuutto olisi lähellä, että kaikki huippu-AI-laboratorioiden työntekijät olisivat kuormittuneita tai että nykyiset AI-järjestelmät pystyisivät parantamaan itseään rajatta ilman ihmisen ohjausta.

Ne havainnollistavat, miksi osa teknologian lähimmistä asiantuntijoista kokee tilanteen eettisesti vaikeaksi: tehokkaita järjestelmiä testataan aikapaineessa, pelätyt haitat vaihtelevat kyber- ja biologisesta väärinkäytöstä hallinnan menettämiseen, eikä julkaisujen valvonnalla välttämättä vielä ole riittävää riippumattomuutta tai toimivaltaa. 2 15 18

Kestävä vastaus ei ole sälyttää tätä vastuuta yksittäisille työntekijöille. Tarvitaan uskottavia, riippumattomasti todennettavia arviointi- ja vastuuvelvollisuusjärjestelmiä, jotka pysyvät teknologian kehityksen tahdissa.