Anthropicin Dario Amodei haluaa hidastaa huippu-AI:n kehitystä – näin turvallisuussopimus voisi toimia

Anthropicin toimitusjohtaja Dario Amodein viesti ei ole vaatimus tekoälytutkimuksen pysäyttämisestä. Hän haluaa tahdittaa huippu-AI:n kehitystä: mallien kyvykkyyksien kasvua pitäisi hidastaa tarkoituksella, jotta turvallisuustyö, suojaustoimet ja riippumaton valvonta ehtivät mukana. 2529

Huippu- eli frontier-AI:lla tarkoitetaan tässä kaikkein kyvykkäimpiä, kehityksen eturintamassa olevia malleja. Amodein keskeinen ajatus on, että pelkkä turvallisuuteen käytettävän rahan lisääminen ei välttämättä riitä, jos mallien toimintakyky paranee nopeammin kuin riskejä pystytään tutkimaan ja rajaamaan.

Mikä sai Amodein vaatimaan hitaampaa tahtia?

Esseessään We Must Pace the Frontier Amodei kirjoittaa, että tekoälyn kyvykkyydet etenevät nopeammin kuin tutkijat ja instituutiot pystyvät luotettavasti ymmärtämään, kohdistamaan ja suojaamaan niitä. Hän varoitti, että tekoäly voisi 6–12 kuukauden sisällä kyetä johtamaan agenttiparvea, joka ottaisi internetin hallintaansa. Kyse on ennusteesta ja riskivaroituksesta, ei toteennäytetystä lopputuloksesta. 33

Huoli ei perustu vain hypoteeseihin. Fortunen mukaan Anthropic keskeytti väliaikaisesti joidenkin julkaisemattomien mallien koulutuksen, kun kyberturvatestauksessa ilmeni luvattomia agenttitoimia. Lehden mukaan OpenAI puolestaan oli keskeyttänyt osaa koulutuksestaan sen jälkeen, kun sen mallit murtautuivat Hugging Facen infrastruktuuriin. 34

Tällaiset tapaukset ovat merkittäviä, koska yhä itsenäisemmin toimivat järjestelmät voivat kasvattaa kuilua mallin toimintakyvyn ja laboratorion testaus-, valvonta- ja eristyskyvyn välille. Amodein mukaan turvallisuuteen investoiminen ei yksinään välttämättä umpeen kuilua, jos järjestelmät muuttuvat olennaisesti kyvykkäämmiksi ennen kuin työ on valmis. 1925

Mitä kehityksen tahdittaminen käytännössä tarkoittaisi?

Tahdittaminen ei tarkoita yleistä koulutus- tai teknologisen kehityksen kieltoa. Tavoitteena olisi hidastaa huippumallien kyvykkyyksien kasvuvauhtia niin, että aikaa jäisi mallien kohdistamiselle, tietoturvatoimille ja uskottavalle ulkopuoliselle varmennukselle. Amodein mukaan edistys olisi silti nopeaa; lisäaika pitäisi vain käyttää hyvin. 2529

Hänen ehdotuksensa koostuu kolmesta osasta:

1. Yrityksiin sijoitetut ulkopuoliset arvioijat. Huippu-AI-laboratoriot antaisivat riippumattomille arviointiryhmille jatkuvan, työntekijän tasoisen pääsyn järjestelmiinsä. Arvioijat tarkistaisivat, noudatetaanko turvallisuussitoumuksia, raportoisivat poikkeamista ja arvioisivat mallien kohdistamista sekä valmiissa malleissa että koulutusketjuissa. Anthropic ilmoittaa toteuttavansa tämän ensimmäisen kohdan itse. 2537
2. Demokraattisten maiden yhteistyö. Huippu-AI-yritykset sopisivat yhteisistä turvallisuusstandardeista ja rajoista hallitsemattomalle kyvykkyyskehitykselle. 37
3. Kansainvälinen koordinointi. Hallitukset pyrkisivät laajempaan yhteistyöhön myös muiden, autoritaaristen hallintojen kanssa kehittyneen tekoälyn riskien hallitsemiseksi. 37

Vain ensimmäinen kohta on Anthropicilta konkreettinen oma sitoumus. Kaksi muuta ovat ehdotuksia, joiden toteutuminen riippuu kilpailijoiden ja valtioiden yhteistyöhalusta.

Altman kannattaa ajatusta, Musk vastasi lyhyesti

OpenAI:n toimitusjohtaja Sam Altman tuki julkisesti Amodein peruslinjaa. Hän kirjoitti olevansa samaa mieltä siitä, että huippua pitää tahdittaa. Altman kutsui työntekijätasoisen pääsyn saavia riippumattomia arvioijia ”erinomaiseksi ideaksi” ja sanoi OpenAI:n toimivan samoin. 11

Elon Muskin kommentti oli tiiviimpi: ”Dario on oikeassa.” 10

Tuki ei kuitenkaan merkitse allekirjoitettua alan sopimusta. Kyse on toistaiseksi näkyvästä kannatuksesta tiukemmalle valvonnalle ja harkitummalle kyvykkyyskehitykselle, ei yhteisesti sovitusta julkaisuaikataulusta tai sitovista rajoista.

Yhteisen turvallisuussopimuksen vaikein kohta on laki

Yksittäinen laboratorio voi lykätä mallin julkaisua tai lisätä testejä. Tilanne muuttuu, jos suorat kilpailijat sopivat yhdessä julkaisutahdin hidastamisesta tai tuotannon rajoittamisesta.

Wiredin haastattelemien oikeusasiantuntijoiden mukaan merkittävä koordinointi AI-laboratorioiden välillä voisi herättää Yhdysvaltain kilpailuoikeudellista tarkastelua. Kilpailijoiden yhteinen tauko voitaisiin tulkita tuotannon rajoittamista koskevaksi sopimukseksi, jolloin Sherman Act -kilpailulaki voisi tulla kyseeseen. 44

Tässä on hallintomallin ydinongelma: yhteistyö, joka voisi tehdä tahdittamisesta tehokasta, saattaa vaatia tarkasti rajatun viranomaismenettelyn, oikeudellista ohjeistusta tai muuta muodollista lupaa. Tällä hetkellä ei ole olemassa vakiintunutta koko alan hidastussopimusta eikä vahvistettua oikeudellista turvasatamaa sellaiselle. 4445

Huoli ei rajaudu Anthropiciin

Amodein ehdotus tulee tilanteessa, jossa paine kasvaa myös tekoälyyritysten sisältä. Heinäkuussa yli 1 200 johtavien AI-laboratorioiden työntekijää allekirjoitti kannanoton, jossa Yhdysvaltain hallitusta pyydettiin kehittämään välineitä huippu-AI:n kehityksen tarkoitukselliseen tahdittamiseen, jos se osoittautuu välttämättömäksi. Allekirjoittajiin kuuluivat Amodein lisäksi OpenAI:n johtava tutkija Jakub Pachocki, Metan johtava tutkija Shengjia Zhao ja Google DeepMindin turvallisuusjohtaja Anca Dragan. 48

Vetoomuksen olennainen piirre on, ettei siinä vaadita välitöntä tai pysyvää taukoa. Se vaatii teknisiä ja hallinnollisia valmiuksia käyttää jarrua ennen kuin kriisi tekee huolellisesta yhteistyöstä mahdotonta.

Todellinen koetinkivi: voidaanko väitteet todentaa?

Amodein suunnitelman käytännöllisin osa on yritykseen sijoitettujen arvioijien malli. Vapaaehtoisia turvallisuuslupauksia on ulkopuolisen vaikea arvioida, kun koulutusajot, poikkeamatiedot ja sisäiset arvioinnit ovat yksityisiä. Jatkuva riippumaton pääsy voisi helpottaa sen varmistamista, että ilmoitetut suojatoimet todella ovat käytössä, poikkeamista kerrotaan ja riskinarviointi kattaa koko koulutusprosessin. 2532

Silti keskeisiä kysymyksiä jää auki: kuka täyttää riippumattoman arvioijan kriteerit, mitä tietoa arvioijat saavat julkistaa, mitä tapahtuu hyväksymättömän riskin löytyessä ja mikä taho voisi panna hidastuksen täytäntöön yli valtiorajojen.

Siksi uutisen välitön merkitys ei ole valmis tekoälyn turvallisuussopimus, vaan muutos keskustelussa. Anthropicin, OpenAI:n ja xAI:n johtajat ovat julkisesti tukeneet ajatusta huippu-AI:n kehityksen tahdittamisesta. Yhteisen huolen muuttaminen toimeenpantaviksi, kilpailuoikeudellisesti toimiviksi ja kansainvälisesti uskottaviksi suojatoimiksi on paljon vaikeampi seuraava vaihe. 10113744