Mitä Evan Hubingerin yli 10 prosentin arviosta paljastui tekoälyn turvallisuuskeskustelussa

Evan Hubingerin julkinen kommentti ei osoita, että tekoäly tuhoaisi ihmiskunnan. Se paljasti jotain täsmällisempää – ja keskustelun kannalta merkittävää: Anthropicin kohdistamistieteen vetäjä arvioi henkilökohtaisesti, että tällaisen kehityksen todennäköisyys seuraavan vuosikymmenen aikana on yli 10 prosenttia. Samalla hän sanoi, ettei Anthropiclilla ole vielä ratkaisua superälyksi kutsutun, ihmistä laaja-alaisesti kyvykkäämmän tekoälyn kohdistamiseen ihmisten tavoitteisiin eikä selvää polkua ratkaisuun. 12

Tämä tuki konkreettisesti entisen Anthropic- ja OpenAI-tutkijan Jacob Coxonin eronsa yhteydessä esittämää huolta: johtavat tekoälylaboratoriot voivat edetä kohti huomattavasti kyvykkäämpiä järjestelmiä, vaikka keinot pitää ne luotettavasti ihmisten aikomusten mukaisina ovat yhä todistamatta. 23

Ratkaiseva rajaus: henkilökohtainen arvio, ei yrityksen ennuste

Yli 10 prosentin luku oli Hubingerin oma arvio. Sitä ei esitetty Anthropicin virallisena riskitodennäköisyytenä, henkilöstön yhteisenä kantana eikä vakiintuneena tieteellisenä ennusteena. 12

Rajaus on olennainen. Pelkkä todennäköisyysarvio ei vielä kuvaa tarkkaa tapahtumaketjua, vahvista aikataulua eikä todista katastrofin olevan todennäköinen. Hubingerin kerrottiin myös pitävän tällä hetkellä saatavilla olevien mallien riskiä pienenä. Hänen huolensa koski tulevia, paljon nykyistä kyvykkäämpiä järjestelmiä – myös mahdollisuutta rekursiiviseen itsensä parantamiseen, jossa tekoäly auttaa rakentamaan entistä kyvykkäämpää tekoälyä. 210

Kommentti on silti huomionarvoinen juuri puhujansa aseman vuoksi. Keskeinen paljastus ei ollut vain dramaattinen prosenttiluku, vaan kuilu mallien kyvykkyyksien kehittämisen ja superälyn ihmiskontrollista vallitsevan luottamuksen välillä. 12

Miksi kommentti vahvisti Coxonin kritiikkiä

Coxon, joka oli työskennellyt sekä OpenAI:lla että Anthropicilla, erosi tehtävästään väittäen, etteivät kumpikaan yhtiö toimineet vastuullisesti ja että ne kilpailevat itseään parantavan superälyn rakentamisesta. Hubinger yhtyi julkisesti Coxonin perusväitteeseen, että järjestelmiä rakentavat ihmiset pitävät ihmiskunnan häviämistä aidosti mahdollisena lopputuloksena. 23

Tämä ei osoita, että kaikki työntekijät ajattelisivat samoin, eikä se muuta Coxonin kuvausta kahdesta yrityksestä riippumattomasti vahvistetuksi kokonaisarvioksi. Se kuitenkin tekee vaikeammaksi sivuuttaa eron yksittäisen entisen työntekijän katkerana puheenvuorona. Nykyinen turvallisuusalan johtaja vahvisti, että vakava sisäinen huoli voi esiintyä samaan aikaan, kun mallien kehitystä jatketaan. 12

Myös Samuel Marksin kommentteja on luettava samalla varovaisuudella. Raporttien mukaan hän sanoi tekoälykehittäjien uskovan teknologiansa voivan aiheuttaa ihmiskunnan tuhon tai muita yhtä vakavia seurauksia. Kyse on kuitenkin sisäpiiriläisen näkemyksestä, ei julkaistusta koko yritystä koskevasta riskiarviosta. 5

Varsinainen kiista koskee hallintaa epävarmuuden vallitessa

Tapaus typistetään helposti asetelmaksi, jossa vastakkain ovat "tekoälytuomio" ja tekoälyoptimismi. Käytännöllisempi kysymys kuuluu: millaisia suojatoimia pitää vaatia, kun mahdolliset haitat olisivat maailmanlaajuisia ja peruuttamattomia, mutta niiden todennäköisyydestä ja aikataulusta vallitsee suuri epävarmuus?

Hubingerin kommentit terävöittävät etenkin neljää kohtaa:

• Kohdistamisongelmaa ei ole ratkaistu. Se, että laboratorio yrittää vakavasti, ei ole sama asia kuin näyttö siitä, että sillä on toimiva menetelmä nykyistä paljon kyvykkäämpien järjestelmien hallintaan. 1
• Kilpailu voi tehdä vapaaehtoisesta pidättäytymisestä vaikeaa. Coxonin mukaan kilpailupaine ajaa laboratorioita lisäämään kyvykkyyksiä, vaikka keskeiset turvallisuuskysymykset ovat avoinna. 23
• Nykyisten mallien turvallisuus ei ratkaise tulevaa riskiä. Hubinger erotti toisistaan nykyisten mallien vähäisenä pitämänsä riskin ja huolensa tulevista, paljon kyvykkäämmistä järjestelmistä. 210
• Ulkopuolista varmistusta tarvitaan. Yleisön, asiakkaiden ja viranomaisten on vaikea arvioida yrityksen sisäisiä turvallisuusprosesseja ilman riippumatonta testausta ja avointa raportointia.

Nämä ovat hallintaongelmia, eivät todiste välittömästä katastrofista. Juuri siksi niihin vastaaminen voi kuitenkin muuttua vaikeammaksi, jos järjestelmät ehtivät ensin saada vaarallisia kyvykkyyksiä.

Läpinäkyvyyskysymykset lisäävät painetta

Raporttien mukaan Anthropic jätti viimeisimmän mallinsa toimittamatta Britannian AI Safety Institutelle testattavaksi ennen julkaisua. Tietoa on syytä käsitellä varauksella: saatavilla olevat tiedot kuvaavat sitä mediaraporttina, eivät yhtiön tai Britannian hallituksen vahvistamana julkisena johtopäätöksenä. 10

Väite havainnollistaa silti, miksi vapaaehtoisiin turvallisuuslupauksiin suhtaudutaan epäillen. Jos yhtiön omat turvallisuusjohtajat myöntävät kohdistamiseen liittyviä ratkaisemattomia ongelmia, ulkopuoliset kysyvät perustellusti, mitä testejä tehtiin, kuka ne arvioi, mitä tuloksia jaettiin sekä millä kyvykkyystasoilla valvontaa tiukennetaan.

Mitä hitaampi ja turvallisempi eteneminen voisi tarkoittaa

Vaatimus hidastaa kehitystä ei välttämättä tarkoita kaiken tekoälytutkimuksen tai käyttöönoton pysäyttämistä pysyvästi. Politiikkakeskustelun ytimessä ovat toimeenpantavat tarkistukset ennen kuin järjestelmät ylittävät erityisen merkittäviä kyvykkyyskynnyksiä.

Mahdollisia toimia ovat esimerkiksi:

• riippumattomat kyvykkyys- ja turvallisuusarvioinnit ennen käyttöönottoa;
• velvollisuus raportoida vakavista vaaratilanteista ja olennaisesti vaarallisista kyvykkyyksistä;
• selkeämmät kynnysarvot, joiden ylittyessä kehittäjän on otettava käyttöön vahvemmat tietoturva- ja hallintakeinot;
• auditoinnit, jotka eivät perustu vain kehittäjän omaan vakuutukseen; sekä
• kansainvälinen yhteistyö, jotta yksittäinen yritys tai valtio ei kokisi painetta tinkiä turvallisuudesta pysyäkseen kilpailijoiden tahdissa.

Perustelu on yksinkertainen: jos riski on epävarma mutta haitta voisi olla äärimmäinen, suojatoimien on oltava osoitettavasti toimivia ennen mahdollista hallinnan menetystä – ei vasta sen jälkeen.

Mitä Hubingerin viesti lopulta paljasti

Hubingerin julkaisu toi esiin eturintaman tekoälykehityksen perusristiriidan: alan johtavat kehittäjät voivat tunnistaa julkisesti vakavia pitkän aikavälin riskejä ja jatkaa silti niiden kyvykkyyksien rakentamista, jotka tekevät riskeistä kiireellisempiä. 12

Kommentti ei ratkaise katastrofaalisen tekoälyhaitan todennäköisyyttä, eikä sitä pidä lukea Anthropicin virallisena ennusteena. Se tekee kohdistamiskeskustelusta kuitenkin konkreettisemman. Kysymys ei ole enää vain siitä, voiko edistynyt tekoäly muuttua vaaralliseksi. Kysymys on siitä, pystyvätkö yritykset ja hallitukset osoittamaan riippumattomalla näytöllä, sitovilla säännöillä ja kansainvälisellä yhteistyöllä olevansa valmiita ennen kuin kyseiset järjestelmät ovat liian voimakkaita hallittaviksi turvallisesti. 110