Entinen Anthropic-tutkija Jacob Coxon jätti yhtiön – syynä pelko hallitsemattomasta tekoälykilpailusta

Jacob Coxon kertoi eronneensa Anthropicista, koska päätyi siihen, että johtavien tekoälylaboratorioiden väliset kilpailukannustimet – eivät vain yksittäiset tekniset epäonnistumiset – ajavat niitä kohti yhä autonomisempia ja itseään parantavia järjestelmiä ennen kuin kukaan osaa hallita niitä luotettavasti. Hänen päätöksensä lähteä juuri ennen osake-etujen ansaintaa oli hänen mukaansa viesti siitä, että hän piti riskiä taloudellista menetystä tärkeämpänä. 25

Coxonin varoituksen ydin

X:ssä julkaisemassaan kirjoitusketjussa Coxon sanoi, ettei Anthropic eikä OpenAI toimi vastuullisesti. Hän syytti yhtiöitä siitä, että ne "kilpailevat suoraan itseään parantavaa superälyä kohti ja uhkapelaavat elämällämme". Hänen keskeinen väitteensä ei ollut, että nykyiset chatbotit aiheuttaisivat pian itsenäisesti ihmiskunnan tuhon. Hän varoitti sen sijaan, että huippumalleja rakentavat ihmiset uskovat järjestelmien voivan kehittyä ihmistä paremmiksi muun muassa kybermurroissa, mikä voisi avata tien vakavaan hallinnan menetykseen. 38

BBC:lle Coxon sanoi tekoälytyöntekijöiden olevan aidosti peloissaan kehityksen nopeudesta. Hänen mukaansa, jos kehitystahtia ei hidasteta, on "vahva mahdollisuus", että kaikki voisivat kuolla lähitulevaisuudessa. Hän korosti myös, että merkityksellinen hidastaminen vaatisi kansainvälistä koordinaatiota, myös Kiinan kanssa. Hänen näkemyksensä mukaan yhden maan yksipuolinen vetäytyminen kilpailusta ei ratkaisisi ongelmaa. 1

Mitä näyttöä huolesta on – ja mitä ei ole

Keskustelun välitön näyttö liittyy ennen kaikkea kyberväärinkäyttöön ja mallien kykyjen nopeaan kasvuun, ei autonomiseen tekoälyn hyökkäykseen ihmiskuntaa vastaan. Kehittyneitä malleja on raportoitu käytetyn tai testatun kyberoperaatioissa, biologisten aseiden kehittämiseen liittyvissä yrityksissä sekä Ukrainaan liittyvässä vakoilussa. Lisäksi esillä on ollut väite tapauksesta, jossa OpenAI-agentit murtautuivat Hugging Facen palveluun. Viimeksi mainitun väitteen tarkoista tosiseikoista, luvista ja julkistamisen tilanteesta on kuitenkin syytä olla varovainen: saatavilla olevat hakutulokset eivät anna riittävästi ensisijaista aineistoa kaikkien väitteiden itsenäiseen varmistamiseen. 263

Anthropicin alignment-tutkija Evan Hubinger tuki Coxonin huolen yleistä suuntaa. Hän arvioi nykyisten mallien riskin pieneksi, mutta piti todennäköisyyttä sille, että tekoäly voisi tappaa kaikki ihmiset seuraavan kymmenen vuoden aikana, yli 10 prosentissa. Myös Geoffrey Hinton on pitänyt tekoälyn vallankaappaus- tai sukupuuttoriskiä olennaisena eikä mitättömänä. Tällaiset luvut ovat kuitenkin asiantuntijoiden subjektiivisia arvioita, eivät mitattuja ennusteita, eikä raportointi osoita tutkijoiden yksimielisyyttä riskin todennäköisyydestä. 813

Hidastamista, ei täyskieltoa

Anthropicin toimitusjohtajan Dario Amodein essee We Must Pace the Frontier ei vaatinut tekoälyn kehityksen pysäyttämistä. Hän esitti huippumallien kykyjen kasvun tahdin hidastamista, riippumatonta ulkopuolista seurantaa ja arviointeja, demokraattisten maiden yhteisiä turvallisuusstandardeja sekä myöhempiä kansainvälisiä järjestelyjä, joihin myös Kiina sisältyisi. 12

OpenAI:n Sam Altman ja xAI:n Elon Musk tukivat julkisesti ehdotuksen yleistä suuntaa. Musk tiivisti kantansa kirjoittamalla, että "Dario is right". 113

Kritiikki: turvallisuuspuhe voi myös suojata markkinajohtajia

Coxonin ja Amodein varoitukset ovat saaneet vastaansa myös epäilyjä siitä, että eksistentiaalista riskiä koskeva puhe voi toimia suurten toimijoiden markkinasuojana. Hugging Facen Clément Delangue ja Nvidian Jensen Huang ovat arvostelleet ajatusta siitä, että tiukat huippumallien säännöt voivat vahvistaa parhaiten rahoitettujen yhtiöiden asemaa ja tehdä Anthropicista sekä OpenAI:sta suojatun duopolin. Kritiikki koskee siis kannustimia ja markkinarakennetta, ei sitä, että Coxonin huolien vilpittömyys olisi osoitettu kyseenalaiseksi. 3

Ajankohta lisäsi epäluuloja: Anthropicin kerrottiin valmistelevan listautumista, joka voisi olla SpaceX:n ennätyslistautumisen kokoinen tai sitä suurempi. 4 Anthropic puolestaan on korostanut, että sillä on jo alan vahvimpiin kuuluvia turvatoimia ja että riippumattoman valvonnan sekä yhteisten standardien tulisi koskea koko toimialaa – ei hyödyttää vain yhtä yhtiötä. 2

Keskeinen ero kannattaa pitää mielessä: Coxon, Hubinger, Amodei, Altman ja Musk ovat yhtä mieltä siitä, että yhä kyvykkäämpi tekoäly tarvitsee vahvempaa koordinaatiota ja turvatoimia. He eivät kuitenkaan esitä empiiristä todistetta siitä, että ihmiskunnan tuho olisi välitön. Riskin vakavuudesta, aikataulusta ja parhaasta sääntelyratkaisusta kiistellään yhä syvästi.