Trump torjuu AI-jarrutuksen, Amodei vaatii turvallisuussääntöjä huippumalleille

Donald Trump tarkastelee kehittynyttä tekoälyä ennen kaikkea Yhdysvaltain ja Kiinan välisenä kilpailuna. Hän sanoi Yhdysvaltojen johtavan Kiinaa tekoälyssä ja korosti, että ”se, joka voittaa tekoälyn, voittaa”. Myöhemmin hän kutsui väitteitä tekoälyn mahdollisuudesta vallata maailma tai tuhota ihmiskunta ”huijaukseksi” ja väitti tekoälyn sekä datakeskusten vastustamisen olevan Kiinaa hyödyttävä ”sairas salaliitto”. 1719

Miksi Trump hyökkäsi Dario Amodeita vastaan?

Trumpin kommentit tulivat sen jälkeen, kun Anthropicin toimitusjohtaja Dario Amodei oli vaatinut kaikkein kyvykkäimpien tekoälymallien kehitysvauhdin tietoista hidastamista. Lähtökohdat ovat erilaiset: Trump painottaa Yhdysvaltain teknologisen johtoaseman säilyttämistä, kun taas Amodein mukaan mallien kyvykkyydet voivat edetä nopeammin kuin turvallisuuskäytännöt ja valvonta ehtivät mukana. 17

Trump katsoi myös, että viranomaisilla on jo huomattavaa rikos- ja sääntelyvaltaa alan yrityksiin nähden. Hänen mukaansa vahva presidentti olisi riittävä suojakaide. Amodeiin kohdistunut arvostelu yhdisti siten epäluulon tekoälyn eksistentiaalisia riskejä koskevia varoituksia kohtaan sekä pelon siitä, että muodolliset rajoitukset heikentäisivät yhdysvaltalaisia yrityksiä Kiinan kilpailijoihin verrattuna. 1921

Mitä Amodein suunnitelma käytännössä tarkoittaa?

Amodei ei esittänyt tekoälytutkimuksen lopettamista. Hänen We Must Pace the Frontier -kirjoituksensa kolmiosainen suunnitelma tähtää siihen, että kyvykkyyksien hallitsematon kasvu hidastuisi riittävästi, jotta turvallisuustyö, testaus ja hallintamallit ehtisivät mukaan.

1. Pysyvät riippumattomat arvioijat huippumalleja kehittäviin laboratorioihin. Anthropic ilmoitti antavansa ulkopuolisille arvioijille jatkuvan, työntekijätasoisen pääsyn järjestelmiinsä. Arvioijien tehtävänä olisi tarkistaa turvallisuuskäytäntöjen noudattamista, raportoida poikkeamista ja arvioida mallien ohjautuvuutta koulutuksen aikana. 16
2. Huippumalleja kehittävien yritysten yhteistyö. Johtavien laboratorioiden pitäisi sopia yhteisistä turvallisuusstandardeista ja rajoista hallitsemattomalle kehitykselle sen sijaan, että ne kilpailisivat vain yhä nopeammasta suorituskyvyn kasvusta.
3. Kansainvälinen yhteistyö. Amodein mukaan vakavimpien tekoälyriskien hallinta edellyttää lopulta yhteistyötä yhden maan tai liittouman ulkopuolella.

Ensimmäinen kohta ei ollut pelkkä vetoomus hallituksille tai kilpailijoille: Anthropic esitti sen omana välittömänä sitoumuksenaan. 16

Altman, Musk ja Nadella: tukea, mutta eri ehdoilla

OpenAI:n toimitusjohtaja Sam Altman sanoi olevansa samaa mieltä siitä, että huippua pitää edetä harkitusti, ja lupasi OpenAI:n tarjoavan pääsyn ulkopuolisille arvioijille. Myös xAI:ta johtava Elon Musk ilmoitti tukevansa Amodeita.

Microsoftin toimitusjohtaja Satya Nadella suhtautui myönteisesti harkittuun etenemiseen ja laboratorioihin sijoitettaviin arvioijiin. Hän korosti kuitenkin hallinnon ongelmaa: valvonta ei saa jäädä vain harvojen yritysten käsiin. Nadellan mukaan mahdollinen superälyn tavoittelu on perusteltua vain, jos se hyödyttää ihmiskuntaa ja pysyy ihmisten hallinnassa.

Kannatuksen ilmaukset eivät vielä muodosta yhteistä, kattavaa sääntelyjärjestelmää. Ne kuitenkin osoittavat, että useat alan johtajat tukevat kehittyneimpien järjestelmien jatkuvampaa ja muodollisempaa ulkopuolista tarkastelua.

Kiinan ongelma: kukaan ei halua jarruttaa yksin

Entinen Anthropicin ja OpenAI:n tutkija Jacob Coxon sanoi tekoälyjärjestelmiä rakentavien ihmisten olevan ”aidosti peloissaan” ihmiskunnan tulevaisuuden puolesta. Hän piti hidastamista tervetulleena, mutta katsoi sen edellyttävän koordinointia Kiinan kanssa. 1

Tämä osuu keskustelun ytimeen. Yritys tai valtio, joka hillitsee kehitystään yksin, voi pelätä jäävänsä jälkeen kilpailijoista, jotka eivät tee samoin. Kiinan ulkoministeriö torjui Amodein vaatimukset Kiinan tekoälykyvykkyyksiin vaikuttavista rajoista ja tulkitsi ne Yhdysvaltain pyrkimykseksi hillitä Kiinaa pikemminkin kuin puolueettomaksi turvallisuushallinnoksi. 4

Kyse on luottamusongelmasta: turvallisuussääntöjen kannattajat näkevät vastavuoroiset järjestelyt riskien pienentäjänä, kun taas vastustajat voivat nähdä ne keinona suojata toisen osapuolen teknologista etumatkaa.

Voivatko turvallisuussäännöt suojata markkinajohtajia?

Sijoittaja Michael Burry kutsui hidastamiskampanjaa ”omaa etua palvelevaksi”. Hänen kritiikkinsä mukaan hitaampi kehitys ja raskaammat vaatimukset voivat hyödyttää vakiintuneita tekoäly-yhtiöitä, koska uusien haastajien on silloin vaikeampi kilpailla. Burry kiisti myös näkemyksen, jonka mukaan nykyiset suuret kielimallit olisivat matkalla kohti yleistä tekoälyä eli AGI:tä.

Kritiikki ei sellaisenaan kumoa tekoälyn turvallisuushuolia. Se nostaa esiin käytännön poliittisen riskin: turvallisemmiksi tarkoitetut säännöt voivat samalla vahvistaa niiden yritysten asemaa, joilla on eniten resursseja täyttää vaatimukset. Uskottavan mallin pitäisi kyetä käsittelemään sekä turvallisuutta että vallan keskittymistä.

Miksi Trumpin ja Xi Jinpingin suunniteltu tapaaminen oli merkittävä?

Trumpin ja Kiinan johtajan Xi Jinpingin odotettiin keskustelevan myös tekoälyn hallinnasta 24. syyskuuta suunnitellussa tapaamisessa. 4 Tapaaminen oli tärkeä, koska vaikein osa huipputekoälyn turvallisuusstrategiaa ei ole yhden laboratorion säännön kirjoittaminen. Vaikeinta on luoda järjestelyjä, joita kilpailevat suurvallat pitävät vastavuoroisina ja toimeenpantavina.

Trumpin Kiina-keskeinen kehystys ja Pekingin vastalauseet Kiinan tekoälykehitystä koskeville rajoille osoittavat, kuinka hankalaa yhteisymmärryksen rakentaminen on. Kyse ei siis ole vain valinnasta kiihdyttämisen ja tauon välillä, vaan siitä, voidaanko tekoälykilpailua hallita ilman, että turvallisuuspolitiikasta tulee uusi geopoliittisen kilpailun rintama. 174