Miksi tekoälytutkijat haluavat viranomaisten seuraavan tekoälyn automatisoitumista

OpenAI:n, Anthropicin, Metan ja Microsoftin tutkijoiden huoli ei koske vain sitä, kuinka kyvykkäitä tekoälymalleista voi tulla. Huomio kohdistuu myös siihen, että tekoäly voi auttaa rakentamaan seuraavan sukupolven tekoälyä. Jos paremmat järjestelmät pystyvät tekemään yhä suuremman osan tutkimustyöstä, kehitys voi nopeutua kierros kierrokselta. Yli 20 alan tutkijaa ja johtajaa pyytääkin päättäjiä selvittämään, kuinka pitkälle tekoälyn käyttö kehitystyössä on jo edennyt. 23

Tätä mahdollista itseään ruokkivaa kehityskierrettä kutsutaan joskus älykkyysräjähdykseksi. Kyse on riskiskenaariosta, ei näytöstä siitä, että tekoäly jo kehittäisi itseään ilman ihmisten ohjausta. Keskeinen kysymys on, miten tekoälyn roolia tekoälytutkimuksessa voidaan mitata ja valvoa. 114

Miten tekoäly voi nopeuttaa tekoälyn kehitystä?

Tekoäly voi osallistua tulevien mallien kehittämiseen. Jos sen apu johtaa aiempaa kyvykkäämpiin järjestelmiin, jotka puolestaan pystyvät tekemään lisää tutkimustyötä, seuraava kehityskierros voi edetä nopeammin. Tätä kutsutaan rekursiiviseksi itsensä kehittämiseksi: tekoäly auttaa parantamaan prosessia, jolla tekoälyjärjestelmiä rakennetaan. 15

Tutkijoiden varoitus koskee ennen kaikkea kehityksen tahtia. Yhdessä paperista tehdyssä kuvauksessa esitetyn skenaarion mukaan vuoden edistysaskeleet voisivat toteutua viikoissa. Tämä on ennuste, ei mitattu tulos: lähteet eivät osoita, että kehitys olisi jo saavuttanut tällaisen vauhdin. 314

Aiemmassa tutkimuksessa haastateltiin 25:tä johtavaa tutkijaa alan suurista laboratorioista ja yliopistoista. Monet haastatelluista arvioivat tekoälyn voivan automatisoida tekoälytutkimusta ja synnyttää myönteisen takaisinkytkennän. Tämä auttaa ymmärtämään, miksi mahdollisuutta käsitellään vakavasti alalla, mutta ei osoita, että älykkyysräjähdys olisi väistämätön. 1

Mitä tutkijat haluavat päättäjien selvittävän?

Tutkijat pyytävät lisää tietoa siitä, kuinka laajasti yritykset käyttävät tekoälyä tutkimus- ja kehitystyössään. Yli 20 tekoälyalan johtajaa ja tutkijaa on kehottanut päättäjiä tarkastelemaan kehityksen etenemistä ja harkitsemaan teknologian suojatoimia. 2

Pyyntö ei siis itsessään tarkoita, että tekoälylaboratoriot olisivat jo luovuttaneet tutkimuksen ohjat tekoälylle. Parempi tieto siitä, missä ja miten tekoälyä käytetään, voisi auttaa arvioimaan, riittävätkö nykyiset valvontakeinot, kun järjestelmät ottavat yhä suuremman osan kehitystyöstä hoitaakseen. 23

Hidastaminen voisi ostaa aikaa – mutta miten se toteutettaisiin?

Kehityksen yhteinen hidastaminen voisi antaa aikaa turvallisuustesteille, riippumattomille arvioinneille ja valvonnan vahvistamiselle ennen kuin järjestelmien kyvyt muuttuvat jälleen. OpenAI:n ja Anthropicin tutkijat ovat julkisesti vaatineet hitaampaa kehitystä, kun taas osa alan johtajista kannattaa enemmän markkinoiden ohjaamia ratkaisuja. Yhtenäistä näkemystä siitä, kuinka paljon kehitystä pitäisi hidastaa tai millainen tauko olisi käytännössä mahdollinen, ei ole. 818

Käytännön kysymyksiä riittää: mitä järjestelmiä tai toimintoja hidastaminen koskisi, kuka valvoisi sääntöjen noudattamista ja miten eri yritykset saataisiin mukaan samaan järjestelyyn? Myös tauon tarkka merkitys ja sen valvonta ovat jääneet epäselviksi.

Hätäpysäytys ei yksin ratkaise ongelmaa

Microsoftin johtaja Brad Smith on esittänyt, että tekoälymallien kehittäjillä, pilvipalveluinfrastruktuurin tarjoajilla ja tekoälyagenttien toimintaa ohjaavilla tahoilla pitäisi olla mahdollisuus sammuttaa järjestelmät. Ajatuksena on hätäjarru, ei korvike ennaltaehkäisylle tai jatkuvalle valvonnalle.

Pysäytysmahdollisuudellakin on rajansa. Tekoälyjärjestelmät voivat toimia hajautetussa infrastruktuurissa, joten yksi katkaisija ei välttämättä pysäytä jokaista osaa. Asiantuntijat ovat korostaneet myös jatkuvan seurannan ja ihmisen puuttumisen tarvetta.

Yritysten kaksoisrooli tekee valvonnasta tärkeää

Kehittäjien ja pilvipalveluntarjoajien ehdotettu rooli valvojina herättää hallintakysymyksen: yritykset voivat samaan aikaan kehittää tai ylläpitää järjestelmiä ja osallistua niiden valvontaan. Microsoft kehittää tekoälymalleja ja toimii myös pilvipalveluntarjoajana, kuten Smithin ehdotus osoittaa. Roolien päällekkäisyys tekee riippumattomista tarkastuksista ja selkeistä säännöistä tärkeämpiä, mutta se ei yksin todista, että jonkin yrityksen turvallisuuspuhe olisi epäaitoa. 2

Laajempi ongelma on yritysten välinen kilpailu. Alan johtajat ovat erimielisiä kehityksen sopivasta tahdista, ja hidastamisesta keskustellaan samalla, kun tekoälyä kehitetään ja otetaan käyttöön kiivaasti. Yhden yrityksen vapaaehtoista pidättyvyyttä voi olla vaikea ylläpitää, jos muut jatkavat nopeasti eteenpäin. Lähteet osoittavat erimielisyydet ja kilpailupaineen, mutta eivät sitä, että sijoitusintressit määräisivät yksittäisten tutkijoiden näkemykset. 1218

Päättäjillä on siis kaksi toisiinsa liittyvää tehtävää: seurata, kuinka paljon tekoäly osallistuu uuden tekoälyn kehittämiseen, ja tehdä suojatoimista todennettavia sen sijaan, että ne perustuisivat vain yritysten omiin vakuutuksiin. Varoitukset perustelevat asian tutkimista nyt, mutta eivät ratkaise sitä, kuinka todennäköinen älykkyysräjähdys on tai mikä sääntelykeino toimisi parhaiten. 123