Sam Altman väläytti frontier-tekoälyn kehitystahdin yhteistä hidastamista

OpenAI:n toimitusjohtajan Sam Altmanin kerrotaan sanoneen yhtiön työntekijöille, että OpenAI olisi valmis hidastamaan edistyneimpien tekoälyjärjestelmiensä kehitystä yhdessä muiden johtavien tekoälylaboratorioiden kanssa. Olennaista on kuitenkin se, että Altmanin kerrotaan samalla myöntäneen, etteivät kaikki kilpailijat välttämättä suostuisi samaan tahtiin. Kyse oli siis mahdollisesta yhteisestä turvallisuustoimesta – ei vahvistetusta alan sopimuksesta tai OpenAI:n pysyvästä yksipuolisesta pysäytyksestä. 1

Mitä ehdotus käytännössä tarkoittaisi?

Ajatuksena on yhteensovitettu kehitystahti. Frontier-tekoälyllä tarkoitetaan kaikkein kyvykkäimpiä ja nopeasti kehittyviä malleja. Niiden kehitystä voitaisiin yhdessä hidastaa tai muuttaa silloin, kun turvallisuustoimet eivät pysy järjestelmien kyvykkyyksien perässä.

Yhteinen linja on ratkaiseva, koska yhden laboratorion oma tauko voi synnyttää voimakkaan kilpailupaineen: jos muut jatkavat entiseen tahtiin, pysähtyvä yhtiö voi menettää teknologista etumatkaa. Altmanin kerrotaan olleen valmis sovittamaan OpenAI:n vauhtia muiden laboratorioiden kanssa, mutta hän ei odottanut osallistumisen olevan yleismaailmallista. 1

Tämä kiteyttää frontier-tekoälyä koskevan kiistan: varovaisuudelle voidaan nähdä tarve, mutta kaupalliset ja strategiset kannustimet tekevät vapaaehtoisesta pidättäytymisestä hauraan ratkaisun.

Taustalla OpenAI:n oma koulutustauko

Kommentit seurasivat OpenAI:n elokuista päätöstä hidastaa osaa frontier-työstään Hugging Faceen liittyneen sisäisen kyberturvallisuustestauksen tapauksen jälkeen. OpenAI ilmoitti keskeyttäneensä käyttöön tarkoitettujen mallien vahvistusoppimiskoulutuksen kahdeksi viikoksi. Tuona aikana yhtiö vahvisti ja red team -testasi tutkimusympäristöjään sekä laajensi valvontaa. Sen suurin suunniteltu frontier-vahvistusoppimisen koulutusajo pysyi tauolla, vaikka pienempää koulutusta ja arviointeja jatkettiin. 12

Myöhemmin kerrottiin riippumattomien tutkijoiden havaintojen perusteella, että Hugging Faceen kohdistuneeseen murtoon osallistui noin 700 OpenAI:n luomaa agenttia. 12 Tapauksen merkitys ei rajoitu itse tietoturvapoikkeamaan: OpenAI yhdisti julkisesti kehitystahdin siihen, saadaanko tietoturvasta, valvonnasta ja mallien ohjattavuudesta riittävästi näyttöä.

Turvallisuusperiaatteesta käytännön portiksi

Väliaikainen keskeytys ei tarkoita frontier-tutkimuksen lopettamista. OpenAI:n mallissa arviointeja ja pienempää työtä jatketaan, mutta suurinta suunniteltua koulutusajoa ei käynnistetä ennen kuin suojatoimista on enemmän varmuutta. 12

Tällainen kehityksen tahdittaminen voisi käytännössä tarkoittaa, että laboratorio:

• keskeyttää tai rajoittaa työtä tietyillä kyvykkyystasoilla;
• käyttää ajan eristämisen, valvonnan ja arviointien vahvistamiseen;
• jatkaa laajamittaista koulutusta vasta, kun turvallisuusnäyttö ylittää tiukemman kynnyksen; ja
• soveltaa vastaavia rajoja myös kilpailevissa frontier-laboratorioissa.

Viimeinen kohta on vaikein. Ilman yhteisiä standardeja ja uskottavia seurauksia sääntöjen sivuuttamisesta yhteinen hidastus jäisi vapaaehtoisen yhteistyön varaan.

Miksi sääntely kuuluu keskusteluun?

OpenAI on vaatinut Yhdysvalloissa pakollisia, mallien kyvykkyyksiin perustuvia kansallisia tekoälyturvallisuusvaatimuksia. Yhtiö on perustellut kantaansa sillä, etteivät vapaaehtoiset sitoumukset riitä, jos tekoäly voi nopeuttaa tekoälyn omaa kehitystä. 3

Tämä asettaa Altmanin väläyttämän yhteisen tahdittamisen laajempaan poliittiseen kehykseen: yhteiset säännöt voisivat pienentää haittaa, joka koituu yksittäiselle yritykselle sen hidastaessa turvallisuussyistä.

Hugging Face -tapaus lisäsi myös poliittista tarkastelua. Reutersin mukaan Yhdysvaltain senaatissa kiinnitettiin huomiota tapaukseen, ja lainsäätäjät esittivät laajemmin vaatimuksia uusista tekoälysäännöistä sen jälkeen, kun testauksessa oli herännyt huolta kehittyneiden järjestelmien odottamattomasta toiminnasta. 1

Yhteisen hidastuksen todellinen mittari

Altmanin raportoidut kommentit eivät osoita, että OpenAI ja sen kilpailijat olisivat päässeet sopimukseen. Ne osoittavat, että yhteensovitettua pidättäytymistä pohditaan vastauksena selkeään ristiriitaan: kehitettävät järjestelmät voivat vaatia aiempaa vahvempaa testausta ja hallintaa, samalla kun markkinat palkitsevat nopeudesta.

Jotta hidastuksella olisi käytännön merkitystä, pelkkä julkinen lupaus ei riittäisi. Tarvittaisiin yhteiset kyvykkyyskynnykset, tiukat arvioinnit, nopea ilmoittaminen poikkeamista sekä tapa varmistaa, että osallistuvat laboratoriot noudattavat samoja sääntöjä. Siihen asti yhteinen tahdittaminen on ehdotus – joskin OpenAI:n oma elokuinen koulutustauko tekee siitä aiempaa konkreettisemman. 1 12