Tekoälyn turvallisuustyö kuormittaa tutkijoita: pelkona ovat liian nopeasti etenevät riskit

Kyse on ennen kaikkea moraalisen kuormituksen ja organisaatiopaineen törmäyksestä. Tehokkaimpia eli niin sanottuja frontier-malleja testaavat ihmiset pelkäävät, että mallit – ja kilpailu niiden nopeasta käyttöönotosta – voivat mahdollistaa biologista tai kybervahinkoa ennen kuin suojatoimet, viranomaisvalvonta ja arviointikyky ehtivät mukaan.

Tietojen mukaan useat Britannian AI Safety Instituten (AISI) työntekijät ovat olleet sairauslomalla tai hakeutuneet keskusteluapuun henkisen kuormituksen vuoksi. AISI arvioi riippumattomasti kehittyneitä tekoälymalleja. Lähteiden mukaan taustalla ovat olleet tiukat testausaikataulut, matala työmotivaatio ja uupumus. Samankaltaista huolta on raportoitu suurissa laboratorioissa, mutta julkinen aineisto ei kerro, kuinka yleistä se on kussakin organisaatiossa. 15

Pelot eivät rajoitu kaukaiseen tulevaisuuteen

Tutkijoiden huoli kohdistuu sekä välittömämpiin että äärimmäisiin riskeihin. Mallit voivat alentaa kynnystä kyberhyökkäyksiin tai biologiseen väärinkäyttöön. Pidemmällä aikavälillä pelätään, että yhä itsenäisemmin toimivia järjestelmiä olisi vaikea pitää merkityksellisessä ihmisen ohjauksessa.

Entinen Anthropic-tutkija Jacob Coxon on nimennyt tekoälyn mahdollistamat biologiset uhat ja kyberaseet mahdollisiksi katastrofin reiteiksi. 15 BBC:lle Coxon sanoi, että johtavissa laboratorioissa työskentelevät ihmiset ovat aidosti peloissaan teknologian kehitysvauhdista ja sen seurauksista. 9

Turvallisuustyö voi synnyttää kokemuksen osallisuudesta

Turvallisuustutkijat eivät tarkastele riskiä etäältä. He arvioivat malleja, kouluttavat niitä tai osallistuvat järjestelmien käyttöönottoon. Jos testauksella on tiukka aikataulu ja kaupallinen kilpailu jatkuu samaan aikaan, tutkija voi tunnistaa vaaran ilman, että hänellä on tosiasiallista valtaa estää mallin julkaisu.

Tällainen ristiriita voi ruokkia avuttomuuden tunnetta, uupumusta ja moraalista vahinkoa: kokemusta siitä, että oma työ voi olla ristiriidassa omien eettisten velvollisuuksien kanssa. Raportoidut sairauslomat ja keskusteluavun hakeminen on ymmärrettävä tätä taustaa vasten. 15

Coxonin ero teki huolesta näkyvän

Coxon työskenteli esikoulutustutkimuksessa sekä OpenAI:lla että Anthropicilla ennen kuin hän erosi Anthropicista. Hän arvosteli yhtiöitä siitä, että ne kilpailevat kohti itseään parantavaa superälyä toimimatta hänen mielestään vastuullisesti. 14

Julkinen varoitus teki aiemmin työyhteisöjen sisällä mahdollisesti pidetystä huolesta näkyvämpää. Se voi samalla lisätä muiden työntekijöiden painetta ratkaista, jäävätkö he työhönsä, tuovatko he huolensa esiin vai lähtevätkö he pois.

Hidastamisesta puhutaan, mutta luottamus ei synny puheilla

Anthropicin Dario Amodei, OpenAI:n Sam Altman, Google DeepMindin Demis Hassabis ja muut alan johtajat ovat eri tavoin tukeneet ajatusta tehokkaimman tekoälyn kehityksen hidastamisesta. 2 Kritiikkiäkin on: jos vakiintuneet jättiyritykset itse suunnittelevat tai valvovat niin sanottua tekoälyjäädytystä, se voisi vahvistaa niiden markkina-asemaa ja vaikeuttaa pienempien toimijoiden kilpailua. 11

Siksi ratkaiseva kysymys ei ole vain se, mitä yritysjohto lupaa. Luottamus edellyttäisi todennettavia toimia: julkaisujen lykkäämistä tarvittaessa, riippumattomia auditointeja, sitovia riskikynnyksiä, ilmiantajien suojaa ja valmiutta hyväksyä ulkopuolinen sääntely.

Stanfordin asiantuntijakeskustelussa arvioitiin, että laaja kyvykkyyskehityksen hidastaminen olisi vaikeaa. Samalla keskustelijat painottivat, että viranomaisten tai pätevien kolmansien osapuolten tekemistä riippumattomista arvioinneista pitäisi tulla tekoälyekosysteemin vakiokäytäntö. 3

Tutkimustyön automatisoituminen lisää hallitsemattomuuden tunnetta

Huoli ei perustu siihen, että tekoäly olisi jo saavuttanut täyden, itseään rekursiivisesti parantavan kyvyn. Näin ei ole tapahtunut. 6 Sen sijaan järjestelmät pystyvät jo automatisoimaan osia tutkimus- ja ohjelmistotyöstä. Tämä voi lyhentää kehityssyklejä ja tehdä mallien edistymisestä nopeampaa kuin ihmisten kyky ymmärtää, testata ja hallita niitä.

Georgetownin yliopiston CSET-keskus arvioi, että tekoälytutkimuksen automatisoituminen voisi nopeuttaa kyvykkyyksien kehitystä ja heikentää ihmisten mahdollisuuksia ymmärtää ja kontrolloida järjestelmiä. 4 Tuore tutkimus puolestaan havaitsi, että agentit kykenivät hoitamaan merkittävää tutkimusinsinöörityötä, mutta eivät edenneet olennaisesti avoimissa tieteellisissä tutkimuskysymyksissä. 5

Kyse ei siis ole todisteesta siitä, että ihmiskunnan tuho olisi välitön. Kyse on siitä, että osa frontier-tekoälyn kehitystä lähimpänä olevista ihmisistä pitää kiihtyvän suorituskyvyn, kaksikäyttöriskien, kilpailupaineen ja heikon ulkoisen kontrollin yhdistelmää psykologisesti ja eettisesti kestämättömänä.