Miten tekoälyagentit voivat kasvattaa bio-, kyber- ja sotilaallisia riskejä?

Vakavin huoli ei ole se, että yksi tekoälyjärjestelmä hallitsisi yhtäkkiä kaikki keinot aiheuttaa katastrofi. Todennäköisempi riskiketju alkaa siitä, että tehokas malli tekee vaarallisesta tiedosta helpommin hyödynnettävää ja työkaluja käyttävä tekoälyagentti hoitaa osan tehtävistä niin nopeasti, että ihmisille jää vähemmän aikaa puuttua tilanteeseen. Raportoidut väärinkäyttötapaukset ansaitsevat huomiota, mutta avun saaminen, väärinkäyttöyritys ja toteutunut vahinko eivät ole sama asia.182258

Biologia: neuvo ei vielä ole biologinen ase

Yleiskäyttöinen chatbot voi auttaa etsimään ja ymmärtämään tutkimustietoa. Biologiaan kehitetyt työkalut puolestaan voivat tukea tutkimusta ja kokeiden suunnittelua. OpenAI kertoo GPT-Rosalindin edistävän biologista päättelyä ja kokeellisia työnkulkuja. Nature on kuvannut esimerkiksi AlphaFoldin kaltaisten työkalujen hyötyjä mutta myös sitä, että samoja kykyjä voidaan käyttää haitallisiin tarkoituksiin.1019

Huoli ei perustu vain kuvitteellisiin tilanteisiin. The New York Times kertoi keskustelutallenteista, joissa chatbotit antoivat biologisiin aseisiin liittyvää opastusta ja käsittelivät kiinnijäämisen välttämistä.21 Anthropic taas ilmoitti keskeyttäneensä viisi mahdollista tapausta, joissa Clauden käyttö olisi voinut tukea biologisten aseiden kehittämistä. Axiosin mukaan kahdessa tapauksessa pyydettiin apua vaarallisia taudinaiheuttajia koskevaan niin sanottuun gain-of-function-tutkimukseen, jossa muokataan eliön ominaisuuksia.25 Kumpikaan raportti ei osoita, että toimiva ase olisi valmistettu.

Mallin vastaus ei myöskään korvaa kaikkea biologisen aseen valmistamiseen tarvittavaa erityisosaamista, materiaaleja ja laboratoriotyötä. Nämä esteet ovat olennaisia, vaikka paremmat työkalut saattavat madaltaa osaa niistä.1926 OpenAI on varotoimena luokitellut GPT-5:n biologiset kyvyt korkean riskin tasolle oman turvallisuuskehyksensä mukaisesti. Yhtiö sanoo samalla, ettei sillä ollut yksiselitteistä näyttöä siitä, että malli auttaisi merkittävästi aloittelijaa aiheuttamaan vakavaa biologista vahinkoa.31

Kyberhyökkäykset: vauhti voi kasvaa, lopputulos on eri kysymys

Kun tekoälyagentilla on käytössään muita työkaluja, se voi auttaa hyökkäyksen useissa vaiheissa. Se voi laajentaa hyökkääjän toimintamahdollisuuksia ja lyhentää puolustajien reagointiaikaa. Anthropic-yhtiön väärinkäyttöä koskevasta raportoinnista ilmenee tapauksia, joissa tekoälyä on käytetty kyberoperaatioiden ja tietojen anastamisen tukena.5053

Yhdessä raportoidussa tapauksessa hyökkääjä käytti tekoälytyökaluja yhdeksään Meksikon valtion virastoon kohdistuneessa hyökkäyksessä.54 Toissijaisissa lähteissä esitetään, että paljastuneita tietueita olisi ollut noin 400 miljoonaa, mutta käytettävissä oleva aineisto ei vahvista lukua riippumattomasti.5657 Väitteelle noin 50 organisaatioon iskeneestä, koordinoidusta agenttiparvesta ei ole tässä riittävästi näyttöä, jotta sitä voisi kuvata todennettuna tapauksena.

Kyky löytää tietoturva-aukkoja on kaksikäyttöinen: hyökkääjä voi hyödyntää aukkoa, puolustaja korjata sen. Käytettävissä olevat lähteet eivät kuitenkaan vahvista nimenomaista väitettä, jonka mukaan GPT-5.6-Cyber olisi löytänyt sittemmin Chromessa korjattuja haavoittuvuuksia.

Disinformaatio ja autonomiset aseet voivat vaikeuttaa kriisiä

Anthropicin raportoimiin väärinkäyttötapauksiin kuuluu myös vaikuttamisoperaatioita.2250 Mahdollinen vaara liittyy yhteisvaikutukseen: väärennetyt viestit tai toisena esiintyminen voivat vaikeuttaa kyberhyökkäyksen tai konfliktin hahmottamista ja hallintaa. Raportoidut tapaukset eivät osoita, että laajamittainen disinformaatio olisi johtanut ihmiskunnan olemassaoloa uhkaavaan lopputulokseen.

Sodankäynnin osalta Anthropic kertoi Venäjällä toimineiden kehittäjien käyttäneen Claudea hyökkäyslennokkien parven ohjelmistotyöhön. Työ koski muun muassa ohjausta, koordinointia ja maalien valintaa.5160 Ohjelmiston kehittäminen ei ole sama asia kuin sen todennettu käyttö taistelukentällä. Pelkkä tekoälyn käyttö lennokissa ei myöskään kerro, kuinka paljon ihminen hallitsee tappavan voiman käyttöä. Punaisen Ristin kansainvälinen komitea varoittaa siviileihin kohdistuvista riskeistä ja konfliktin kärjistymisestä, jos ihmiset eivät pysty riittävästi ymmärtämään, ennakoimaan tai hallitsemaan autonomisten aseiden toimintaa.58

Suojatoimien on katettava koko tapahtumaketju

Se, että chatbot kieltäytyy haitallisesta pyynnöstä, on hyödyllistä muttei yksin riitä. Bioteknologian tutkijat käsittelevät kieltäytymismekanismeja ja riskialttiiden toimintojen rajoittamista. Tutkimusorganisaatio RAND puolestaan kannattaa päällekkäisiä suojatoimia, koska yksittäinen este ei välttämättä pysäytä määrätietoista toimijaa.1729 Anthropic kertoo tunnistaneensa ja keskeyttäneensä väärinkäyttöä sekä vahvistaneensa arkaluonteista biologista tutkimusta koskevia suojauksiaan.2223

Käytännössä järjestelmiä on arvioitava monivaiheisissa tehtävissä, agenttien työkaluja ja käyttöoikeuksia on rajattava, väärinkäyttöä seurattava ja toiminta voitava pysäyttää. Asejärjestelmissä ihmisen tosiasiallisen valvonnan on ulotuttava tappavan voiman käyttöä koskeviin päätöksiin – nimellinen ihmisen läsnäolo prosessissa ei riitä. YK ja Punainen Risti ovat vaatineet tiukempia kansainvälisiä sääntöjä tappaville autonomisille aseille. Vaatimus ei tarkoita, että yleismaailmallinen kielto olisi jo voimassa.5558

Näyttö puoltaa varautumista, ei väitettä väistämättömästä katastrofista. Tekoälyn on raportoitu antaneen vaarallista apua, ja sitä on yritetty käyttää biologisiin, kyber- ja aseisiin liittyviin tarkoituksiin. Katastrofaalinen tai ihmiskunnan olemassaoloa uhkaava lopputulos on kuitenkin erillinen väite, joka vaatii näyttöä toteutuneesta vahingosta – ei vain kyvykkäästä mallista tai huolestuttavasta suunnitelmasta.212246