Säännöistä tekoälyagentteihin: näin tekoäly on kehittynyt

Tämä synnyttää merkittäviä eettisiä kysymyksiä esimerkiksi luotonannossa, rekrytoinnissa, vakuutuksissa ja terveydenhuollossa. Historiallinen data voi toistaa yhteiskunnallisia vinoumia, ja vaikeasti avautuvat pisteytysjärjestelmät voivat tehdä päätöksistä hankalia kyseenalaistaa. Hallintaan tarvitaan siksi selkeä käyttötarkoitus, tarkkuuden ja oikeudenmukaisuuden testaamista eri ryhmissä, yksityisyyden suojaa, päätösten perusteluja sekä ihmisen suorittamaa arviointia vaikutuksiltaan merkittävissä tapauksissa. Ennakkoluulot, väärä tieto ja väärinkäyttö eivät ole vain keskustelubottien ongelmia, vaan laajempia tekoälypolitiikan kysymyksiä.

2. Generatiivinen tekoäly: luokittelusta sisällön luomiseen

Generatiivinen tekoäly muuttaa käyttäjän näkökulmaa. Kysymys ei enää ole vain siitä, ”mihin luokkaan tämä kuuluu”, vaan siitä, ”luo tai muokkaa jotakin tämän ohjeen perusteella”. Suuret mallit voivat tuottaa uskottavaa tekstiä, kuvia, ääntä ja koodia.

Tämä mahdollistaa esimerkiksi asiakaspalveluviestien luonnostelun, kääntämisen, opetuksen ja palautteen antamisen, oikeudellisten aineistojen tiivistämisen, ohjelmistotyön tukemisen ja luovan työn. Generatiivinen tekoäly voi pienentää ensimmäisen luonnoksen tekemiseen kuluvaa aikaa ja kustannuksia sekä tarjota keskustelumuotoisen tavan käsitellä monimutkaista tietoa. Se voi myös täydentää ammattilaisen työtä sen sijaan, että se automatisoisi vain yhden ennalta määritellyn päätöksen.

Keskeinen heikkous: uskottava ei tarkoita totta

Generatiivinen malli voi tuottaa itsevarman mutta keksityn tai virheellisen väitteen, lähteen, oikeusperusteen, lääketieteellisen tiedon tai ohjelmakoodin. Yhdysvaltain standardointi- ja teknologiainstituutti NIST käyttää tästä termiä confabulation, jolla tarkoitetaan ”itsevarmasti esitetyn mutta virheellisen tai väärän sisällön tuottamista”. Arkikielessä ilmiötä kutsutaan usein hallusinaatioksi.

Siksi tarkistaminen on välttämätöntä aina, kun faktuaalisuudella on merkitystä. Suojakeinoja ovat esimerkiksi luotettaviin aineistoihin perustuva tiedonhaku, lähdeviitteet, jäsennellyt arvioinnit, toimialakohtaiset testit ja pätevän ihmisen suorittama tarkistus. Sujuvasti muotoiltu vastaus on luonnos tai ennuste – ei todiste siitä, että sen sisältö on oikein.

Generatiivisen tekoälyn laajemmat riskit

Generatiivinen tekoäly herättää kysymyksiä myös tietosuojasta, tekijänoikeuksista, väärästä tiedosta ja tuotosten alkuperän todentamisesta. Euroopan komission tutkimusta koskevassa ohjeistuksessa korostetaan näitä riskejä ja muistutetaan, että ihminen vastaa edelleen julkaisemastaan työstä, vaikka tekoäly olisi osallistunut sen tekemiseen.

Koulutuksessa ongelma liittyy oppimisen harjoitteluun. Jos opiskelijat ulkoistavat kirjoittamisen, päättelyn ja ongelmanratkaisun toistuvasti tekoälylle, lopputulos voi näyttää viimeistellyltä samalla, kun taustalla olevia taitoja harjoitellaan vähemmän. Koulutusta koskevissa ohjeissa riskeiksi nostetaan muun muassa epätarkka, harhaanjohtava tai puolueellinen sisältö, haitallinen materiaali, tietosuojaloukkaukset, immateriaalioikeuksien rikkominen ja akateemisen vilpin haasteet.

Turvallisuusongelmat voivat olla vakavampia arkaluonteisissa keskusteluissa. Järjestelmä voi tuottaa vihamielistä, väkivaltaista, seksuaalista tai manipuloivaa materiaalia tai reagoida huonosti, jos käyttäjä ilmaisee itsetuhoisia ajatuksia. NIST mainitsee riskeinä muun muassa vaaralliset tai väkivaltaiset suositukset, yksityisyyden vaarantumisen ja haitalliset vinoumat. Korkean riskin tilanteissa tekoäly ei saa korvata pätevää hoitoa tai ihmisen tarjoamaa turvaa. Järjestelmässä tarvitaan toimivat kieltäytymis- ja eskalointikäytännöt, tietosuojan hallinta ja selkeä reitti nopeaan ihmisen apuun.

3. Agenttinen tekoäly: suunnittelu, työkalujen käyttö ja toiminta

Agenttinen tekoäly lisää mallin ympärille toimintasilmukan. Sen sijaan, että se vastaisi yhteen kehotteeseen kerrallaan, se voi tulkita tavoitteen, jakaa sen vaiheisiin, käyttää selainta, koodin suoritusympäristöä, sähköpostipalvelua tai rajapintaa, tarkastella tuloksia, muuttaa suunnitelmaansa ja jatkaa tehtävää.

Stanfordin mukaan agenttinen tekoäly tarkoittaa autonomisia tai osittain autonomisia järjestelmiä, jotka pystyvät tulkitsemaan tavoitteita, jaksottamaan toimia, käyttämään työkaluja, reagoimaan palautteeseen ja mukautumaan suorittaakseen tehtäviä ennalta määriteltyjen rajoitusten sisällä.

Käytännön ero voidaan tiivistää näin:

• ennustava järjestelmä pisteyttää maksutapahtuman;
• generatiivinen järjestelmä laatii siitä vastauksen; ja
• tekoälyagentti voisi tarvittavilla käyttöoikeuksilla selvittää tapahtuman, päivittää asian käsittelytiedot ja lähettää viestin.

Googlen Jules havainnollistaa ohjelmistokehityksen käyttötapausta. Google kuvaa sitä asynkroniseksi koodausagentiksi, joka yhdistyy koodivarastoihin, kloonaa koodipohjan pilvessä toimivaan virtuaalikoneeseen ja työskentelee ohjelmointitehtävien parissa myöhempää tarkistusta varten. Avoimen lähdekoodin työkaluja käyttäviä agentteja kehitetään toisena lähestymistapana, ja LinkedInin Hiring Assistantin kaltaiset tuotteet tuovat agenttimaisia työnkulkuja myös hakijoiden etsintään ja rekrytointiin.

Agentit ovat kiinnostavia siksi, että ne voivat hoitaa monivaiheisen työn pelkän seuraavan vaiheen ehdottamisen sijaan. Koodausagentti voi esimerkiksi tutkia ohjelmistovirhettä, muokata useita tiedostoja, ajaa testit ja valmistella pull requestin eli muutosehdotuksen tarkistettavaksi. Työnkulkuagentti voi kerätä tietoja, järjestää ne ja valmistella viestit ihmisen hyväksyttäväksi.

Miksi autonomia kasvattaa riskiä?

Suunnittelu ei tarkoita luotettavaa ymmärrystä. Agentti voi tulkita verkkosivun väärin, valita huonon toimintatavan, noudattaa haitallista ohjetta tai kasvattaa pienen virheen vaikutusta useiden vaiheiden aikana. Stanfordin vuoden 2026 AI Index -raportin mukaan agenttien onnistumisaste OSWorld-testissä nousi 12 prosentista noin 66 prosenttiin. Testi mittaa todellisia tietokonetehtäviä, mutta agentit epäonnistuivat edelleen suunnilleen joka kolmannella yrityksellä.

Chatbotin hallusinaatio voi jäädä viestintäongelmaksi. Käyttöoikeudet, selainyhteys tai maksujen suorittamisen valtuus voivat kuitenkin muuttaa saman virheen ulkoiseksi toimeksi. Siksi agenttien hallinnassa on arvioitava vastausten laadun lisäksi oikeuksia, toimien peruttavuutta ja vastuunjakoa.

Tärkeimmät tekoälyagenttien turvallisuusriskit

Riskit korostuvat, kun agentti voi vaikuttaa järjestelmiin, rahaan, tietoihin tai muihin ihmisiin:

• Luvattomat maksut: Agentti voi valita väärän tuotteen, ylittää budjetin tai joutua haitallisen verkkosivun manipuloimaksi.
• Yksityisyyden vaarantuminen ja tietovarkaudet: Sähköpostien, tiedostojen, asiakasrekisterien, lähdekoodin tai API-avainten käyttöoikeudet voivat johtaa tietojen paljastumiseen esimerkiksi prompt injection -hyökkäyksen kautta. Siinä järjestelmään syötetään haitallinen ohje, jonka tarkoitus on saada agentti ohittamaan alkuperäiset rajauksensa.
• Tietoturva- ja ohjelmistovahingot: Agentti voi lisätä turvatonta koodia, muuttaa asetuksia, poistaa resursseja tai paljastaa salaisuuksia lokien ja ulkoisten työkalujen kautta.
• Vastuun epäselvyys: Vastuu voi hajautua mallin tarjoajan, sovelluskehittäjän, agentin käyttöön ottavan organisaation, työkalun tarjoajan ja käyttäjän kesken.
• Manipulointi: Pitkäkestoiset keskusteluagentit voivat vaikuttaa käyttäjään liikaa, etenkin jos käyttäjä on haavoittuvassa asemassa tai järjestelmä vaikuttaa todellista kyvykkäämmältä ja luotettavammalta.

Miltä vastuullinen hallinta näyttää?

Valvonnan ja teknisten rajoitusten on vastattava järjestelmän kyvykkyyttä sekä mahdollisen virheen seurauksia.

Ennustavan tekoälyn kohdalla organisaation tulisi määritellä käyttötarkoitus, mitata tarkkuutta ja oikeudenmukaisuutta, suojata henkilötiedot sekä tarjota keinot merkittävien päätösten perustelemiseen ja riitauttamiseen.

Generatiivisessa tekoälyssä tärkeät väitteet on tarkistettava, hallusinaatioita ja haitallisia tuotoksia on testattava, arkaluonteisten tietojen käyttöä rajoitettava ja tuotosten alkuperään sekä immateriaalioikeuksiin liittyvät kysymykset ratkaistava. Oikeudellisista, lääketieteellisistä, taloudellisista ja turvallisuuteen liittyvistä päätöksistä on edelleen vastattava pätevän ihmisen.

Agenttien kohdalla tarvitaan lisäksi seuraavia toimia:

1. Rajaa käyttötapaus. Päätä ennen käyttöönottoa, mitä agentti saa tehdä ja mitä ei.
2. Rajoita käyttöoikeuksia. Käytä vähimpien oikeuksien periaatetta, rajattuja työkaluja, tapahtumakohtaisia rajoja ja eristettyjä testiympäristöjä.
3. Vaadi hyväksyntä tärkeissä tarkistuspisteissä. Taloudellisia, oikeudellisia, yksityisyyteen vaikuttavia ja turvallisuusherkkiä toimia ei pidä suorittaa ilman asianmukaista ihmisen hyväksyntää.
4. Tee toiminnasta auditoitavaa. Säilytä lokit, seuraa käyttäytymistä ja nimeä selkeä vastuutaho poikkeustilanteille.
5. Testaa hyökkäyksiä vastaan. Arvioi prompt injection -hyökkäyksiä, tietojen ulosvuotoa, haitallista toimintaa ja virheistä palautumista ennen käyttöönottoa ja sen aikana.
6. Säilytä ihmisen määräysvalta. Ihmisten on voitava pysäyttää, ohittaa ja kyseenalaistaa seurauksiltaan merkittävät toimet.

Singaporen Infocomm Media Development Authorityn agenttista tekoälyä koskeva Model AI Governance Framework perustuu tällaiseen riskiperusteiseen lähestymistapaan. Se on tarkoitettu organisaatioille, jotka kehittävät agentteja itse tai ottavat käyttöön ulkopuolisen ratkaisun. Kehyksen keskeinen oppi on, että autonomiaa kasvatetaan asteittain: ensin sallitaan vain tietojen lukeminen, sen jälkeen matalan riskin toimet, ja peruuttamattomat tai suurivaikutteiset toimet jätetään nimenomaisen hyväksynnän varaan.

Mihin suuntaan kehitys kulkee?

Tekoälyn kehitys kannattaa nähdä kasvavana kyvykkyyksien kerrostumana, ei kolmena täysin erillisenä aikakautena. Perinteiset järjestelmät ennustavat ja luokittelevat. Generatiiviset järjestelmät luovat ja muokkaavat. Agenttiset järjestelmät lisäävät suunnittelun, työkalujen käytön ja toiminnan.

Myös hallinnan on kehityttävä samassa tahdissa. Tarkkuus- ja oikeudenmukaisuuskontrollit ovat edelleen välttämättömiä, mutta ne eivät enää riitä. Generatiiviset järjestelmät tarvitsevat vahvaa faktantarkistusta, tietoa tuotosten alkuperästä ja sisältöturvallisuuden käytäntöjä. Agentit tarvitsevat lisäksi tarkat käyttöoikeusrajat, hyväksyntäpisteet, tietoturvan jatkuvaa seurantaa ja selkeän vastuun.

Mitä enemmän tekoälyjärjestelmä pystyy tekemään itsenäisesti, sitä tarkemmin organisaatioiden on päätettävä, mitä sen sallitaan tehdä.