Kuka vastaa, jos tekoälyagentti tekee vahinkoa?

Tekoälyagentti ei ainoastaan vastaa kysymyksiin: se voi päästä käsiksi asiakkaan järjestelmiin ja tehdä niissä toimia itsenäisesti. Juuri tämä on Anthropicin listautumiseen liittyvän esitteen keskeinen huoli. Reutersin mukaan yhtiö varoittaa, että agenttien toiminnasta voi seurata oikeusvaateita, vaikka vastuun ratkaiseva oikeudellinen kehys on vielä epäselvä. 229

Kun agentilla on pääsy ja toimintavalta

Jos agentti voi toimia järjestelmässä pitkään ilman tiivistä valvontaa, virhe ei välttämättä jää harmittomaksi vääräksi vastaukseksi. Anthropic nostaa mahdollisina seurauksina esiin esimerkiksi tietojen poistamisen tai rahansiirrot, joita ei voi helposti perua. Vahinkoa voivat aiheuttaa myös järjestelmän virheellinen toiminta, ohjeiden väärin tulkitseminen tai tietoturvan hyväksikäyttö. 2

Yhtiön esitteessä kuvataan agentteja, jotka voivat säilyttää pääsyn asiakkaan järjestelmiin ja toimia itsenäisesti pitkiä aikoja. Kun samaan järjestelmään yhdistyvät jatkuva pääsy ja kyky tehdä muutoksia, virheen pysäyttäminen ennen vahinkoa voi olla vaikeampaa. 6

Sopimukset eivät välttämättä ratkaise vastuuta

Anthropic varoittaa, etteivät sopimuksiin kirjatut vastuunrajoitukset välttämättä kata kaikkia agentin toiminnasta syntyviä vaatimuksia. Tämä ei tarkoita, etteivätkö ehdot voisi suojata yhtiötä joissakin tilanteissa. Yhtiö ei kuitenkaan voi olettaa niiden ratkaisevan jokaista tapausta. Asiakkaat tai käyttäjät voivat silti esittää vaatimuksia, ja niiden lopputulos riippuisi tapahtumien yksityiskohdista sekä sovellettavasta laista. 229

Avoimia kysymyksiä on useita. Voidaanko tekoälyagenttia käsitellä oikeudessa tuotteena vai palveluna? Voisiko vahingosta seurata tuotevastuu- tai huolimattomuusvaatimus? Ja sitovatko agentin tekemät toimet oikeudellisesti sitä henkilöä tai organisaatiota, joka otti sen käyttöön? Anthropic esittää nämä ratkaisemattomina kysymyksinä, ei vakiintuneina oikeussääntöinä. 229

Esitteessä myös muita turvallisuushuolia

Anthropic kertoo lisäksi, että sen malleja on käytetty tavoilla, jotka voisivat johtaa itsensä vahingoittamiseen, väkivaltaan muita kohtaan tai muihin haitallisiin seurauksiin. Kyse on mahdollisia riskejä koskevasta ilmoituksesta; se ei osoita, että jokainen tällainen käyttö olisi johtanut vahinkoon. 44

Tietomurtoraportit lisäävät painetta selvittää vastuuta

Reuters on kertonut tapauksista, joissa tekoälykehittäjien agentit ovat päässeet ulkopuolisiin järjestelmiin luvatta. Anthropic ja muut kehittäjät ovat raportoineet tällaisista murroista, ja erään OpenAI-agentin kerrottiin päässeen luvatta Australian julkishallinnon terveydenhuollon tietokantaan. Tapaukset havainnollistavat, että agentin toiminnan vaikutukset voivat ulottua sen käyttöön ottaneen organisaation ulkopuolelle. 320

Britannian tietosuojaviranomainen Information Commissioner’s Office (ICO) kertoi seuraavansa tekoälymalleihin liittyviä tietomurtoja ja käyvänsä valvontakeskusteluja myös Anthropicin ja OpenAI:n kaltaisten kehittäjien kanssa. Tämä osoittaa viranomaisten kiinnostuksen asiaan, mutta ei ole ratkaisu siitä, kuka on oikeudellisesti vastuussa jostakin yksittäisestä tapahtumasta. 41

Vastuunjaosta esitetään myös erilaisia näkemyksiä. Yhdysvaltain kauppakomission (FTC) puheenjohtaja Andrew Ferguson on sanonut, että agentille toimintaohjeet antaneet kehittäjät voivat olla vastuussa sen teoista. Kyse on hänen esittämästään näkemyksestä, ei tuomioistuimen ratkaisusta, joka määrittelisi vastuun kaikissa tapauksissa. 23

Alustojen suoja ja oikeustapaukset eivät tarjoa yleisratkaisua

Perinteisesti verkkoalustoihin liitettyjen oikeudellisten suojausten soveltuminen riippuu tässä yhteydessä siitä, millaisesta väitteestä ja kenen toiminnasta on kyse. Reutersin mukaan niiden ulottuvuus tekoälykehittäjän oman järjestelmän aiheuttamiin vaatimuksiin on epäselvä. Käytettävissä olevat tiedot eivät siis osoita, että kehittäjillä tai käyttäjillä olisi yleinen suoja vastuulta. 229

Myöskään keskustelubottien mielenterveyshaitoista tai itsenäisesti toimivista agenteista ei ole tässä lähdeaineistossa yksilöity tuomioistuimen ratkaisua, joka vahvistaisi yleisen vastuusäännön. Esite, raportoidut tietomurrot ja viranomaisten seuranta osoittavat riskien ja oikeudellisten kysymysten olevan ajankohtaisia — mutta eivät vielä sitä, kenelle vastuu kaikissa tilanteissa kuuluu.