Kontext haluaa pysäyttää tekoälyagentin väärän toimenpiteen ennen sen toteutumista

Yrityksen tekoälyagentilla voi olla oikeat tunnukset ja pääsy hyväksyttyyn työkaluun, mutta silti se voi yrittää tehdä jotakin, mikä ei kuulu sille annettuun tehtävään. Tähän eroon tunnistautumisen ja yksittäisen toimenpiteen sallimisen välillä Münchenissä toimiva Kontext rakentaa tietoturvaohjelmistoaan. Yhtiö on kerännyt 4 miljoonaa dollaria rahoituskierroksella, jota johti 42CAP. Mukana olivat myös a16z CSX ja High-Tech Gründerfonds (HTGF). 14

Mitä rahoituksella tehdään?

Kontext aikoo kasvattaa ohjelmistokehitystiimiään, kehittää lisää ajonaikaisia valvontaominaisuuksia ja tukea yritysasiakkaita tekoälyagenttien käyttöönotossa. Julkisista tiedoista ei käy ilmi rekrytointitavoitteita, rahoituksen tarkkaa jakoa tai käyttöönottojen aikataulua. 15

Yhtiön ohjelmisto sijoittuu agentin sekä sen käyttämien työkalujen ja järjestelmien väliin. Ajatuksena on arvioida agentin pyytämää toimintoa juuri silloin, kun se on tekemässä sitä, sen sijaan että työkalun käyttöoikeus tulkittaisiin luvaksi tehdä työkalulla mitä tahansa. 15

Miksi oikeat tunnukset eivät riitä?

Työpaikoilla käytettävät agentit voivat kirjoittaa koodia, käsitellä tiedostoja ja toimia yrityksen tunnuksilla. Tunnistautuminen kertoo, mikä agentti toimii, mutta ei yksin ratkaise, onko juuri tämä toimenpide tarpeen. Jos agentin tehtävä on tiivistää asiakirja, pääsy tiedostotyökaluun ei esimerkiksi anna sille perustetta poistaa muita tiedostoja. 14

Kontextin kuvaamassa mallissa päätökseen vaikuttavat agentin identiteetti, sille annettu tehtävä ja organisaation turvakäytännöt. Yhtiön omissa ohjeissa kuvataan tarkistuspiste, jossa voidaan huomioida myös käyttäjä, työkalu, pyydetty toimenpide, kohde, parametrit ja riskit. Ehdotettu toiminto voidaan sallia, estää, rajata tai siirtää ihmisen ratkaistavaksi. Kyse on yhtiön kuvaamasta toimintamallista, ei riippumattomasta näytöstä siitä, että jokainen agentin toimenpide olisi pysäytettävissä. 41723

Ensin seuranta, sitten estot

Raportoinnin mukaan asiakkaat voivat aloittaa seurantatilassa: silloin ne näkevät, miten ehdotetut säännöt vaikuttaisivat agenttien toimintaan ilman, että työtä estetään. Kun valvonta otetaan käyttöön, Kontextin mukaan luvattomat toiminnot estetään ennen suorittamista ja päätökset kirjataan tarkastettavaksi. Saatavilla olevat tiedot eivät kuitenkaan osoita, että ratkaisu kattaisi kaikki mahdolliset suoritusreitit, eivätkä ne täsmennä lokien säilytysaikoja. 5

Keitä perustajat ovat?

Kontextin perustivat Jens Ernstberger ja Michel Osswald. Heidän yhteistä taustaansa on kuvattu turvallisen tietojenkäsittelyn, sovelletun kryptografian ja tekoälyjärjestelmien kautta; lähteet eivät jaa kaikkia näitä aloja erikseen kummallekin perustajalle. 4

Ernstberger kertoo tutkimussivullaan keskittyvänsä kryptografiaan ja tietoturvaan. Hän mainitsee tutkimusharjoittelun a16z cryptossa ja aiemmat tohtoriopinnot Münchenin teknillisessä yliopistossa. Osswaldin omassa ammatillisessa profiilissa mainitaan työskentely Retarusilla ja Deloittella sekä samaan yliopistoon liittyvä datainnovaatiohanke. Nämä henkilökohtaiset uratiedot perustuvat heidän omiin profiileihinsa. 1836

Rahoitus antaa Kontextille mahdollisuuden kehittää toimintokohtaista valvontaansa. Sen käytännön kattavuus eri työkaluissa ja asiakasympäristöissä jää käyttöönottojen osoitettavaksi. 15