Kontext henter 4 millioner dollar for å kontrollere hva KI-agenter gjør

En KI-agent kan ha riktig brukernavn og lov til å åpne et filverktøy. Det betyr ikke at den bør få slette filer som ikke har noe med oppgaven å gjøre. Det er dette skillet mellom tilgang og tillatelse til en konkret handling det München-baserte selskapet Kontext vil bygge sikkerhet rundt. Selskapet har hentet 4 millioner dollar i en finansieringsrunde ledet av 42CAP, med deltakelse fra a16z CSX og High-Tech Gründerfonds (HTGF). 14

Hva skal pengene brukes til?

Kontext planlegger å utvide utviklingsteamet, bygge flere funksjoner for å håndheve sikkerhetsregler mens KI-agenter er i bruk, og støtte bedrifter som tar løsningen i bruk. Det er ikke oppgitt konkrete ansettelsesmål, fordelinger av pengene eller tidsfrister for utrulling. 15

Programvaren er laget for å ligge mellom KI-agenten og verktøyene og systemene den bruker. Poenget er å vurdere en forespurt handling før den utføres, i stedet for å behandle tilgang til et verktøy som en generell tillatelse til alt verktøyet kan gjøre. 15

Hvorfor holder det ikke å sjekke identiteten?

KI-agenter i arbeidslivet kan skrive kode, åpne filer og bruke bedriftens påloggingsopplysninger. Å bekrefte hvilken agent som handler, svarer derfor ikke nødvendigvis på om handlingen passer med oppgaven den har fått. En agent som skal oppsummere et dokument, kan for eksempel trenge å lese en fil – men ikke å slette andre filer. 14

Kontext beskriver en modell der identitet, oppgave og sikkerhetsregler vurderes samlet. I selskapets egen veiledning beskrives en kontroll før utføring som kan tillate, avvise eller begrense en handling, eller sende avgjørelsen videre til et menneske. En annen veiledning fra selskapet nevner blant annet bruker, agent, verktøy, handling, ressurs, oppgaveformål og risiko som mulige vurderingspunkter. Dette beskriver den tiltenkte metoden, men er ikke uavhengig dokumentasjon på at alle agenthandlinger kan fanges opp. 41723

Bedrifter kan ifølge omtalen først bruke en observasjonsmodus for å se hvordan foreslåtte regler ville slått ut uten å stoppe arbeidet. Når håndheving aktiveres, sier Kontext at handlinger uten tillatelse avvises før de utføres, og at avgjørelsene loggføres slik at de kan ettergås. Den tilgjengelige omtalen dokumenterer ikke at løsningen dekker alle mulige handlingsforløp, eller hvor lenge loggene lagres. 5

Hvem står bak?

Jens Ernstberger og Michel Osswald grunnla Kontext sammen. Deres samlede bakgrunn beskrives som sikker databehandling, anvendt kryptografi og KI-systemer, uten at disse fagområdene fordeles mellom dem. 4

Ernstberger oppgir selv at han arbeider med kryptografi og datasikkerhet. Han viser til et forskningsopphold hos a16z crypto og tidligere doktorgradsstudier ved det tekniske universitetet i München. Osswalds offentlige yrkesprofil oppgir erfaring fra Retarus og Deloitte, samt et data­innovasjonsprosjekt ved samme universitet. Disse individuelle karriereopplysningene er selvrapporterte. 1836

Finansieringen gir Kontext midler til å videreutvikle kontroll på handlingsnivå. Hvor godt modellen fungerer på tvers av ulike verktøy og kundemiljøer, må praktisk bruk vise. 15