Kontext får 4 mio. dollar til at kontrollere AI-agenters handlinger

En AI-agent kan have fået lovlig adgang til en virksomheds filer og stadig forsøge at gøre noget, den ikke burde. Det er det skel mellem adgang og tilladelse til en konkret handling, som den München-baserede startup Kontext vil bygge sikkerhed omkring. Selskabet har rejst 4 mio. dollar i en runde ledet af 42CAP med deltagelse fra a16z CSX og High-Tech Gründerfonds (HTGF). Pengene skal bruges på flere ingeniører, yderligere funktioner til kontrol under agenters kørsel og støtte til virksomheder, der tager teknologien i brug. Der er ikke offentliggjort konkrete ansættelsesmål eller tidsplaner. 145

Hvorfor er et login ikke nok?

AI-agenter på arbejdspladsen kan skrive kode, læse filer og bruge virksomhedens adgangsoplysninger. Et gyldigt login viser, at en agent har adgang, men ikke nødvendigvis at enhver handling passer til dens opgave. En agent, der skal opsummere et dokument, kan eksempelvis have brug for at læse en fil – uden dermed at have grund til at slette andre filer. Det er den enkelte handling og dens sammenhæng, der skal vurderes. 14

Kontexts software er tænkt som et lag mellem agenten og de værktøjer og systemer, den bruger. Ifølge selskabets egen beskrivelse skal en foreslået handling vurderes op mod blandt andet identitet, opgave, berørt ressource, sikkerhedsregler og risiko, før den udføres. Kontexts vejledning beskriver beslutninger, hvor en handling kan tillades, afvises, begrænses eller sendes videre til et menneske. Det beskriver den tilsigtede metode, ikke en uafhængigt dokumenteret garanti for, at alle agenters handlinger kan opfanges. 41723

Først observere, siden gribe ind

Virksomheder kan ifølge omtalen begynde i en observationstilstand, hvor de ser, hvordan foreslåede regler ville slå igennem, uden at arbejdet blokeres. Når håndhævelse slås til, siger Kontext, at handlinger uden tilladelse afvises inden udførelse, og at beslutningerne registreres, så de kan efterprøves. Den tilgængelige omtale fastslår dog hverken, at alle mulige handlingsforløb er dækket, eller hvor længe registreringerne gemmes. 5

Hvem står bag?

Kontext er stiftet af Jens Ernstberger og Michel Osswald. Deres samlede baggrund beskrives som sikker databehandling, anvendt kryptografi og AI-systemer, uden at de enkelte fagområder entydigt knyttes til hver af dem. 4 Ernstberger beskriver selv sit arbejde som forskning i kryptografi og computersikkerhed og oplyser, at han tidligere har været forskningspraktikant hos a16z crypto og ph.d.-studerende ved Technische Universität München. Osswalds offentlige profil nævner erfaring fra Retarus og Deloitte samt et datainnovationsprojekt ved samme universitet; de oplysninger er selvrapporterede. 1836

Finansieringen giver Kontext mulighed for at videreudvikle kontrollen med agenters konkrete handlinger. Hvor pålideligt den virker på tværs af forskellige værktøjer og virksomheders systemer, må vise sig, når løsningen tages i brug. 15