Kontext tar in 4 miljoner dollar för säkerhet kring AI-agenter

En AI-agent som får läsa en fil behöver inte för den skull få radera andra filer. Det är skillnaden mellan att ha tillgång till ett verktyg och att ha tillstånd att utföra en viss åtgärd som Münchenbaserade Kontext vill bygga säkerhet kring. Bolaget har tagit in 4 miljoner dollar i en runda ledd av 42CAP, med deltagande från a16z CSX och High-Tech Gründerfonds (HTGF). Pengarna ska användas för att utöka utvecklingsteamet, bygga vidare på kontroller som används medan agenter körs och stödja företagskunder som inför tekniken. Några mål för nyanställningar eller tidsplaner för utrullning anges inte i rapporteringen. 145

Varför räcker inte en giltig inloggning?

AI-agenter på arbetsplatser kan skriva kod, komma åt filer och använda företagsinloggningar. Att kontrollera agentens identitet är därför inte samma sak som att godkänna allt den kan göra med sin åtkomst. Om uppgiften är att sammanfatta ett dokument kan åtkomst till ett filverktyg vara rimlig, medan radering av orelaterade filer inte är det. Både den begärda åtgärden och uppgiften behöver vägas in. 14

Kontexts programvara är tänkt att ligga mellan agenten och de verktyg och system den använder. Enligt bolagets beskrivning ska identitet, uppgiftskontext och säkerhetsregler kopplas samman så att en åtgärd kan bedömas innan den utförs. I bolagets egen vägledning beskrivs kontroller som tar hänsyn till bland annat användare, agent, verktyg, åtgärd, berörd resurs, avsikt och risk. En föreslagen åtgärd ska kunna tillåtas, nekas, begränsas eller skickas vidare till en människa för beslut. Det är en beskrivning av den avsedda metoden, inte ett oberoende belägg för att varje tänkbar agentåtgärd kan fångas upp. 41723

Först observera, sedan stoppa

Enligt rapporteringen kan kunder börja i ett observationsläge, där de ser hur föreslagna regler skulle påverka agenternas arbete utan att något blockeras. När kontrollerna aktiveras säger Kontext att otillåtna åtgärder nekas före utförandet och att besluten loggas för granskning. Underlaget visar däremot inte att lösningen täcker alla möjliga vägar genom ett system eller vilka garantier som gäller för hur länge loggarna sparas. 5

Vilka står bakom bolaget?

Kontext grundades av Jens Ernstberger och Michel Osswald. Deras samlade erfarenhet beskrivs som inriktad på säker databehandling, tillämpad kryptografi och AI-system, utan att rapporteringen fördelar dessa specialområden mellan dem. 4

Ernstberger beskriver själv sitt arbete som inriktat på kryptografi och datorsäkerhet. På sin forskningssida uppger han att han varit forskningspraktikant vid a16z crypto och tidigare doktorand vid Münchens tekniska universitet. Osswalds offentliga yrkesprofil anger erfarenhet från Retarus och Deloitte samt ett datainnovationsprojekt vid samma universitet. De individuella karriäruppgifterna bygger på deras egna profiler. 1836

Finansieringen ger Kontext möjlighet att utveckla sin modell för kontroll av enskilda åtgärder. Hur tillförlitligt den fungerar med olika verktyg och i olika kundmiljöer återstår att visa vid införanden. 15