Kontext haalt 4 miljoen dollar op voor beveiliging van AI-agenten

Een AI-agent kan correct zijn ingelogd en toch iets doen wat niet bij zijn opdracht hoort. Dat is het probleem waarop de startup Kontext uit München zich richt. Het bedrijf heeft 4 miljoen dollar opgehaald om zijn engineeringteam uit te breiden, extra mogelijkheden voor controle tijdens de uitvoering te ontwikkelen en zakelijke klanten bij de inzet van AI-agenten te ondersteunen. 42CAP leidde de ronde; a16z CSX en High-Tech Gründerfonds (HTGF) deden mee. Concrete aantallen nieuwe medewerkers of opleverdata zijn niet bekendgemaakt. 14

Toegang is niet hetzelfde als toestemming

AI-agenten kunnen op de werkvloer onder meer code schrijven, bestanden openen en bedrijfsaccounts gebruiken. Een geldige aanmelding bevestigt dan wie — of wat — toegang heeft, maar niet of elke volgende handeling is toegestaan. Een agent die een document moet samenvatten, kan bijvoorbeeld terecht toegang hebben tot bestanden zonder daarmee ook toestemming te hebben om andere bestanden te verwijderen. De opdracht en de gevraagde handeling zijn dus net zo belangrijk als de toegangsgegevens. 14

Kontext ontwikkelt software die tussen AI-agenten en de systemen en hulpmiddelen staat die zij gebruiken. Volgens het bedrijf moet die software vóór uitvoering beoordelen of een gevraagde actie past bij de identiteit van de agent, de taak en het beveiligingsbeleid. In eigen richtlijnen beschrijft Kontext een controle die onder meer kijkt naar de gebruiker, agent, actie, betrokken gegevens of systemen, taakbedoeling en risico. Een actie kan vervolgens worden toegestaan, geweigerd, beperkt of aan een mens worden voorgelegd. Dit beschrijft de beoogde werkwijze; het is geen onafhankelijk bewijs dat iedere mogelijke actie wordt onderschept. 41723

Eerst meekijken, daarna blokkeren

Volgens berichtgeving kunnen klanten beginnen in een observatiemodus: zij zien hoe voorgestelde regels zouden uitpakken zonder het werk van agenten te blokkeren. Als zij de handhaving inschakelen, worden volgens Kontext ongeoorloofde acties vóór uitvoering geweigerd en beslissingen vastgelegd voor controle achteraf. De beschikbare berichtgeving toont niet aan dat dit alle uitvoeringsroutes afdekt en vermeldt geen bewaartermijn voor die registraties. 5

Wie zitten achter Kontext?

Jens Ernstberger en Michel Osswald richtten Kontext samen op. Hun gezamenlijke achtergrond wordt omschreven als beveiligde computersystemen, toegepaste cryptografie en AI-systemen, zonder die vakgebieden afzonderlijk aan een van beiden toe te schrijven. 4

Ernstberger schrijft op zijn onderzoekspagina dat hij zich bezighoudt met cryptografie en computerbeveiliging. Hij vermeldt er ook een onderzoeksstage bij a16z crypto en een eerdere promotieopleiding aan de Technische Universiteit München. Osswald noemt op zijn openbare professionele profiel werk bij Retarus en Deloitte en een data-innovatieproject aan dezelfde universiteit; die loopbaangegevens zijn door hemzelf opgegeven. 1836

De investering geeft Kontext ruimte om zijn controles op afzonderlijke acties verder te ontwikkelen. Hoe betrouwbaar die in uiteenlopende systemen en bedrijfsomgevingen werken, zal in de praktijk moeten blijken. 15