Kontext will KI-Agenten vor jeder Aktion prüfen – und erhält dafür 4 Millionen Dollar

Ein KI-Agent kann sich mit gültigen Zugangsdaten anmelden und trotzdem etwas tun, das nicht zu seinem Auftrag gehört. Genau diese Lücke will das Münchner Startup Kontext schließen. Für den Ausbau seiner Sicherheitsplattform hat es 4 Millionen Dollar eingesammelt. Die Finanzierungsrunde führte 42CAP an; beteiligt waren außerdem a16z CSX und der High-Tech Gründerfonds (HTGF). Das Geld soll in ein größeres Entwicklungsteam, zusätzliche Kontrollfunktionen und die Unterstützung von Unternehmenskunden fließen. Konkrete Einstellungszahlen oder Zeitpläne sind nicht bekannt. 14

Warum ein erlaubter Zugriff nicht jede Aktion erlaubt

KI-Agenten können im Arbeitsalltag Code schreiben, Dateien öffnen und mit Unternehmenszugängen auf Software zugreifen. Die Anmeldung bestätigt dabei, wer handelt – nicht, ob diese konkrete Handlung zum Auftrag passt. Ein Agent, der ein Dokument zusammenfassen soll, könnte beispielsweise berechtigt sein, ein Dateiwerkzeug zu nutzen. Daraus folgt aber nicht, dass er andere Dateien löschen darf. 14

Kontext entwickelt dafür Software, die zwischen dem Agenten und den verwendeten Werkzeugen und Systemen sitzt. Nach Darstellung des Unternehmens soll sie vor einer Aktion Identität, zugewiesene Aufgabe und Sicherheitsregeln zusammenführen. In eigenen technischen Erläuterungen nennt Kontext weitere Prüfpunkte, darunter die angefragte Operation, die betroffene Ressource, Parameter und Risiken. Eine Aktion soll dann erlaubt, abgelehnt, eingeschränkt oder zur Entscheidung an einen Menschen weitergegeben werden können. Das beschreibt den vorgesehenen Ansatz – nicht den unabhängigen Nachweis, dass sich jede mögliche Aktion abfangen lässt. 41723

Erst beobachten, dann blockieren

Unternehmen können laut Berichterstattung zunächst einen Beobachtungsmodus nutzen: Sie sehen, wie vorgeschlagene Regeln auf Agentenaktionen angewendet würden, ohne Arbeitsabläufe zu blockieren. Wird die Durchsetzung aktiviert, sollen unerlaubte Aktionen vor ihrer Ausführung gestoppt und die Entscheidungen für spätere Prüfungen protokolliert werden. Wie vollständig verschiedene Ausführungswege erfasst werden und wie lange Prüfprotokolle aufbewahrt werden, ist aus den verfügbaren Berichten nicht ersichtlich. 5

Wer steckt hinter Kontext?

Gegründet wurde Kontext von Jens Ernstberger und Michel Osswald. Berichte beschreiben ihre gemeinsamen Erfahrungen in sicherer Datenverarbeitung, angewandter Kryptografie und KI-Systemen, ohne jedes Fachgebiet einem der beiden zuzuordnen. 4

Ernstberger nennt Kryptografie und Computersicherheit als Schwerpunkte seiner Arbeit. Auf seiner Forschungsseite führt er ein Forschungspraktikum bei a16z crypto und ein früheres Promotionsstudium an der Technischen Universität München auf. Osswald nennt in seinem öffentlichen Berufsprofil Stationen bei Retarus und Deloitte sowie ein Dateninnovationsprojekt an der Technischen Universität München. Diese individuellen Angaben beruhen auf ihren eigenen Profilen. 1836

Mit der Finanzierung kann Kontext seinen Ansatz weiterentwickeln. Ob die Kontrollen über unterschiedliche Werkzeuge und Unternehmensumgebungen hinweg zuverlässig greifen, muss sich im Einsatz zeigen. 15