Kontext pozyskał 4 mln dolarów na zabezpieczenia dla agentów AI

Agent AI może mieć prawo do korzystania z firmowego narzędzia, ale to nie znaczy, że powinien móc wykonać w nim każdą operację. Na tej różnicy opiera się pomysł monachijskiego startupu Kontext, który pozyskał 4 mln dolarów na rozwój zabezpieczeń działających podczas pracy agentów. Rundzie przewodził 42CAP, a uczestniczyły w niej a16z CSX i High-Tech Gründerfonds (HTGF). Pieniądze mają pomóc firmie rozbudować zespół inżynierski, rozwijać mechanizmy egzekwowania zasad i wspierać wdrożenia u klientów biznesowych. Nie podano celów rekrutacyjnych ani szczegółowego podziału wydatków. 145

Dlaczego samo zalogowanie agenta nie wystarcza?

Agenci używani w firmach mogą pisać kod, otwierać pliki i działać z wykorzystaniem firmowych danych uwierzytelniających. Potwierdzenie tożsamości odpowiada więc tylko na pytanie, kto działa, a nie czy wolno mu zrobić właśnie to. Agent mający streścić dokument może zasadnie użyć narzędzia do pracy z plikami, lecz nie wynika z tego uprawnienie do usuwania innych plików. Liczą się konkretna operacja i powierzone zadanie. 14

Jak ma działać kontrola Kontextu?

Oprogramowanie ma znajdować się między agentem a narzędziami i systemami, z których agent korzysta. Zamiast uznawać dostęp do narzędzia za ogólne przyzwolenie, ma oceniać żądane działanie przed jego wykonaniem. Kontext opisuje tę ocenę jako połączenie informacji o tożsamości, kontekstu zadania i firmowych zasad bezpieczeństwa. W materiałach firmy wymieniono również m.in. narzędzie, rodzaj operacji, zasób, parametry żądania oraz ryzyko. To opis zamierzonego sposobu działania, a nie niezależne potwierdzenie, że system przechwytuje każdą możliwą operację. 41723

Zespoły mogą według doniesień zacząć od trybu obserwacji: sprawdzić, jak proponowane zasady zadziałałyby w praktyce, bez blokowania pracy agentów. Po włączeniu egzekwowania zasad system ma odmawiać wykonania niedozwolonych operacji i zapisywać decyzje na potrzeby audytu. Dostępne informacje nie potwierdzają jednak, że obejmuje to wszystkie ścieżki działania agentów, ani nie określają gwarantowanego czasu przechowywania zapisów. 5

Kto stoi za firmą?

Kontext założyli Jens Ernstberger i Michel Osswald. Ich łączne doświadczenie jest opisywane jako związane z bezpiecznym przetwarzaniem, kryptografią stosowaną i systemami AI — bez przypisywania każdej z tych dziedzin konkretnemu założycielowi. Ernstberger pisze, że zajmuje się kryptografią i bezpieczeństwem komputerowym; na swojej stronie wymienia staż badawczy w a16z crypto oraz wcześniejsze studia doktoranckie na Uniwersytecie Technicznym w Monachium. Profil zawodowy Osswalda wskazuje na pracę w Retarus i Deloitte oraz udział w projekcie tej samej uczelni. Te szczegóły kariery pochodzą z profili samych założycieli. 41836

Finansowanie daje firmie środki na rozwój kontroli na poziomie pojedynczych działań. To, jak niezawodnie rozwiązanie sprawdzi się w różnych narzędziach i środowiskach klientów, pozostaje kwestią do zweryfikowania we wdrożeniach. 15