Kontext залучила $4 млн на контроль дій ШІ-агентів у компаніях

ШІ-агент може мати законний доступ до корпоративного інструмента — і водночас спробувати зробити через нього те, чого не вимагає завдання. Саме на цій різниці між «має доступ» і «має право виконати конкретну дію» зосередилася мюнхенська Kontext. Стартап залучив $4 млн у раунді під проводом 42CAP за участю a16z CSX та High-Tech Gründerfonds (HTGF). Кошти планують спрямувати на розширення інженерної команди, розвиток механізмів контролю під час роботи агентів і підтримку впроваджень у компаніях. Конкретних планів найму чи розподілу бюджету в доступних повідомленнях немає. 14

Чому перевірки доступу недостатньо

Робочі ШІ-агенти можуть писати код, працювати з файлами й користуватися корпоративними обліковими даними. Перевірка особи агента підтверджує, хто звертається до системи, але не відповідає на запитання, чи доречна саме ця операція. Наприклад, доступ до інструмента для роботи з файлами може бути потрібен агенту, щоб підсумувати документ. Це не означає, що йому слід дозволити видаляти сторонні файли. 14

За описом Kontext, її програмне забезпечення розміщується між агентом та інструментами й системами, до яких він звертається. Перед виконанням запиту воно має співвіднести особу агента, зміст доручення та правила безпеки. У власних матеріалах компанія також описує оцінювання користувача, інструмента, дії, цільового ресурсу, параметрів запиту й ризику. Запропоноване рішення можна дозволити, відхилити, обмежити або передати людині на розгляд. Це опис підходу компанії, а не незалежне підтвердження того, що система здатна перехопити кожну можливу дію агента. 41723

Спочатку спостерігати, потім блокувати

За повідомленнями про продукт, команда може спершу ввімкнути режим спостереження: подивитися, як запропоновані правила застосовувалися б до дій агентів, не перериваючи їхню роботу. Після ввімкнення контролю Kontext, за її твердженням, відхиляє недозволені дії до виконання та записує рішення для подальшої перевірки. Доступні відомості не встановлюють, чи охоплює це всі шляхи виконання дій і як довго зберігаються журнали. 5

Хто заснував Kontext

Співзасновники компанії — Єнс Ернстбергер і Міхель Оссвальд. У повідомленнях про стартап їхній спільний досвід описують як роботу із захищеними обчисленнями, прикладною криптографією та системами ШІ, не приписуючи кожен напрям окремому засновнику. 4

Ернстбергер на власній дослідницькій сторінці зазначає, що працює на перетині криптографії та комп’ютерної безпеки; там само він згадує дослідницьке стажування в a16z crypto й попереднє навчання в докторантурі Мюнхенського технічного університету. У своєму публічному професійному профілі Оссвальд вказує досвід роботи в Retarus і Deloitte та участь у проєкті Мюнхенського технічного університету з інновацій у сфері даних. Ці подробиці їхніх кар’єр ґрунтуються на власних профілях засновників. 1836

Фінансування дає Kontext змогу розвивати контроль на рівні окремих дій. Наскільки надійно він працюватиме з різними інструментами та в середовищах різних замовників, мають показати впровадження. 15