Kontext привлекла $4 млн на контроль действий ИИ-агентов

ИИ-агент может войти в корпоративную систему с действующими учетными данными — и все равно попытаться сделать то, чего ему не поручали. Именно на этой разнице между правом доступа и правом на конкретное действие строит свой продукт мюнхенский стартап Kontext. Компания привлекла $4 млн: раунд возглавила 42CAP, в нем также участвовали a16z CSX и High-Tech Gründerfonds (HTGF). Деньги планируется направить на расширение инженерной команды, развитие механизмов контроля во время работы агентов и поддержку внедрений в компаниях. 14

Почему одного доступа недостаточно

Рабочие ИИ-агенты могут писать код, обращаться к файлам и пользоваться корпоративными учетными данными. Проверка подлинности отвечает на вопрос, кто действует, но не определяет, уместно ли действие в рамках порученной задачи. Например, агенту для подготовки краткого содержания документа может требоваться доступ к файлам — но из этого не следует право удалять другие файлы. 14

Kontext разрабатывает программный слой между агентами и инструментами и системами, к которым они обращаются. По описанию компании, перед выполнением запроса он должен сопоставлять личность пользователя и агента, инструмент, действие, ресурс и параметры с целью задачи, правилами безопасности и оценкой риска. В своих материалах Kontext также описывает варианты решения: разрешить действие, запретить его, ограничить или передать человеку на рассмотрение. Это описание подхода, а не независимое подтверждение того, что платформа перехватывает любой возможный запрос агента. 41723

Сначала наблюдать, затем блокировать

По сообщениям о продукте, команды могут начать с режима наблюдения: увидеть, как предлагаемые правила применялись бы к действиям агентов, не прерывая их работу. После включения контроля Kontext, как утверждается, отклоняет неразрешенные действия до выполнения и сохраняет записи о решениях для последующей проверки. При этом доступные сведения не подтверждают охват всех возможных путей выполнения действий или конкретные сроки хранения таких записей. 5

Кто основал компанию

Сооснователи Kontext — Йенс Эрнстбергер и Михель Оссвальд. Их совокупный опыт издания описывают как работу в области защищенных вычислений, прикладной криптографии и ИИ-систем, не распределяя эти направления между основателями. 4

Эрнстбергер на личной странице пишет, что занимается криптографией и компьютерной безопасностью; там же указаны исследовательская стажировка в a16z crypto и прежняя учеба в докторантуре Мюнхенского технического университета. В публичном профессиональном профиле Оссвальда перечислены работа в Retarus и Deloitte, а также проект по анализу данных в Мюнхенском техническом университете. Эти подробности их биографий основаны на собственных сведениях основателей. 1836

Новый раунд дает Kontext ресурсы для развития контроля на уровне отдельных действий. Насколько надежно такая модель работает с разными инструментами и в разных корпоративных средах, покажут внедрения. 15