Kontext capta US$ 4 milhões para controlar ações de agentes de IA

Um agente de IA pode ter acesso autorizado aos sistemas de uma empresa e, ainda assim, tentar executar uma ação indevida. É nesse intervalo entre ter acesso e poder agir que a Kontext quer atuar. A startup de Munique captou US$ 4 milhões em uma rodada liderada pela 42CAP, com participação da a16z CSX e do High-Tech Gründerfonds (HTGF), fundo alemão de investimento em startups. O dinheiro deve financiar a expansão da equipe de engenharia, novos recursos de controle e a implantação da plataforma em empresas. Não foram divulgadas metas de contratação nem um cronograma para essas entregas. 145

Por que a senha certa não basta?

Agentes usados no trabalho podem escrever código, acessar arquivos e operar com credenciais corporativas. Autenticar um agente confirma sua identidade, mas não responde se uma operação específica faz sentido para a tarefa recebida. Um agente encarregado de resumir um documento, por exemplo, pode precisar abrir um arquivo — não apagar outros arquivos sem relação com o pedido. 14

A plataforma da Kontext é projetada para ficar entre os agentes e as ferramentas e sistemas que eles utilizam. Segundo a empresa, ela combina identidade, contexto da tarefa e políticas de segurança para decidir sobre uma ação antes que ela seja executada. Em orientações técnicas publicadas pela própria Kontext, a avaliação também considera elementos como recurso acessado, parâmetros da solicitação e risco; uma ação pode ser permitida, negada, limitada ou encaminhada a uma pessoa para decisão. Trata-se da abordagem descrita pela empresa, não de uma comprovação independente de que todas as ações possíveis possam ser interceptadas. 41723

Primeiro observar, depois bloquear

Equipes podem começar pelo modo de observação, que mostra como as regras propostas seriam aplicadas sem interromper o trabalho dos agentes. Com o bloqueio ativado, a Kontext afirma que ações não autorizadas são barradas antes da execução e que as decisões ficam registradas para auditoria. As informações disponíveis não estabelecem se o sistema cobre todos os caminhos de execução nem por quanto tempo esses registros são mantidos. 5

A Kontext foi fundada por Jens Ernstberger e Michel Osswald. A experiência dos dois é descrita, em conjunto, como ligada a computação segura, criptografia aplicada e sistemas de IA. Ernstberger afirma trabalhar com criptografia e segurança da computação e lista um estágio de pesquisa na a16z crypto e estudos de doutorado na Universidade Técnica de Munique. Já o perfil profissional de Osswald menciona passagens pela Retarus, Deloitte e um projeto de inovação em dados da mesma universidade; esses detalhes individuais são informações fornecidas por eles próprios. 41836

A rodada dá à Kontext recursos para desenvolver seu modelo de controle por ação. A eficácia desse modelo em diferentes ferramentas e ambientes corporativos ainda precisará ser demonstrada nas implantações. 15