Kontext capta 4 millones de dólares para controlar las acciones de los agentes de IA

Tener acceso a una herramienta no significa tener permiso para hacer cualquier cosa con ella. Esa es la distinción que quiere llevar a la práctica Kontext, una startup de Múnich que ha captado 4 millones de dólares en una ronda liderada por 42CAP, con la participación de a16z CSX y High-Tech Gründerfonds (HTGF). La empresa prevé ampliar su equipo de ingeniería, desarrollar más capacidades de control durante la ejecución y apoyar las implantaciones en empresas. 14

Por qué no basta con verificar la identidad

Los agentes de IA utilizados en el trabajo pueden escribir código, acceder a archivos y operar con credenciales de la empresa. Verificar la identidad de un agente —autenticarlo— no resuelve por sí solo otra pregunta: ¿está autorizada esta acción concreta para la tarea que se le asignó? Un agente que usa legítimamente una herramienta para resumir un documento, por ejemplo, no debería poder borrar archivos ajenos a ese encargo solo porque la herramienta se lo permita. 14

Kontext desarrolla software que se sitúa entre los agentes y las herramientas y sistemas que utilizan. Su planteamiento es evaluar las acciones cuando se solicitan, relacionando la identidad del agente con el contexto de la tarea y las políticas de seguridad antes de permitir que se ejecuten. 45

Según las guías publicadas por la propia empresa, ese proceso puede reunir contexto de varias llamadas y decidir si permite una acción, la deniega, limita su alcance o la remite a una persona. Otra guía de Kontext describe una comprobación que tiene en cuenta al usuario, el agente, la herramienta, la acción, el recurso, los parámetros, la intención de la tarea y el riesgo. Son descripciones del enfoque previsto, no una prueba independiente de que la plataforma pueda interceptar todas las acciones posibles. 41723

Observar antes de bloquear

Según la información publicada, los equipos pueden empezar con un modo de observación para ver cómo se aplicarían las políticas sin interrumpir el trabajo. Si después activan los controles, Kontext afirma que las acciones no autorizadas se bloquean antes de ejecutarse y que cada decisión queda registrada para su auditoría. Las fuentes disponibles no establecen, sin embargo, que el sistema cubra todas las vías de ejecución ni especifican cuánto tiempo se conservan esos registros. 5

La financiación se destinará a reforzar el equipo que desarrolla estos controles y a apoyar a las empresas que despliegan agentes de IA. No se han comunicado objetivos de contratación, un reparto detallado del gasto ni fechas concretas de implantación. 15

Quiénes fundaron Kontext

Jens Ernstberger y Michel Osswald son los cofundadores. La información publicada describe su experiencia conjunta en computación segura, criptografía aplicada y sistemas de IA, sin atribuir cada especialidad a uno de ellos. 4

En su página personal, Ernstberger sitúa su trabajo en la intersección de la criptografía y la seguridad informática; también menciona una estancia de investigación en a16z crypto y estudios doctorales previos en la Universidad Técnica de Múnich. El perfil profesional de Osswald enumera experiencia en Retarus y Deloitte, además de un proyecto de innovación de datos en esa universidad. Estos datos individuales proceden de perfiles publicados por ellos mismos. 1836

La ronda da a Kontext recursos para desarrollar su modelo de control de acciones. Queda por comprobar, en las implantaciones, con qué fiabilidad funciona en distintas herramientas y entornos empresariales. 15