Kontext raccoglie 4 milioni di dollari per la sicurezza degli agenti AI

Un agente AI può accedere a uno strumento con credenziali valide e, comunque, tentare un’operazione non pertinente al lavoro che gli è stato affidato. È su questa distinzione che lavora Kontext, startup di Monaco di Baviera che ha raccolto 4 milioni di dollari per ampliare il proprio team di ingegneria, sviluppare ulteriori controlli durante l’esecuzione degli agenti e sostenere le aziende che li adottano. Il round è stato guidato da 42CAP, con la partecipazione di a16z CSX e High-Tech Gründerfonds (HTGF). 14

Perché controllare la singola azione

Gli agenti impiegati nelle aziende possono scrivere codice, consultare file e utilizzare credenziali aziendali. Verificarne l’identità — cioè autenticarli — non risponde però a un’altra domanda: questa specifica azione è consentita per il compito in corso? Un agente incaricato di riassumere un documento, per esempio, potrebbe avere accesso legittimo a uno strumento per i file senza avere motivo di cancellare documenti estranei all’incarico. 14

Kontext sviluppa un software da collocare tra gli agenti e gli strumenti o sistemi che utilizzano. L’obiettivo è valutare le operazioni quando vengono richieste, collegando identità, contesto del compito e regole di sicurezza prima dell’esecuzione. Nei materiali pubblicati dall’azienda, il processo prende in considerazione anche lo strumento, l’azione, la risorsa interessata, i parametri e il rischio; una richiesta può essere autorizzata, negata, limitata oppure sottoposta a una persona. Si tratta della descrizione dell’approccio proposto da Kontext, non di una verifica indipendente della sua copertura in ogni situazione. 41723

Prima osservare, poi applicare le regole

Secondo quanto riportato, i clienti possono iniziare con una modalità di osservazione: vedono come si applicherebbero le regole senza interrompere il lavoro degli agenti. Quando attivano i controlli, Kontext afferma che le operazioni non autorizzate vengono bloccate prima dell’esecuzione e che le decisioni sono registrate per eventuali verifiche. Le informazioni disponibili non dimostrano però che il sistema intercetti ogni possibile percorso di esecuzione, né specificano per quanto tempo siano conservati i registri. 5

Fondatori e prossimi passi

Kontext è stata fondata da Jens Ernstberger e Michel Osswald. Le cronache descrivono le loro competenze complessive negli ambiti dell’informatica sicura, della crittografia applicata e dei sistemi AI, senza attribuire ciascuna specializzazione a uno dei due. Ernstberger indica sul proprio sito attività di ricerca in crittografia e sicurezza informatica, un tirocinio di ricerca presso a16z crypto e precedenti studi di dottorato alla Technical University of Munich. Il profilo professionale di Osswald riporta esperienze presso Retarus e Deloitte e un progetto della stessa università; questi ultimi dettagli sono dichiarati da lui stesso. 41836

Il finanziamento offre a Kontext risorse per sviluppare il suo modello di controllo delle singole azioni. Saranno le implementazioni nelle aziende a mostrare quanto funzioni in modo affidabile con strumenti e ambienti diversi. 15