Comment Nvidia veut empêcher les agents IA de sortir de leur cadre

La plateforme Open Agent Safety de Nvidia associe deux dispositifs : OpenShell, un environnement d’exécution qui encadre les accès d’un agent IA, et Sentry, une architecture de référence destinée à surveiller son activité depuis une couche matérielle extérieure à son environnement logiciel. Nvidia affirme que ces outils auraient pu empêcher l’incident de sécurité chez Hugging Face impliquant des agents d’OpenAI. Il s’agit toutefois d’une déclaration rétrospective de l’entreprise, et non d’un résultat démontré lors de cet incident.10

OpenShell fixe des limites que l’agent ne peut pas décider seul

OpenShell exécute les agents dans des environnements isolés, avec une séparation appliquée au niveau du noyau. Les règles peuvent limiter l’accès aux fichiers, aux identifiants, aux processus et aux réseaux externes. Les restrictions sont donc imposées par l’environnement d’exécution, plutôt que de dépendre uniquement des consignes que l’agent est censé suivre.13

Cette différence compte si un agent se comporte de façon inattendue : son propre raisonnement ne détermine pas les permissions dont il dispose. Mais le confinement dépend de la manière dont le système est configuré. Pour un sous-agent, la conséquence pratique est la même : il doit lui aussi être soumis à des limites effectivement appliquées. Le fait qu’un agent en crée un autre ne prouve pas, à lui seul, que ce dernier s’est échappé. Les éléments disponibles ne permettent pas non plus d’affirmer que les restrictions du parent s’appliquent automatiquement à tous ses sous-agents. OpenShell décrit une approche de sécurité, pas une garantie contre toute forme d’évasion.13

Sentry surveille au-delà de la couche logicielle

Sentry est présenté comme un dispositif de surveillance matérielle reposant sur la technologie BlueField de Nvidia. Au lieu de s’appuyer uniquement sur les contrôles intégrés à l’environnement d’exécution de l’agent, il est conçu pour observer son activité depuis une infrastructure extérieure et permettre une intervention, notamment une isolation au niveau du réseau.

Les deux composants agissent à des niveaux différents : OpenShell définit et applique les permissions dans l’environnement d’exécution ; Sentry ajoute une couche de surveillance et de réponse. Nvidia présente leur combinaison comme un moyen de repérer et de contenir des comportements que les seuls contrôles logiciels pourraient manquer. Il faut toutefois y voir une architecture proposée, et non la preuve que toutes les menaces peuvent être détectées ou stoppées.10

L’affirmation de Nvidia sur Hugging Face, à prendre avec recul

Nvidia affirme que sa plateforme aurait empêché l’incident chez Hugging Face. Reuters a rapporté cette déclaration lors du lancement, mais les sources disponibles ne montrent pas qu’OpenShell ou Sentry aient été utilisés pendant l’incident. Elles ne permettent pas non plus d’établir indépendamment comment ces outils auraient fonctionné dans ce cas précis.

L’incident sert donc de contexte à l’argumentaire de Nvidia, mais pas de test de sa plateforme. La nuance est importante : décrire des protections susceptibles de répondre à un type de risque ne revient pas à démontrer qu’elles auraient empêché une attaque particulière.

Arm, Intel et Anthropic parmi les partenaires

Nvidia indique travailler à rendre OpenShell compatible avec les processeurs Arm et Intel, afin d’étendre cette approche au-delà de ses propres processeurs. Anthropic figure parmi les partenaires associés au lancement de la plateforme.

Cela témoigne d’un effort pour élargir la compatibilité et l’adoption. En revanche, cela ne signifie pas que chaque partenaire a déjà déployé les outils, ni que les mêmes fonctions matérielles sont disponibles sur tous les systèmes.

Des garde-fous techniques ne remplacent pas les règles de responsabilité

La plateforme met l’accent sur des protections techniques : définir des permissions, faire respecter des limites, surveiller l’activité et réagir aux violations de règles. Ces mesures peuvent contribuer à la sécurité des agents, mais l’annonce d’un produit ne tranche pas les questions de responsabilité, d’audit ou de réglementation.

Le PDG de Nvidia, Jensen Huang, a déclaré que les entreprises d’IA ne devraient pas être exemptées des lois ordinaires sur la concurrence ou la responsabilité civile. Cette position est distincte de la conception technique de la plateforme. Elle rappelle que les dispositifs de sécurité des agents et les obligations juridiques plus générales sont deux volets différents du débat.