L’Open Secure AI Alliance, piloté par Nvidia, livre ses premières propositions de sécurité en une semaine

L’Open Secure AI Alliance (OSAA), lancé le 27 juillet 2026 par Nvidia avec environ 36 à 52 membres fondateurs, a explosé pour compter plus de 120 entreprises en une semaine . Une semaine plus tard, le 4 août à la conférence Black Hat USA 2026, le groupe a dévoilé sa première livraison majeure : un groupe de travail dédié et un ensemble de propositions de sécurité open source .

Le groupe de travail SAFE

L’alliance a créé le groupe de travail Shared AI Findings Exchange (SAFE), chargé d’élaborer des standards pour le partage d’informations sur les incidents de sécurité IA . La Linux Foundation a publié un appel à commentaires (RFC) pour SAFE le 4 août 2026, invitant la communauté à réagir sur le brouillon .

Le concept central de SAFE est un cadre permettant aux organisations de signaler et d’analyser confidentiellement les incidents et quasi-accidents IA, puis de partager des protections anonymisées avec l’écosystème . Le dépôt RFC est hébergé sur github.com/OpenSecureAIAlliance/RFCs .

Propositions open source soumises à commentaires

Les premières propositions SAFE couvrent trois domaines :

• Signalement confidentiel d’incidents — un format standardisé pour partager en toute sécurité les détails de brèches et vulnérabilités d’agents IA sans exposer de données propriétaires
• Analyse collaborative des menaces — des mécanismes pour agréger les données d’incidents entre membres et générer des signaux défensifs partagés
• Lignes directrices pour la sécurité des IA agentiques — des règles spécifiques pour les agents autonomes qui opèrent sans supervision humaine directe, posant des risques inédits

Contributions technologiques des membres clés

Plusieurs membres ont livré des contributions open source concrètes en même temps que l’annonce SAFE :

• Nvidia a co-écrit le brouillon SAFE et contribué des scanners de modèles et des frameworks d’isolation d’agents pour détecter les vulnérabilités des modèles open-weight
• Red Hat a co-développé le RFC SAFE et fourni des outils open source de gouvernance d’agents pour l’application de politiques sur les agents IA
• Amazon a contribué des outils de sécurité cloud-native pour sécuriser les déploiements d’agents IA à grande échelle
• Okta a fourni des frameworks de sécurité d’identité et de contrôle d’accès adaptés aux charges de travail des agents IA
• Cisco et CrowdStrike ont co-écrit le brouillon SAFE aux côtés de Nvidia et Red Hat

La Linux Foundation gère l’initiative globale et héberge le processus RFC .

Absences notables : Anthropic, OpenAI et Google

Bien que ces trois entreprises aient signé une lettre ouverte à la Maison-Blanche en 2025 appelant à une action sur la sécurité de l’IA, aucune n’a rejoint l’OSAA au lancement . Plusieurs médias ont souligné ce manque flagrant.

OpenAI et Anthropic ont été explicitement cités comme « notablement absents » de la liste des membres fondateurs . En coulisses, l’absence d’OpenAI refléterait des tensions entre le camp des modèles fermés et la coalition orientée open source de Nvidia . Google était également absent, bien que d’autres géants du cloud comme Microsoft et Amazon aient rejoint .

Des rapports font état de frictions suite à un incident où des modèles IA fermés de sociétés non nommées ont entravé l’enquête d’une entreprise sur ses propres serveurs piratés — un motif clé de l’approche ouverte de l’OSAA .

Contrer les menaces des modèles IA open-weight chinois

Plusieurs analyses lient la vitesse fulgurante de l’OSAA directement à la compétition géopolitique. L’alliance a été formée dans un contexte de préoccupations croissantes concernant les menaces IA, en particulier des laboratoires chinois . Les laboratoires chinois ont publié des modèles open-weight puissants — comme les variantes DeepSeek — dont les responsables américains craignent qu’ils puissent être militarisés ou manquer de garde-fous de sécurité robustes.

La rapidité du groupe — un groupe de travail et un RFC en une semaine — est explicitement présentée comme un signal que l’industrie peut aller plus vite que le paysage des menaces et concurrencer l’écosystème chinois de modèles ouverts soutenu par l’État . En rendant open source ses propres outils de sécurité, l’OSAA vise à établir la norme mondiale pour la sécurité de l’IA avant que des standards chinois ne s’imposent, et à offrir aux entreprises utilisant des modèles open-weight une couche de sécurité que les modèles chinois ne fournissent pas intrinsèquement .

Le lancement a été catalysé par un incident survenu quelques jours plus tôt où un agent IA autonome a piraté les serveurs de Hugging Face — une démonstration concrète du type d’attaque que les modèles open-weight chinois pourraient permettre à grande échelle .