Singapour–Microsoft : les véritables enjeux de l’accord du 12 juin sur l’IA de pointe

L’accent mis sur l’IA agentique est également révélateur. Un système capable de planifier des tâches et d’agir via des outils ou des flux de travail ne peut pas être évalué uniquement sur la qualité d’une réponse. Il faut aussi examiner ce qu’il est autorisé à faire, sa réaction face aux consignes ambiguës et la capacité des dispositifs techniques à empêcher des actions dangereuses ou imprévues.

2. Échanger des connaissances et des pratiques de gouvernance

Les deux parties souhaitent également partager des informations, des bonnes pratiques et des cadres de gouvernance. L’enjeu est de relier les tests techniques aux décisions opérationnelles : quels risques évaluer, quels seuils appliquer, qui peut accéder à un modèle et quelle procédure suivre lorsqu’une faille grave est découverte.

Cette approche va au-delà d’un simple classement des performances. Un modèle peut obtenir d’excellents résultats à un test de référence tout en étant inadapté à un service public ou à une infrastructure critique si ses permissions, sa surveillance, ses procédures de signalement ou son dispositif de supervision humaine sont insuffisants.

3. Réfléchir à un accès de confiance aux modèles de pointe

Le troisième axe consiste à étudier des politiques d’accès de confiance aux modèles d’IA de pointe. Le principe est celui d’une disponibilité contrôlée : les systèmes très performants doivent pouvoir être utilisés pour des tests légitimes et des travaux utiles, mais leur accès doit être assorti de garanties proportionnées à leurs capacités et à leurs risques.

L’accord dessine ainsi une approche par niveaux : tester le système, partager les résultats, limiter l’accès lorsque cela est nécessaire et définir les responsabilités par des règles de gouvernance.

Pourquoi Claude Mythos est pertinent — sans être présenté comme le déclencheur de l’accord

Le modèle Claude Mythos Preview d’Anthropic constitue un exemple parlant du problème du double usage auquel l’IA de pointe confronte les acteurs publics et privés. Anthropic affirme qu’elle-même et environ 50 partenaires de Project Glasswing ont utilisé ce modèle à accès restreint pour identifier plus de 10 000 vulnérabilités de gravité élevée ou critique dans des logiciels d’importance systémique. L’entreprise indique également que Mythos pouvait repérer puis exploiter des failles, y compris des vulnérabilités inédites (« zero-day »), dans de grands systèmes d’exploitation et navigateurs.

Une telle capacité peut renforcer la défense informatique en aidant les chercheurs à trouver les failles avant les attaquants. Mais elle peut aussi accélérer le passage de la découverte d’une vulnérabilité à son exploitation si elle est diffusée trop largement ou insuffisamment contrôlée. C’est pourquoi Anthropic a maintenu Mythos derrière un accès restreint dans le cadre de Project Glasswing, plutôt que de le rendre accessible au public.

Les éléments disponibles ne permettent toutefois pas d’établir que Claude Mythos ait précisément provoqué ou motivé l’accord conclu le 12 juin entre Singapour et Microsoft. Le modèle doit plutôt être considéré comme un exemple de l’évolution rapide de l’environnement de risque, qui renforce l’importance d’évaluations structurées, d’un accès contrôlé et de cadres de gouvernance solides.

À quoi ressemblent les mesures de sécurité dans la pratique

L’accès restreint est déjà un contrôle de sécurité

Le fonctionnement de Project Glasswing constitue en lui-même une mesure de gestion des risques. Anthropic a donné accès au modèle à un groupe défini de partenaires pour des travaux défensifs, plutôt que de le publier largement. Cette méthode limite l’exposition tout en permettant à des équipes de sécurité d’étudier les capacités du système.

L’accès restreint ne suffit pas à lui seul : il suppose une sélection rigoureuse des partenaires, une surveillance, une manipulation sécurisée des données et une procédure de divulgation responsable. Il illustre néanmoins le principe au cœur des travaux sur l’accès de confiance : l’accès doit tenir compte des capacités et des risques d’un modèle, au lieu de traiter chaque système de pointe comme un logiciel public ordinaire.

Découvrir une vulnérabilité ne dispense pas de la corriger

Identifier une faille n’est que la première étape. L’Agence de cybersécurité de Singapour recommande aux organisations d’appliquer des correctifs aux vulnérabilités critiques et de gravité élevée, d’activer l’authentification multifacteur sur les interfaces et passerelles, et de revoir les droits d’accès superflus. Ces mesures réduisent les possibilités d’exploitation pendant que les entreprises analysent les problèmes et déploient les correctifs.

Les données disponibles invitent aussi à la prudence face à l’idée que les quelque 10 000 vulnérabilités découvertes par Mythos auraient été largement corrigées. Une évaluation ultérieure fait état de 1 596 signalements transmis aux responsables des logiciels, mais de seulement 97 corrections. Cela ne signifie pas que le projet n’a eu aucun bénéfice défensif ; cela signifie que les affirmations selon lesquelles « beaucoup » de failles auraient été corrigées doivent être nuancées.

La leçon est autant opérationnelle que technique : la sécurité de l’IA exige un processus pour détecter les risques, les signaler de manière responsable, hiérarchiser les réparations et réduire l’exposition tant que les correctifs ne sont pas en place.

Le rôle de Microsoft — et ce que l’accord ne confirme pas

Microsoft apporte son expérience du développement de modèles de pointe, des infrastructures destinées aux entreprises et de l’évaluation opérationnelle des systèmes d’IA ainsi que de leur accès. La portée annoncée du protocole est cependant plus large qu’un modèle Microsoft en particulier : elle concerne les méthodes de test de sécurité et les politiques d’accès de confiance applicables aux modèles de pointe en général.

Les éléments fournis ne permettent pas d’étayer comme des engagements formels de cet accord plusieurs affirmations plus précises, notamment celles qui porteraient sur le modèle MAI de Microsoft, sur l’accès via Azure AI Foundry aux modèles d’OpenAI et d’Anthropic, ou sur des dispositifs comparables avec l’AI Security Institute du Royaume-Uni et le Centre for AI Standards and Innovation des États-Unis. Ces éléments ne doivent donc pas être présentés comme des volets du protocole d’accord Singapour–Microsoft.

L’objectif plus large : bâtir un écosystème d’IA de confiance

Pris ensemble, les différents volets de l’accord forment une chaîne de sécurité pratique :

1. Évaluer les systèmes avancés et agentiques, y compris leur comportement dans différentes langues.
2. Partager les résultats techniques, les pratiques de gouvernance et les enseignements tirés des tests.
3. Contrôler l’accès aux modèles dont les capacités présentent des risques élevés.
4. Réagir grâce au signalement responsable, aux correctifs, à l’authentification et à la gestion des permissions.
5. Établir des règles précisant quand et comment les systèmes de pointe peuvent être utilisés dans des environnements sensibles.

C’est là que réside la portée de l’accord. Il ne rend pas l’IA de pointe sûre à lui seul et ne résout pas les risques illustrés par Claude Mythos. Il relie en revanche l’évaluation technique, la gouvernance des accès et les pratiques de cybersécurité — avec l’ambition de rendre l’IA avancée plus sûre, plus fiable et plus responsable avant de confondre niveau de performance et aptitude au déploiement.