Pourquoi les experts en cybersécurité jugent Claude Fable 5 « trop sûr pour être utile »

Les restrictions ne se limitent pas à la cybersécurité. Les garde-fous ciblent aussi les requêtes liées à la biologie, à la chimie et, de manière cruciale, à la distillation de modèles d'IA. Ce dernier point a alimenté une autre vague de critiques, certains développeurs accusant Anthropic d'utiliser la « sécurité » comme prétexte à un comportement anticoncurrentiel, en empêchant d'autres créateurs d'IA d'utiliser les résultats de Fable 5 pour l'entraînement .

Comment fonctionne le système de garde-fou : une bascule silencieuse

Le système de sécurité d'Anthropic dans Fable 5 n'est pas un simple mécanisme de refus. C'est un système de routage conçu pour échouer discrètement . L'architecture fonctionne en trois étapes :

1. Classificateurs pré-modèle : Des systèmes d'IA séparés, appelés classificateurs, sont placés en amont du modèle principal Fable 5. Ils inspectent les invites des utilisateurs en temps réel, surveillant les mots-clés et les schémas liés à quatre domaines à haut risque : cybersécurité, biologie, chimie et distillation de modèles .
2. Routage de repli silencieux : Lorsqu'un classificateur se déclenche, il ne bloque pas la réponse. Au lieu de cela, il redirige de manière transparente et silencieuse la requête vers un modèle plus ancien et moins performant, Claude Opus 4.8, qui génère la réponse .
3. Aucune notification à l'utilisateur : Le défaut de conception critique, selon les détracteurs, est que l'interface utilisateur ne rend pas ce changement de modèle évident. Les utilisateurs ne s'en aperçoivent que lorsque la qualité de la réponse se dégrade soudainement, donnant l'impression que Fable 5 fonctionne inexplicablement mal .

Anthropic affirme que ces classificateurs se déclenchent dans moins de 5 % de toutes les sessions en moyenne . L'entreprise a publiquement reconnu le problème de sur-filtrage. Un porte-parole a déclaré à Business Insider que les mesures de sécurité « peuvent signaler des requêtes sûres, neutres ou bénignes », mais a justifié cela comme un compromis nécessaire pour diffuser publiquement un modèle aux capacités sous-jacentes aussi puissantes .

Comment Anthropic justifie ce paramétrage conservateur

La position d'Anthropic est que ces garde-fous conservateurs sont un choix délibéré et responsable, et non un bug. L'entreprise soutient que le modèle de classe Mythos sous-jacent est si compétent dans des tâches comme la recherche et l'exploitation de vulnérabilités logicielles qu'une diffusion publique sans restriction créerait un risque inacceptable d'utilisation malveillante catastrophique .

Les garde-fous sont, à leurs yeux, un compromis de conception – un moyen de fournir au public l'accès à un modèle de raisonnement, de codage et d'écriture de pointe tout en mettant un "bac à sable" autour de ses capacités potentielles les plus dangereuses . Ils présentent le sur-filtrage comme le coût temporaire à payer pour diffuser un modèle puissant « à la fois rapidement et en toute sécurité », avec un engagement à affiner les classificateurs au fil du temps .

Le nouveau standard industriel : deux modèles, deux vitesses

La sortie de Claude Fable 5 ne peut être pleinement comprise isolément. Elle constitue la moitié d'une stratégie de déploiement à deux vitesses qui est en train de devenir un nouveau standard industriel pour les modèles d'IA de pointe .

Claude Fable 5 vs. Claude Mythos 5

Le même jour que la sortie de Fable 5, Anthropic a également annoncé Claude Mythos 5. Les deux modèles partagent exactement la même architecture sous-jacente et les mêmes paramètres – ils ont le même « cerveau ». La seule différence est la configuration de sécurité. Mythos 5 voit ses classificateurs retirés dans les domaines sensibles, ce qui lui confère toutes ses capacités, sans restriction .

Cependant, Mythos 5 n'est pas destiné au public. Il est réservé à un petit groupe de partenaires triés sur le volet, y compris des agences gouvernementales et des opérateurs d'infrastructures critiques, par le biais d'une initiative appelée Project Glasswing . Ce programme, soutenu par le gouvernement américain, a été initialement lancé avec 12 partenaires fondateurs, dont des géants de la tech comme AWS, Google et Microsoft, pour permettre aux « cyberdéfenseurs » d'utiliser l'IA afin de trouver et de corriger des vulnérabilités logicielles à grande échelle . Avec la sortie de Mythos 5, l'accès a été étendu à environ 40 organisations .

Le tableau ci-dessous illustre cette division fondamentale :

Le déploiement de l'IA par paliers de capacités

Le modèle Fable/Mythos d'Anthropic est l'exemple le plus explicite de ce que l'on peut appeler le déploiement de l'IA par paliers de capacités. Dans ce nouveau modèle, une seule IA de pointe n'est pas un produit unique. Sa pleine puissance est un privilège, non un acquis, et les garde-fous de sécurité sont le mécanisme qui crée la différenciation du produit .

Ce schéma n'est pas propre à Anthropic. D'autres entreprises d'IA de premier plan, comme OpenAI, ont adopté des approches similaires en fournissant des versions à accès restreint de leurs modèles les plus avancés à des partenaires de sécurité nationale et de recherche . Le lancement Fable/Mythos cristallise un avenir où les capacités d'IA les plus puissantes ne sont pas limitées par la technologie, mais par un statut de vérification, les protocoles de sécurité servant aussi de mécanismes de contrôle d'accès. Une approche qui suscite déjà un débat plus large sur la centralisation, l'équité et le sens réel d'une IA « publique » et « sûre ».