| Score rapporté pour Claude Mythos Preview |
|---|
| À retenir |
|---|
La donnée la plus nette côté officiel concerne le statut du modèle. Anthropic indique que Claude Mythos Preview est proposé séparément comme préversion de recherche pour des usages de cybersécurité défensive dans Project Glasswing, avec un accès uniquement sur invitation et sans inscription en libre-service.
Sur la page de Project Glasswing, Anthropic présente aussi Claude Mythos Preview comme un modèle frontière généraliste, particulièrement fort pour le code et les tâches agentiques. L’entreprise relie ses performances en cybersécurité à une capacité plus large : comprendre et modifier en profondeur des logiciels complexes, donc trouver et corriger des vulnérabilités.
La source de la system card fournie décrit de son côté Claude Mythos Preview comme un nouveau grand modèle de langage, ou modèle frontière, doté de capacités en génie logiciel, raisonnement, usage d’ordinateur, travail de connaissance et assistance à la recherche.
Autrement dit : les sources officielles confirment bien le positionnement et les domaines de capacité. Les chiffres détaillés du tableau, eux, sont surtout visibles ici via des sources tierces.
Le score le plus spectaculaire reste le 93,9 % sur SWE-bench Verified. Weights & Biases rapporte ce résultat pour Claude Mythos Preview et le compare à 80,8 % pour Claude Opus 4.6.
Pour une équipe de développement, c’est le chiffre le plus parlant : il touche directement aux tâches de programmation et de correction de code qui servent souvent à juger les modèles « agents » capables de travailler dans un dépôt logiciel.
Le signal ne se limite pas à un seul cadre anglophone. Sur SWE-bench Multilingual, Weights & Biases rapporte 87,3 % pour Mythos Preview, contre 77,8 % pour Opus 4.6.
Mais un bon score sur SWE-bench ne garantit pas le même comportement dans chaque dépôt, avec chaque pile technique, chaque outil interne ou chaque processus de revue. Et dans le cas de Claude Mythos Preview, il y a une limite supplémentaire : les équipes extérieures ne peuvent pas simplement l’essayer via un accès self-service, selon la documentation d’Anthropic.
Les résultats en cybersécurité sont tout aussi frappants. Authmind rapporte pour Claude Mythos Preview un score parfait sur Cybench, avec pass@1 = 1,00 ; la source décrit Cybench comme un benchmark public composé de 40 défis de type CTF, pour « Capture the Flag ».
Sur CyberGym, Authmind cite un score de 0,83 et décrit l’évaluation comme une reproduction ciblée de vulnérabilités à travers 1 507 tâches réelles issues de logiciels open source.
Ces chiffres s’inscrivent dans la présentation officielle du modèle : Anthropic le rattache explicitement à des workflows de cybersécurité défensive dans Project Glasswing. La page Project Glasswing explique aussi que sa force en cybersécurité découle de sa capacité plus générale à comprendre, modifier, trouver et corriger des vulnérabilités dans des logiciels complexes.
La nuance est importante : des défis CTF ou des reproductions de vulnérabilités sont des environnements d’évaluation précis. Ils donnent un signal utile sur l’analyse de code et la sécurité, mais ils ne remplacent pas une validation menée dans les contraintes réelles d’une organisation : règles internes, outils autorisés, périmètre légal, audit humain et responsabilité opérationnelle.
Les benchmarks de raisonnement sont également élevés. llm-stats rapporte 94,6 % sur GPQA Diamond, ainsi que 56,8 % sur Humanity’s Last Exam sans outils et 64,7 % avec outils.
La séparation entre « avec outils » et « sans outils » n’est pas un détail. L’accès à des outils peut changer fortement la comparaison entre modèles : on ne mesure plus seulement la réponse brute du modèle, mais aussi sa capacité à s’appuyer sur un environnement externe.
Même logique pour Terminal-Bench. llm-stats rapporte 92,1 %, mais avec une configuration très précise : harness Terminus-2, effort maximal d’« adaptive thinking », budget d’un million de tokens par tâche, délais étendus à 4 heures et mises à jour de Terminal-Bench 2.1.
Dans les benchmarks d’agents, le temps disponible, le contexte, les outils et le budget de calcul font partie du résultat. Les ignorer revient à comparer des performances obtenues dans des conditions différentes.
Le score multimodal demande lui aussi de la prudence. Weights & Biases rapporte 59,0 % pour Mythos Preview dans une évaluation multimodale interne, contre 27,1 % pour Opus 4.6. llm-stats précise par ailleurs que SWE-bench Multimodal utilise une implémentation interne et que ses scores ne sont pas directement comparables aux résultats des classements publics.
Quatre limites ressortent clairement :
Accès restreint. Claude Mythos Preview est, selon Anthropic, une préversion de recherche accessible sur invitation, sans inscription en libre-service. Cela complique la reproduction indépendante par des équipes ordinaires.
Sources mélangées. Les sources officielles disponibles confirment surtout le statut du modèle, son positionnement et ses domaines de capacité. Beaucoup de chiffres précis sont ici visibles via des sources tierces.
Configurations internes ou spécialisées. Le score multimodal est présenté comme issu d’une évaluation interne. Terminal-Bench est rapporté avec un harness spécifique, un effort maximal, un très grand budget de tokens et des délais prolongés.
Portée limitée par le type de tâche. Cybench repose sur 40 défis CTF et CyberGym sur 1 507 tâches réelles de reproduction de vulnérabilités open source, selon Authmind. Ce sont des évaluations pertinentes, mais elles ne couvrent pas toutes les situations de cybersécurité ou de développement logiciel.
Claude Mythos Preview apparaît exceptionnel dans les benchmarks rapportés : 93,9 % sur SWE-bench Verified, 87,3 % sur SWE-bench Multilingual, 59,0 % dans une évaluation multimodale interne, 0,83 sur CyberGym et pass@1 = 1,00 sur Cybench.
Mais le point central n’est pas seulement le niveau des scores. Claude Mythos Preview est décrit par Anthropic comme une préversion de recherche sur invitation liée à Project Glasswing, et non comme un modèle standard librement accessible.
Il faut donc lire ces résultats comme un signal de capacité très fort pour le code, les agents et la cybersécurité défensive — pas comme un classement public entièrement reproductible dans les mêmes conditions par n’importe quelle équipe.