Comment Anthropic cartographie le raisonnement caché de Claude

Première étape : transformer les activations en « features »

Une partie des travaux d’Anthropic consiste à repérer, dans l’activité interne du modèle, des motifs que l’on peut associer à des concepts interprétables. L’entreprise les appelle des « features », un terme que l’on peut comprendre ici comme des caractéristiques ou signaux internes que les chercheurs peuvent nommer, examiner et tester ^[9][10].

L’intérêt est de ne plus traiter Claude uniquement comme un mur de nombres. Au lieu de regarder seulement la phrase finale, les chercheurs tentent d’identifier quels concepts internes semblent s’activer pendant la génération d’une réponse ^[9][10].

Deuxième étape : relier ces features en « circuits »

Le pas suivant consiste à relier ces features entre elles pour former des « circuits » computationnels. Anthropic décrit cette évolution comme une extension de ses travaux précédents : il ne s’agit plus seulement de localiser des concepts interprétables, mais de comprendre comment ils s’enchaînent dans une partie du chemin qui transforme les mots donnés à Claude en mots produits par Claude ^[9][10].

La nuance est importante. Une feature peut indiquer qu’un concept est présent quelque part dans le modèle. Un circuit, lui, peut aider à voir comment plusieurs éléments internes s’influencent au cours d’une réponse ^[9][10]. Pour des comportements qui ressemblent à du raisonnement, le trajet compte autant que les concepts isolés.

Troisième étape : observer des comportements concrets de Claude

En mars 2025, Anthropic a annoncé deux articles : l’un étendant ses travaux sur les features au traçage de circuits, l’autre appliquant ces outils à Claude 3.5 Haiku ^[9][10]. Dans cette étude, l’entreprise dit avoir examiné des tâches simples représentatives de dix comportements jugés cruciaux du modèle, dans une démarche qu’elle présente comme une forme de « biologie de l’IA » ^[9][10].

L’expression est parlante. Comme en biologie, l’idée n’est pas seulement d’évaluer le comportement depuis l’extérieur — par exemple vérifier si une réponse est correcte, fluide ou sûre — mais de chercher les mécanismes internes qui peuvent expliquer pourquoi le modèle se comporte ainsi ^[9][10].

Pourquoi ce n’est pas la même chose que demander à Claude de s’expliquer

Quand Claude explique sa réponse, il produit encore du texte. Cette explication peut être utile, mais elle reste une sortie générée par le modèle. Les travaux d’Anthropic visent un autre niveau : les calculs sous-jacents qui contribuent à produire ce texte ^[9][10].

Le traçage de circuits constitue donc un type de preuve différent. Ce n’est pas une invite demandant au modèle de raconter son raisonnement. C’est une tentative d’inspecter directement certaines parties du chemin computationnel, à l’aide d’outils qui traduisent l’activité interne en structures plus lisibles pour les chercheurs ^[9][10].

Ce que cette méthode peut montrer — et ce qu’elle ne montre pas

Ces outils peuvent rendre certains éléments internes de Claude plus compréhensibles : quelles features semblent pertinentes, comment elles sont connectées, et quels chemins internes paraissent impliqués dans une réponse donnée ^[9][10]. Ils permettent aussi de comparer le comportement visible du modèle avec des mécanismes internes, au lieu de s’en tenir uniquement au résultat final ^[9][10].

Mais le cadrage d’Anthropic reste prudent. L’entreprise parle de progrès vers un microscope et de la révélation de « parties » du chemin qui va des mots en entrée aux mots en sortie ^[9][10]. Les outils actuels ne doivent donc pas être interprétés comme un décodeur complet de toutes les opérations de Claude, ni comme une transcription fiable de tout ce que le modèle « pense » en interne ^[9][10].

Ce qu’il faut retenir

Anthropic tente de rendre le raisonnement caché de Claude plus intelligible en convertissant certaines activations internes en features interprétables, puis en suivant la manière dont ces features interagissent dans des circuits ^[9][10]. C’est une carte scientifique partielle du calcul interne de Claude — pas de la télépathie, pas une explication totale de chaque réponse, mais un pas vers une IA moins opaque ^[9][10].