Como a Anthropic está mapeando o raciocínio oculto do Claude

É aí que entra a metáfora do microscópio. A Anthropic não está dizendo que encontrou um parágrafo secreto com o raciocínio privado do Claude. O objetivo é criar instrumentos que permitam observar pedaços da computação que acontece por baixo das respostas escritas ^[9][10].

Em outras palavras: não é leitura de mente. É uma tentativa de transformar sinais internos difíceis de interpretar em estruturas que pesquisadores consigam nomear, testar e comparar ^[9][10].

Primeiro passo: transformar ativações em “features”

Uma parte do trabalho anterior da Anthropic se concentrou em localizar conceitos interpretáveis dentro do modelo. A empresa chama esses conceitos de features — um termo comum em aprendizado de máquina que, neste contexto, funciona como uma espécie de “alça” para um padrão de atividade interna ^[9][10].

Na prática, uma feature permite que os pesquisadores deixem de tratar o modelo apenas como uma parede de números opacos. Em vez disso, eles conseguem apontar para certos padrões internos, dar nomes provisórios a eles e testar em que situações aparecem ^[9][10].

Esse é o primeiro nível do mapa. A pergunta deixa de ser apenas “o que o Claude respondeu?” e passa a incluir “quais conceitos internos parecem ter sido ativados enquanto ele produzia essa resposta?” ^[9][10].

Segundo passo: conectar features em “circuitos”

O avanço mais recente está em ligar essas features em circuitos computacionais. A Anthropic descreve isso como uma extensão do trabalho de localizar conceitos internos: agora, a meta é rastrear partes do caminho que transforma as palavras de entrada nas palavras de saída do Claude ^[9][10].

Essa diferença importa. Uma feature isolada pode indicar que determinado conceito apareceu em algum ponto do modelo. Um circuito, por sua vez, ajuda a investigar como diferentes componentes internos influenciam uns aos outros durante a geração de uma resposta ^[9][10].

Para comportamentos que parecem envolver raciocínio, o trajeto pode ser tão importante quanto os conceitos individuais. Não basta saber que uma ideia apareceu; é preciso entender como ela se conectou a outras etapas do processamento ^[9][10].

O que a Anthropic estudou no Claude 3.5 Haiku

Em março de 2025, a Anthropic disse que estava compartilhando dois novos artigos: um deles ampliava o trabalho com features para o rastreamento de circuitos; o outro aplicava esse conjunto de ferramentas ao Claude 3.5 Haiku ^[9][10].

No estudo com o Claude 3.5 Haiku, a empresa analisou tarefas simples que representavam dez comportamentos considerados importantes em modelos de IA, dentro de uma abordagem que ela chamou de estudo de “biologia da IA” ^[9][10].

A expressão é chamativa, mas o sentido é específico. Em vez de avaliar o Claude apenas por fora — verificando se a resposta está correta, fluente ou segura — a Anthropic tenta identificar mecanismos internos que ajudem a explicar por que o modelo se comporta de determinada maneira ^[9][10].

Por que isso é diferente de pedir uma explicação ao Claude

Quando o Claude explica sua resposta em texto, essa explicação também é uma resposta gerada pelo próprio modelo. Já o trabalho de interpretabilidade da Anthropic mira os cálculos internos que ajudaram a produzir o texto antes de ele aparecer na tela ^[9][10].

Por isso, o rastreamento de circuitos oferece um tipo diferente de evidência. Não é um prompt pedindo que o modelo conte como raciocinou. É uma tentativa de inspecionar diretamente partes do caminho computacional, usando ferramentas feitas para traduzir atividade neural em estruturas mais compreensíveis para humanos ^[9][10].

Essa distinção é crucial para qualquer discussão sobre confiança em IA. Um modelo pode produzir uma explicação convincente, mas a pergunta científica é outra: quais mecanismos internos realmente contribuíram para aquela resposta? A pesquisa da Anthropic tenta aproximar essa pergunta de algo mensurável ^[9][10].

O que o método mostra — e o que ainda não mostra

O trabalho pode tornar alguns aspectos internos do Claude mais legíveis: quais features parecem relevantes, como elas se conectam e quais caminhos internos parecem participar da produção de uma resposta ^[9][10]. Também oferece aos pesquisadores uma forma de comparar o comportamento visível do modelo com mecanismos internos, em vez de depender apenas do resultado final ^[9][10].

Mas a própria formulação da Anthropic é cautelosa. A empresa fala em progresso rumo a um microscópio e em revelar “partes” do caminho entre palavras de entrada e palavras de saída ^[9][10]. Isso significa que as ferramentas atuais não devem ser tratadas como um decodificador completo de todos os cálculos do Claude, nem como uma transcrição confiável de tudo o que o modelo “pensa” internamente ^[9][10].

Em resumo

A Anthropic está tentando tornar o raciocínio oculto do Claude mais compreensível ao converter algumas ativações internas em features interpretáveis, rastrear como essas features interagem em circuitos e aplicar esse mapa a comportamentos concretos do modelo ^[9][10].

O resultado é um mapa científico parcial da computação do Claude — útil para enxergar melhor a caixa-preta, mas ainda longe de explicar cada resposta por completo ^[9][10].