Claudeの「見えない推論」をAnthropicはどう可視化しているのか

Anthropicの取り組みは、Claudeの頭の中をそのまま文章として読む技術というより、AIを調べるための新しい観察器具を作るプロジェクトとして見ると分かりやすい。 同社は「機械論的解釈可能性」と呼ばれる研究を通じて、Claudeの内部計算の一部を人間が見て検証できる形にしようとしている。Anthropic自身はこれをAI用の「顕微鏡」に向かう進歩として説明している 。

AIの「顕微鏡」とは何を意味するのか

大規模言語モデルは、なぜ次の単語をそう選んだのかを、人間に読みやすい説明書つきで動いているわけではない。Anthropicによれば、モデルが各単語を書くたびに使う戦略は「何十億もの計算」の中に埋め込まれており、開発者にとっても特別な道具なしには読み解きにくい 。

ここでいう「顕微鏡」は、Claudeの中に隠れた完全な思考メモを発見する、という意味ではない。Claudeが文章で出した説明を信じるだけでなく、その説明を生み出す下側にある計算の一部を観察し、検証できるようにする道具を作る、という意味だ 。

第1段階：内部の活性化を「特徴量」として読む

Anthropicの初期の解釈可能性研究では、モデル内部にある解釈可能な概念を探すことに重点が置かれていた。同社はそれを「特徴量（features）」と呼んでいる 。

ざっくり言えば、特徴量とは、モデル内部の数値の塊をそのまま眺める代わりに、「この内部活動はある概念やパターンに関係していそうだ」と名前をつけ、調べ、テストできるようにするための手がかりだ 。

つまり研究者は、Claudeが最終的に何を答えたかだけでなく、その答えを生成している途中でどのような内部概念が動いていたのかを見ようとしている 。

第2段階：「特徴量」をつなぎ、「回路」としてたどる

より新しい一歩は、個々の特徴量を「回路（circuits）」として結びつけることだ。Anthropicは、従来の特徴量レベルの分析を拡張し、Claudeに入力された言葉が出力される言葉へ変わっていく経路の一部を明らかにする試みだと説明している 。

この違いは重要だ。単独の特徴量を見るだけでは、ある概念がモデル内部に現れたことは分かっても、それがほかの内部要素とどう関わり、最終的な回答にどう影響したのかまでは見えにくい。回路をたどることで、複数の内部部品が応答中にどう影響し合うのかを調べられる可能性がある 。

推論らしい振る舞いを理解するには、「どの概念があったか」だけでなく、「それらがどの順序・関係で使われたか」が大切になる。

第3段階：Claude 3.5 Haikuで実際の振る舞いを調べる

Anthropicは2025年3月、2本の論文を共有したと説明している。1本は特徴量の研究を回路トレーシングへ広げるもの、もう1本はその道具立てをClaude 3.5 Haikuに適用するものだった 。

Claude 3.5 Haikuを対象にした研究では、重要な10種類のモデル行動を代表する単純なタスクを詳しく調べたとされる。Anthropicはこの方向性を「AI biology」、つまりAIの生物学のような研究として位置づけている 。

もちろん、これはAIが生物だという意味ではない。外から「答えが正しいか」「自然な文章か」「安全そうか」を評価するだけでなく、モデルがなぜそのように振る舞うのかを説明する内部メカニズムを探ろうとしている、という比喩だ 。

Claudeに説明させることとは何が違うのか

Claudeに「理由を説明して」と頼めば、もっともらしい説明文は返ってくる。しかしそれもまた、モデルが生成したテキストである。Anthropicの解釈可能性研究が見ようとしているのは、そのテキストを作るもとになった内部計算の側だ 。

そのため、回路トレーシングは単なるプロンプト上の自己説明とは違う種類の証拠になる。モデルに自分の推論を語らせるのではなく、ニューラルネットワーク内の活動を、より人間が読める構造へ翻訳しながら、計算経路の一部を直接調べようとする手法だからだ 。

何が分かり、何はまだ分からないのか

この研究によって、Claude内部の一部は以前より読みやすくなる。どの特徴量が関係していそうか、それらがどう接続されているか、どの経路が応答生成に関わっていそうかを調べられるからだ 。

また、最終的な出力だけを見るのではなく、表面上の振る舞いと内部メカニズムを突き合わせるための手段にもなる 。

ただし、Anthropicの説明は慎重だ。同社はこれを「顕微鏡」の開発に向けた進歩であり、入力から出力へ至る経路の「一部」を明らかにするものとしている 。したがって、現時点の道具をClaude内部のすべての計算を読み解く完全な解読機や、モデルが内側で「考えたこと」を逐語的に記録する装置として受け取るべきではない 。

要するに

Anthropicは、Claudeの隠れた推論をより理解しやすくするために、内部の活性化を解釈可能な「特徴量」に変換し、それらがどう相互作用するかを「回路」としてたどり、具体的なモデル行動にその地図を当てはめようとしている 。

得られるのは、Claudeの計算を完全に読み切る透視能力ではなく、内部の一部を科学的に観察するための地図だ。AIのブラックボックスを一気に開く魔法ではないが、少なくとも「答えだけを見る」段階から、「答えが作られる過程の一部を見る」段階へ進めようとする研究だと言える 。