Anthropic 如何讓 Claude 隱藏的推理變得看得見

當我們問 Claude「你為什麼這樣回答」時，看到的是它生成的一段文字說明；Anthropic 想看的，則是那段文字誕生前，模型內部究竟有哪些運算在發生。

這也是 Anthropic 近期可解釋性研究的核心：它正在打造一套類似 AI「顯微鏡」的工具，把 Claude 原本難以閱讀的內部活動，整理成較能被人類檢查、命名與測試的結構 。

不是讀心術，而是做儀器

大型語言模型不會附上一份人類看得懂的「內部說明書」。Anthropic 指出，模型為每一個要寫出的詞所採用的策略，藏在數十億次運算之中；即使是模型開發者，沒有專門工具也很難直接理解這些運算 。

所以，「顯微鏡」這個比喻很關鍵。Anthropic 並不是宣稱找到 Claude 腦中一整段私密思考鏈，而是在建工具，讓研究人員能檢查 Claude 寫出答案之前的部分計算過程 。

第一步：把啟動值轉成「特徵」

在較早的研究中，Anthropic 嘗試在模型內部找出可解釋的概念，稱為「特徵」（features）。

用白話說，特徵就像是在一片看似雜亂的數字活動中，抓到一個可以命名的把手：它可能對應某個概念、模式或行為。研究人員因此不必只把模型看成一堵黑色數字牆，而能追問：Claude 產生某個回答時，哪些內部概念被啟動了？

第二步：把特徵連成「迴路」

Anthropic 2025 年的新進展，是把這些特徵進一步連成計算「迴路」（circuits）。公司表示，這是在既有特徵研究上往前推進，用來揭示輸入 Claude 的文字如何經由部分內部路徑，轉變成最後輸出的文字 。

這個差別很重要。單一特徵只能告訴我們某個概念似乎在模型裡出現；迴路則試圖說明多個內部元件如何互相影響，並一起參與某次回答 。對於看似推理的行為來說，路徑本身往往和個別概念一樣重要。

第三步：拿真實 Claude 行為來檢查

2025 年 3 月，Anthropic 表示分享了兩篇論文：一篇把特徵層級的研究延伸到迴路追蹤，另一篇則把這套工具用在 Claude 3.5 Haiku 上 。在 Claude 3.5 Haiku 的研究中，團隊檢視了簡單任務，這些任務代表十項關鍵模型行為；Anthropic 也把這類工作形容為研究「AI 生物學」的一部分 。

「AI 生物學」的說法，凸顯它想追求的不是只看外在表現。傳統評估常問：答案對不對、流不流暢、安不安全？Anthropic 進一步想問的是：模型為什麼會出現這種行為，背後有哪些內部機制可能在運作 。

為什麼不能只看 Claude 自己的解釋？

Claude 寫出的解釋，終究仍是模型生成的文字。Anthropic 的可解釋性研究瞄準的是產生這些文字之前的底層運算 。

因此，迴路追蹤提供的是不同類型的證據。它不是再下一個提示，要求模型「說明你的推理」；而是用工具把神經活動轉譯成較可閱讀的結構，嘗試直接觀察部分計算路徑 。

它能看見什麼？又還看不見什麼？

這套方法可以讓 Claude 的部分內部狀態變得更可讀：哪些特徵可能相關、這些特徵如何連結，以及哪些路徑似乎參與了某個回答的生成 。它也讓研究人員有機會把「表面答案」和「內部機制」放在一起比較，而不是只依賴模型最後吐出的文字 。

不過，Anthropic 的說法本身相當謹慎。它稱這些論文是朝 AI「顯微鏡」邁進的進展，並說目前揭示的是從輸入詞到輸出詞路徑中的「部分」內容 。換句話說，這還不是 Claude 的完整解碼器，也不應被當成模型內在「想法」的逐字逐句紀錄 。

重點一句話

Anthropic 正在用機制可解釋性替 Claude 畫一張局部地圖：先把內部啟動值整理成可解釋的特徵，再追蹤特徵之間形成的迴路，最後用它們研究具體模型行為 。這讓 Claude 的黑盒推理更可檢查，但離完整讀懂每一次回答仍有距離 。