Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。 重點由只睇 Claude 最終答咗乜，轉向檢視輸入字詞點樣經過部分內部路徑，變成輸出字詞 [9][10]。
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。
重點由只睇 Claude 最終答咗乜，轉向檢視輸入字詞點樣經過部分內部路徑，變成輸出字詞 [9][10]。
2025 年 3 月，Anthropic 把工具套用到 Claude 3.5 Haiku，研究代表十種關鍵模型行為的簡單任務，並以「AI 生物學」形容這種內部機制研究 [9][10]。
Anthropic’s AI Microscope: How Claude’s Hidden Reasoning Is Being MappedAnthropic’s interpretability work aims to map parts of Claude’s internal computation into human-legible features and circuits.
AI 提示
Create a landscape editorial hero image for this Studio Global article: Anthropic’s AI Microscope: How Claude’s Hidden Reasoning Is Being Mapped. Article summary: Anthropic’s 2025 interpretability work tries to make Claude’s hidden reasoning legible by mapping internal activations into “features” and linking them into “circuits”; it is progress toward an AI “microscope,” not a.... Topic tags: ai, anthropic, claude, ai safety, ai transparency. Reference image context from search candidates: Reference image 1: visual subject "### Anthropic Develops AI 'Microscope' to Reveal the Hidden Mechanics of LLM Thought. Anthropic has unveiled new research tools designed to provide a rare glimpse into the hidden r" source context "Anthropic Develops AI 'Microscope' to Reveal the Hidden Mechanics of LLM Thought -- Campus Technology" Reference image 2: visual subject "Late 2024, Anthropic published a p
openai.com
如果你以為 Anthropic 係喺 Claude 入面搵一段「真正心聲」逐字讀出，咁就誤會咗。佢哋做緊嘅，更似係造一套科研儀器：用機制可解釋性（mechanistic interpretability）工具，將 Claude 產生回答時某些內部運算變得可以觀察、可以測試；Anthropic 自己形容，這是朝住 AI「顯微鏡」邁進 。
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。
首先要驗證的關鍵點是什麼？
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。 重點由只睇 Claude 最終答咗乜，轉向檢視輸入字詞點樣經過部分內部路徑，變成輸出字詞 [9][10]。
接下來在實務上我該做什麼？
2025 年 3 月，Anthropic 把工具套用到 Claude 3.5 Haiku，研究代表十種關鍵模型行為的簡單任務，並以「AI 生物學」形容這種內部機制研究 [9][10]。
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。 重點由只睇 Claude 最終答咗乜，轉向檢視輸入字詞點樣經過部分內部路徑，變成輸出字詞 [9][10]。
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。
重點由只睇 Claude 最終答咗乜，轉向檢視輸入字詞點樣經過部分內部路徑，變成輸出字詞 [9][10]。
2025 年 3 月，Anthropic 把工具套用到 Claude 3.5 Haiku，研究代表十種關鍵模型行為的簡單任務，並以「AI 生物學」形容這種內部機制研究 [9][10]。
Anthropic’s AI Microscope: How Claude’s Hidden Reasoning Is Being MappedAnthropic’s interpretability work aims to map parts of Claude’s internal computation into human-legible features and circuits.
AI 提示
Create a landscape editorial hero image for this Studio Global article: Anthropic’s AI Microscope: How Claude’s Hidden Reasoning Is Being Mapped. Article summary: Anthropic’s 2025 interpretability work tries to make Claude’s hidden reasoning legible by mapping internal activations into “features” and linking them into “circuits”; it is progress toward an AI “microscope,” not a.... Topic tags: ai, anthropic, claude, ai safety, ai transparency. Reference image context from search candidates: Reference image 1: visual subject "### Anthropic Develops AI 'Microscope' to Reveal the Hidden Mechanics of LLM Thought. Anthropic has unveiled new research tools designed to provide a rare glimpse into the hidden r" source context "Anthropic Develops AI 'Microscope' to Reveal the Hidden Mechanics of LLM Thought -- Campus Technology" Reference image 2: visual subject "Late 2024, Anthropic published a p
openai.com
如果你以為 Anthropic 係喺 Claude 入面搵一段「真正心聲」逐字讀出，咁就誤會咗。佢哋做緊嘅，更似係造一套科研儀器：用機制可解釋性（mechanistic interpretability）工具，將 Claude 產生回答時某些內部運算變得可以觀察、可以測試；Anthropic 自己形容，這是朝住 AI「顯微鏡」邁進 。
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。
首先要驗證的關鍵點是什麼？
Anthropic 用「機制可解釋性」將 Claude 部分內部活化拆成 features，再追蹤 features 如何組成 circuits；呢個係走向 AI「顯微鏡」嘅工程，唔係完整讀心術 [9][10]。 重點由只睇 Claude 最終答咗乜，轉向檢視輸入字詞點樣經過部分內部路徑，變成輸出字詞 [9][10]。
接下來在實務上我該做什麼？
2025 年 3 月，Anthropic 把工具套用到 Claude 3.5 Haiku，研究代表十種關鍵模型行為的簡單任務，並以「AI 生物學」形容這種內部機制研究 [9][10]。
