答案已發布26 來源
AI 神經網絡其實冇咁難睇？Cammarata 的新說法與證據界線
Goodfire 研究員 Nick Cammarata 認為，較好的分析工具和一般化過程，或能解釋部分看似混亂的神經網絡反應；他提出的「遞歸泛化」是工作假說，並非已推翻超位置理論。 他報告視覺模型末層的可解讀比例，由舊工具下約 5%，升至參數量相若的 ConvNeXt 約 99%；這些數字只談末層神經元，不能當成整個模型已被理解。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案
重點
- Goodfire 研究員 Nick Cammarata 認為，較好的分析工具和一般化過程，或能解釋部分看似混亂的神經網絡反應；他提出的「遞歸泛化」是工作假說，並非已推翻超位置理論。
- 他報告視覺模型末層的可解讀比例，由舊工具下約 5%，升至參數量相若的 ConvNeXt 約 99%；這些數字只談末層神經元，不能當成整個模型已被理解。
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Goodfire researcher Nick Cammarata argue in his October 15, 2026 essay about neural networks being easier to interpret than previo. Article summary: Cammarata’s October 15 essay, “Neural Networks Are Already Clean,” argues that much apparent neural-network opacity reflects inadequate tools and older architectures rather than intrinsically tangled representations; he . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
Nick Cammarata 在 2026 年 10 月 15 日發表長文《Neural Networks Are Already Clean》，提出一個頗具挑戰性的看法：有些神經元表面上像是把不相干概念混在一起，實際上可能是分析工具不夠好、舊式模型架構較難解讀，或者相關特徵沿着一般化過程逐步延伸。他認為，研究者有時可以直接分析神經元，不必先用另一個模型把它們「拆散」。不過，他報告的結果雖然令人鼓舞，並不等於神經網絡、甚至整個模型的運作方式已經完全弄清楚。5
10
26
「遞歸泛化」是甚麼？
Cammarata 的假說是，神經元對某個特徵的反應，可能逐步延伸至相關特徵，形成一串有關聯的分支，而非隨意把互不相干的概念塞在一起。文章提到一個語言例子：某個神經元先對字母組合「iy」有反應，之後也對「diy」有反應，再延伸至語義相關、但不含「iy」的「do it yourself」。如果把每種反應都視為完全獨立的功能，這種延伸便可能看起來像特徵混雜。2
6
10
這個解釋挑戰了「多義性」的一種常見理解：同一神經元似乎會對多個概念啟動。它亦令人重新思考，研究者是否一定要先用稀疏自編碼器（sparse autoencoder）一類的工具找出特徵，才能解讀模型。但「遞歸泛化」本身並不能證明超位置現象從未發生；它只是為部分觀察結果提出另一種可能解釋，並非已全面取代其他關於模型如何表示特徵的說法。5
15
「貓和汽車」神經元，可能有共同點？
InceptionV1 的一個知名例子，是某個神經元看似會對貓臉和汽車車頭作出反應，乍看就像把兩種無關類別混在一起。據報，Cammarata 在文章中重新解讀這個反應，認為神經元可能是在偵測共同的 V 字形視覺特徵，而不是分別代表「貓」和「汽車」。這令該例子較難單獨作為「任意混合」的定論；但重新解讀一個神經元，並不足以解答整個模型如何表示特徵。10
12
現有資料不足以可靠重構 Cammarata 對 2020 年「汽車到狗」電路例子的新版解釋。因此，本文無法進一步判斷該例子如何支持他的假說；較穩妥的說法是，他整體主張部分看似混合的反應，可能有共同或相關的解釋。
他報告的可解讀比例
Cammarata 報告了一組視覺模型末層結果：使用 2017 年左右的工具，InceptionV1 末層約 5% 的神經元可解讀；用較好的工具分析同一網絡，比例約為 50%；採用現代正則化重新訓練後，約為 70%；至於在同一資料集訓練、參數量相若的 ConvNeXt，比例約為 99%。這組數字顯示，分析工具和模型架構都可能影響神經元看起來有多容易理解。要留意，這些是末層的解讀結果，不是研究者已解釋整個模型運算的百分比。31
至於 Qwen3-32B，Cammarata 的初步檢視估計，約 90% 的神經元反應方向有一項主要功能，當中有些會延伸出少量相關分支；約 7% 有兩項相關功能；約 2% 至 4% 仍未能解釋。這些數字描述的是神經元反應方向，並不代表研究者已理解語言模型每個部分或每個決定。比例亦會隨弱啟動的篩選門檻、檢視哪些層，以及如何界定一項「功能」而改變。1
7
文章亦常與 OpenAI 一項自動化可解讀性研究並列討論。據報，該項研究解釋了所檢視神經元的約 1.7%。但這並非與 Qwen3-32B 數字直接作前後比較：兩者研究的模型、工具和衡量方式都不同，不能視為一場嚴格控制的測試，亦不能單憑百分比推算可解讀性增加了多少。9
12
AI 代理幫了甚麼忙？哪些細節仍未清楚？
相關報道提到，Cammarata 把現代 AI 代理工具的使用，視為可以更大規模直接研究神經元的理由之一。不過，現有資料未能交代「十萬張歸因圖」如何生成、又如何用於研究結論，因此無法根據目前證據核實這項具體方法細節。3
5
6
語言模型的結果仍屬初步，文章亦把整體論點稱為工作假說。報道另指，技術性配套論文當時仍未發布，或尚待推出。現有資料不足以確認結果是否已獲獨立重複驗證，也不足以逐項評估研究者對各個估算有多大把握。7
12
34
為甚麼研究者反應不一？
Latent Space 對文章反應熱烈，認為代理式分析挑戰了「多義神經元令直接研究變得不切實際」的想法。Google DeepMind 的 Neel Nanda 則被報道為較審慎：他仍預期超位置現象存在，並認為弱啟動也可能帶有重要資訊，例如模型記住的事實。其他報道形容，他的批評部分着眼於「一項功能」或「單義神經元」應如何定義，而不只是否定 Cammarata 報告的觀察結果。6
35
36
37
但現有資料不足以完整還原雙方討論，亦不足以證實每項被提及的分歧或共識。例如，從圖像模型得出的結論能否套用到語言模型，以及只分析神經元是否足以理解模型電路，這些問題都不應被當成已由相關百分比解決。
較審慎的結論
Cammarata 最核心的主張是：研究者看到的神經網絡複雜程度，有時可能受到分析工具和模型架構影響；而不少單一神經元，或比過往研究所暗示的更容易解讀。他報告的視覺模型結果，以及對 Qwen3-32B 的初步檢視，令這個假說值得關注。但現有結果並未證明超位置已被推翻、每個神經元都有一項清晰功能，或理解神經元就等於理解整個模型。7
10
12
Studio Global AI
繼續你的研究
此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。
人們還問
「AI 神經網絡其實冇咁難睇？Cammarata 的新說法與證據界線」的簡短答案是什麼？
Goodfire 研究員 Nick Cammarata 認為，較好的分析工具和一般化過程，或能解釋部分看似混亂的神經網絡反應；他提出的「遞歸泛化」是工作假說，並非已推翻超位置理論。
首先要驗證的關鍵點是什麼？
Goodfire 研究員 Nick Cammarata 認為，較好的分析工具和一般化過程，或能解釋部分看似混亂的神經網絡反應；他提出的「遞歸泛化」是工作假說，並非已推翻超位置理論。 他報告視覺模型末層的可解讀比例，由舊工具下約 5%，升至參數量相若的 ConvNeXt 約 99%；這些數字只談末層神經元，不能當成整個模型已被理解。