Goodfire研究员Nick Cammarata在2026年10月15日发表的长文《Neural Networks Are Already Clean》，提出了一个颇具挑战性的判断：一些看起来像是把无关概念混在一起的神经元，可能只是分析工具不够好、模型架构较旧，或相关特征沿着普通的泛化过程逐步延伸。他主张，研究者或许可以直接研究神经元，而不必先用另一个模型把特征“拆开”。不过，他报告的结果并不意味着神经网络、或模型整体行为，已经被彻底理解。51026

“递归泛化”是什么意思？

Cammarata提出的“递归泛化”（recursive generalization）假说是：一个神经元可能从响应某个特征，逐渐扩展到一系列相关特征，形成分支，而不是任意地把互不相关的概念塞在一起。一个语言模型例子从对字母组合“iy”有反应开始，延伸到“diy”，再到语义相关、却不含“iy”的“do it yourself”。如果把每种响应都看成彼此无关的任务，这种变化就可能显得像特征混杂。2610

这一解释挑战了研究者对“多义性”（polysemanticity）的常见理解——即同一个神经元似乎会对多个概念产生响应；它也让人重新思考，是否一定要先用稀疏自编码器等特征发现方法，才能读懂模型。但“递归泛化”本身并不能证明“叠加”（superposition）从未发生：它只是解释部分观测现象的一种可能，并非已经取代所有关于模型如何表示特征的理论。515

重新看待“猫脸与车头”神经元

InceptionV1视觉模型中一个著名例子，曾被认为会同时响应猫脸和汽车前部，因而看起来像是把两个无关类别放进同一个神经元。Cammarata的文章据报道将其重新解释为：神经元检测的可能是猫脸和车头共有的V形视觉特征，而不是分别表示“猫”和“汽车”。这让该案例不再是“任意混合”的确凿证据；但重新解释一个神经元，仍不足以回答整个模型如何表示特征。1012

现有资料没有提供足够细节，无法可靠复原Cammarata对其2020年“汽车到狗”电路案例的修订解释。因此，这里不能进一步判断该案例如何支持他的假说，只能说他的总体论点是：看似混杂的响应，可能存在共同或相关的解释。

他报告的可解释比例有多高？

Cammarata报告了一组视觉模型末层结果：使用2017年水平的工具时，InceptionV1末层约5%的神经元可解释；用改进工具分析同一网络，比例约为50%；采用现代正则化重新训练后约为70%；而使用相同数据训练、参数量相当的ConvNeXt，比例约为99%。这组结果提示，分析工具和模型架构都会影响神经元看起来有多容易理解。需要注意，这些数字描述的是末层的解释情况，不是研究者已经解释了模型全部计算过程的比例。31

对Qwen3-32B，Cammarata的初步审查估算，约90%的神经元响应方向有一个主要功能，通常还带有少量相关分支；约7%有两个相关功能；约2%至4%仍无法解释。这些数字指的是神经元响应方向，并不代表研究者已经理解语言模型的每个部件或每次决策。估算比例还会随弱激活的筛选阈值、研究哪些层，以及如何定义“一个功能”而变化。17

文章也被拿来与OpenAI一个自动化可解释性项目比较；据报道，那个项目解释了约1.7%的受检神经元。但这不是与Qwen3-32B结果的直接前后对照：两项工作研究的模型、工具和衡量方式都不同，因此不能把这个差距当成某项可控实验所证明的可解释性提升。912

AI智能体带来了什么？哪些细节仍不清楚？

相关报道将Cammarata使用现代智能体工具，视为他主张可以更大规模直接研究神经元的一部分依据。不过，现有资料没有说明“10万个归因图”具体如何生成、又如何用于得出结论，因此无法据此核实这一方法细节。356

语言模型的结果被描述为初步研究，整篇文章也明确属于工作假说。报道还称，配套技术论文当时尚未发布或仍待推出。现有资料无法证明这些结果已获独立复现，也不足以评估他对每项估算分别有多大把握。71234

为什么研究者意见不一？

Latent Space较为积极地介绍了这篇文章，认为智能体辅助分析对“多义神经元令直接研究难以推进”的看法提出了挑战。Google DeepMind研究员Neel Nanda则更谨慎：报道指出，他仍认为叠加现象可能存在，并提出弱激活也可能包含有意义的信息，例如记忆下来的事实。另有报道将他的质疑概括为：争议部分在于如何定义“一个功能”或“单义神经元”，而不只是是否接受Cammarata报告的观察结果。6353637

现有资料没有完整记录双方讨论，因而不足以证明他们在所有细节上的分歧或共识。例如，视觉模型上的结论能否推广到语言模型、仅分析神经元是否足以理解电路等问题，仍应视为开放议题，而不是已被这些比例数字解决。

更稳妥的结论

Cammarata最有力的主张是：神经网络看起来复杂，有时可能与研究者使用的工具和所分析的模型有关；许多单个神经元或许比早期研究所显示的更容易理解。他报告的视觉模型结果，以及对Qwen3-32B的初步审查，让这一假说值得关注。但这些结果并未证明叠加理论已被推翻、每个神经元都有单一明确功能，或理解神经元就等于理解整个模型。71012

Goodfire研究员Nick Cammarata在2026年10月15日发表的长文《Neural Networks Are Already Clean》，提出了一个颇具挑战性的判断：一些看起来像是把无关概念混在一起的神经元，可能只是分析工具不够好、模型架构较旧，或相关特征沿着普通的泛化过程逐步延伸。他主张，研究者或许可以直接研究神经元，而不必先用另一个模型把特征“拆开”。不过，他报告的结果并不意味着神经网络、或模型整体行为，已经被彻底理解。51026

“递归泛化”是什么意思？

Cammarata提出的“递归泛化”（recursive generalization）假说是：一个神经元可能从响应某个特征，逐渐扩展到一系列相关特征，形成分支，而不是任意地把互不相关的概念塞在一起。一个语言模型例子从对字母组合“iy”有反应开始，延伸到“diy”，再到语义相关、却不含“iy”的“do it yourself”。如果把每种响应都看成彼此无关的任务，这种变化就可能显得像特征混杂。2610

这一解释挑战了研究者对“多义性”（polysemanticity）的常见理解——即同一个神经元似乎会对多个概念产生响应；它也让人重新思考，是否一定要先用稀疏自编码器等特征发现方法，才能读懂模型。但“递归泛化”本身并不能证明“叠加”（superposition）从未发生：它只是解释部分观测现象的一种可能，并非已经取代所有关于模型如何表示特征的理论。515

重新看待“猫脸与车头”神经元

InceptionV1视觉模型中一个著名例子，曾被认为会同时响应猫脸和汽车前部，因而看起来像是把两个无关类别放进同一个神经元。Cammarata的文章据报道将其重新解释为：神经元检测的可能是猫脸和车头共有的V形视觉特征，而不是分别表示“猫”和“汽车”。这让该案例不再是“任意混合”的确凿证据；但重新解释一个神经元，仍不足以回答整个模型如何表示特征。1012

现有资料没有提供足够细节，无法可靠复原Cammarata对其2020年“汽车到狗”电路案例的修订解释。因此，这里不能进一步判断该案例如何支持他的假说，只能说他的总体论点是：看似混杂的响应，可能存在共同或相关的解释。

他报告的可解释比例有多高？

Cammarata报告了一组视觉模型末层结果：使用2017年水平的工具时，InceptionV1末层约5%的神经元可解释；用改进工具分析同一网络，比例约为50%；采用现代正则化重新训练后约为70%；而使用相同数据训练、参数量相当的ConvNeXt，比例约为99%。这组结果提示，分析工具和模型架构都会影响神经元看起来有多容易理解。需要注意，这些数字描述的是末层的解释情况，不是研究者已经解释了模型全部计算过程的比例。31

对Qwen3-32B，Cammarata的初步审查估算，约90%的神经元响应方向有一个主要功能，通常还带有少量相关分支；约7%有两个相关功能；约2%至4%仍无法解释。这些数字指的是神经元响应方向，并不代表研究者已经理解语言模型的每个部件或每次决策。估算比例还会随弱激活的筛选阈值、研究哪些层，以及如何定义“一个功能”而变化。17

文章也被拿来与OpenAI一个自动化可解释性项目比较；据报道，那个项目解释了约1.7%的受检神经元。但这不是与Qwen3-32B结果的直接前后对照：两项工作研究的模型、工具和衡量方式都不同，因此不能把这个差距当成某项可控实验所证明的可解释性提升。912

AI智能体带来了什么？哪些细节仍不清楚？

相关报道将Cammarata使用现代智能体工具，视为他主张可以更大规模直接研究神经元的一部分依据。不过，现有资料没有说明“10万个归因图”具体如何生成、又如何用于得出结论，因此无法据此核实这一方法细节。356

语言模型的结果被描述为初步研究，整篇文章也明确属于工作假说。报道还称，配套技术论文当时尚未发布或仍待推出。现有资料无法证明这些结果已获独立复现，也不足以评估他对每项估算分别有多大把握。71234

为什么研究者意见不一？

Latent Space较为积极地介绍了这篇文章，认为智能体辅助分析对“多义神经元令直接研究难以推进”的看法提出了挑战。Google DeepMind研究员Neel Nanda则更谨慎：报道指出，他仍认为叠加现象可能存在，并提出弱激活也可能包含有意义的信息，例如记忆下来的事实。另有报道将他的质疑概括为：争议部分在于如何定义“一个功能”或“单义神经元”，而不只是是否接受Cammarata报告的观察结果。6353637

现有资料没有完整记录双方讨论，因而不足以证明他们在所有细节上的分歧或共识。例如，视觉模型上的结论能否推广到语言模型、仅分析神经元是否足以理解电路等问题，仍应视为开放议题，而不是已被这些比例数字解决。

更稳妥的结论

Cammarata最有力的主张是：神经网络看起来复杂，有时可能与研究者使用的工具和所分析的模型有关；许多单个神经元或许比早期研究所显示的更容易理解。他报告的视觉模型结果，以及对Qwen3-32B的初步审查，让这一假说值得关注。但这些结果并未证明叠加理论已被推翻、每个神经元都有单一明确功能，或理解神经元就等于理解整个模型。71012