推动这一改变的“审批疲劳”

Anthropic的内部遥测数据显示，用户批准了97%的权限提示——无论命令本身有多危险 。这一近乎全票通过的审批率并非源于仔细评估，而是习惯性的点击通过，尤其是在长时间的会话中，提示疲劳迅速加剧 。在对照研究中，人类的拒绝率本已低至 13.6%，在50次以上提示后更降至约 5% ，证实了逐条审批模型随时间的严重退化 。

1053人研究：89%自动拦截 vs. 人类拒绝率

• 人类拦截率： 在一项针对1053名付费专业测试者的双盲测试中，一个被植入的危险命令仅有 13.6% 的几率被人类拒绝（1053人中仅143人拒绝）。在50次提示后，这一比率降至约5% 。
• 自动模式拦截率： 分类器拦截了相同植入危险命令的 89% 。
• 在生产环境中，手动审批的会话出现意外危害的频率是自动模式会话的两倍 。

剩余风险：11%的漏报率与零提示注入拦截

• 11%漏报率： 分类器未能阻止约11%的危险命令 。
• 合成对抗性评估： 第三方红队演练进一步降低了分类器的漏报率，但未能完全消除 。该系统在测试中未拦截任何提示注入攻击，但这可能反映的是测试设计本身，而非普遍性的免疫缺陷 。
• 边缘情况： 高度新颖或经过混淆处理的恶意命令，如果超出分类器的训练分布，仍然构成剩余风险 。

护栏与覆盖机制

• 分类器会独立评估每次工具调用——自动模式并非一揽子授权许可 。
• 用户可随时在会话中切换回手动审批模式 。
• 团队和企业管理员可为整个组织固定默认模式（手动或自动），覆盖用户级别的默认设置 。
• Anthropic的外部红队计划持续对分类器进行探测和强化 。
• 对于企业账户，自动模式目前仍为选择加入，预计在初始推出后约一个月内会切换为默认 。

各细分市场的推出与定价影响

关键定价说明： Anthropic确认已停止向这些计划的用户收取自动模式消耗的额外分类器代币费用——这些成本现已纳入现有订阅中 。

推动这一改变的“审批疲劳”

Anthropic的内部遥测数据显示，用户批准了97%的权限提示——无论命令本身有多危险 。这一近乎全票通过的审批率并非源于仔细评估，而是习惯性的点击通过，尤其是在长时间的会话中，提示疲劳迅速加剧 。在对照研究中，人类的拒绝率本已低至 13.6%，在50次以上提示后更降至约 5% ，证实了逐条审批模型随时间的严重退化 。

1053人研究：89%自动拦截 vs. 人类拒绝率

• 人类拦截率： 在一项针对1053名付费专业测试者的双盲测试中，一个被植入的危险命令仅有 13.6% 的几率被人类拒绝（1053人中仅143人拒绝）。在50次提示后，这一比率降至约5% 。
• 自动模式拦截率： 分类器拦截了相同植入危险命令的 89% 。
• 在生产环境中，手动审批的会话出现意外危害的频率是自动模式会话的两倍 。

剩余风险：11%的漏报率与零提示注入拦截

• 11%漏报率： 分类器未能阻止约11%的危险命令 。
• 合成对抗性评估： 第三方红队演练进一步降低了分类器的漏报率，但未能完全消除 。该系统在测试中未拦截任何提示注入攻击，但这可能反映的是测试设计本身，而非普遍性的免疫缺陷 。
• 边缘情况： 高度新颖或经过混淆处理的恶意命令，如果超出分类器的训练分布，仍然构成剩余风险 。

护栏与覆盖机制

• 分类器会独立评估每次工具调用——自动模式并非一揽子授权许可 。
• 用户可随时在会话中切换回手动审批模式 。
• 团队和企业管理员可为整个组织固定默认模式（手动或自动），覆盖用户级别的默认设置 。
• Anthropic的外部红队计划持续对分类器进行探测和强化 。
• 对于企业账户，自动模式目前仍为选择加入，预计在初始推出后约一个月内会切换为默认 。

各细分市场的推出与定价影响

关键定价说明： Anthropic确认已停止向这些计划的用户收取自动模式消耗的额外分类器代币费用——这些成本现已纳入现有订阅中 。