「審批疲勞」點樣促成呢個改變

Anthropic嘅內部Telemetry顯示，用戶批咗97%嘅權限提示——無論個指令有幾危險 。呢個接近100%嘅審批率反映嘅唔係仔細評估，而係習慣性㩒制，特別係長時間Session入面，審批疲勞好快出現 。喺對照研究入面，人類拒絕率由本來已經好低嘅13.6%，喺超過50次提示之後跌到大約5%，證實逐個審批嘅模式越用越差 。

1,053人研究：Auto Mode 89%攔截率 vs 人類13.6%

• 人類攔截率： 一個涉及1,053位受薪專業測試員嘅雙盲測試入面，一個植入嘅危險指令只係畀人攔到13.6%（143人拒絕）。喺50次提示之後，跌到大約5% 。
• Auto Mode攔截率： 分類器攔到同一個植入危險指令嘅89% 。
• 實際上線環境入面，人手審批Session產生非預期損害嘅機會係Auto Mode嘅兩倍 。

殘餘風險：11% Miss率同埋Zero Prompt Injection攔截

• 11% Miss率： 分類器有大約11%嘅機會Block唔到危險指令 。
• 合成對抗性評估： 第三方紅隊演練進一步降低咗分類器嘅Miss率，但冇辦法完全消除 。系統喺測試入面攔唔到任何Prompt Injection攻擊，不過呢個可能係測試設計嘅問題，並唔代表佢一概免疫 。
• 邊緣情況： 一啲前所未見或者經過精心混淆嘅惡意指令，如果超出分類器訓練數據嘅分佈範圍，仍然存在殘餘風險 。

安全機制同Override方法

• 分類器會獨立評估每個Tool Call——Auto Mode 唔係一次過批晒所有權限 。
• 用戶可以喺Session入面隨時Switch返Manual Approval模式 。
• Team同Enterprise管理員可以為成個組織Pin一個預設模式（Manual或者Auto），Overwrite用戶級別嘅預設 。
• Anthropic嘅外部紅隊計劃會繼續測試同強化分類器 。
• Enterprise帳戶暫時係Opt-in，預計大約一個月後會轉做預設 。

各計劃嘅推出安排同價格影響

重點價格提示： Anthropic確認已經停止向呢啲計劃嘅用戶收取Auto Mode消耗嘅額外分類器Token費用——呢啲成本而家已經包含喺現有訂閱入面 。

「審批疲勞」點樣促成呢個改變

Anthropic嘅內部Telemetry顯示，用戶批咗97%嘅權限提示——無論個指令有幾危險 。呢個接近100%嘅審批率反映嘅唔係仔細評估，而係習慣性㩒制，特別係長時間Session入面，審批疲勞好快出現 。喺對照研究入面，人類拒絕率由本來已經好低嘅13.6%，喺超過50次提示之後跌到大約5%，證實逐個審批嘅模式越用越差 。

1,053人研究：Auto Mode 89%攔截率 vs 人類13.6%

• 人類攔截率： 一個涉及1,053位受薪專業測試員嘅雙盲測試入面，一個植入嘅危險指令只係畀人攔到13.6%（143人拒絕）。喺50次提示之後，跌到大約5% 。
• Auto Mode攔截率： 分類器攔到同一個植入危險指令嘅89% 。
• 實際上線環境入面，人手審批Session產生非預期損害嘅機會係Auto Mode嘅兩倍 。

殘餘風險：11% Miss率同埋Zero Prompt Injection攔截

• 11% Miss率： 分類器有大約11%嘅機會Block唔到危險指令 。
• 合成對抗性評估： 第三方紅隊演練進一步降低咗分類器嘅Miss率，但冇辦法完全消除 。系統喺測試入面攔唔到任何Prompt Injection攻擊，不過呢個可能係測試設計嘅問題，並唔代表佢一概免疫 。
• 邊緣情況： 一啲前所未見或者經過精心混淆嘅惡意指令，如果超出分類器訓練數據嘅分佈範圍，仍然存在殘餘風險 。

安全機制同Override方法

• 分類器會獨立評估每個Tool Call——Auto Mode 唔係一次過批晒所有權限 。
• 用戶可以喺Session入面隨時Switch返Manual Approval模式 。
• Team同Enterprise管理員可以為成個組織Pin一個預設模式（Manual或者Auto），Overwrite用戶級別嘅預設 。
• Anthropic嘅外部紅隊計劃會繼續測試同強化分類器 。
• Enterprise帳戶暫時係Opt-in，預計大約一個月後會轉做預設 。

各計劃嘅推出安排同價格影響

重點價格提示： Anthropic確認已經停止向呢啲計劃嘅用戶收取Auto Mode消耗嘅額外分類器Token費用——呢啲成本而家已經包含喺現有訂閱入面 。