OpenAI 表示，未來將支援獨立組織在前沿人工智慧模型的訓練、評估與部署各階段，更早進行技術安全評估，而非只在接近發布時才接受外部測試。其目標是讓外部機構取得足以檢驗安全主張、找出盲點，並確認緩解措施是否有效的存取條件。5

這比常見的「發布前紅隊測試」走得更前一步。不過，公開的方案仍是一套自願性框架，不是外部許可制度，也沒有規定發現重大風險後必須停止部署。因此，它是否有實質作用，仍取決於評估者能接觸哪些資訊、是否真正獨立，以及公司對嚴重發現必須承擔什麼後果。

第三方將評估什麼？

OpenAI 將第三方評估定位為：獨立檢驗前沿模型能力、風險與防護措施相關主張背後的證據。公司表示，評估工作應在訓練、評估與部署各環節獲得深入存取。5

相關報導指出，優先事項之一，是獨立檢視 AI 實驗室的「安全論證」（safety case），範圍涵蓋訓練、內部部署與對外部署。該框架也列出四個評估領域與七項執行原則；實驗室可在結果公開前取得時間補救問題，並可要求刪節部分內容。2

提早介入之所以重要，是因為若只在開發末期才審查，發現問題時，許多技術與商業決策可能已難回頭。然而，早期存取也可能讓外部人員接觸敏感模型權重、能力資訊與測試材料，因而帶來真實的資安限制。

OpenAI 所列的四項可信條件

OpenAI 認為，第三方評估要有效，必須具備四項核心條件：強而有力的獨立機制、科學嚴謹性、健全的安全實務，以及明確責任分工。5

1. 獨立性

如果開發商能指定方法、在結果不利時縮限存取，或因不滿結論而停止資助，這種評估便很難稱為獨立。獨立性不只取決於評估者是否在公司外部，還包括治理方式、資金來源、工作範圍與對外溝通權。

一個評估者聯盟也主張，可信的評估必須有實質獨立性：評估機構不應受被評公司控制，且應有權公開主要結論，只接受範圍狹窄且明確定義的刪節。1734

2. 科學嚴謹性

評估需要合格的人員、有效的方法，以及可供檢視或重現的證據。生命未來研究所（Future of Life Institute）的《AI 安全指數》指出，業界需改善評估方法與獨立性，不能停留在零散、效度偏弱的任務型測試，而應引入具可信度的外部評估者。812

3. 安全與資安

讓外部人員更早接觸前沿系統，本身也可能製造風險。OpenAI 表示，開發者須在保護敏感資訊的同時，讓外界能進行有意義的檢視。5 安全控管應避免不必要的暴露，但也不該成為阻礙評估或隱匿重要發現的籠統理由。

4. 責任與問責要清楚

可信的制度必須清楚界定：誰提供存取權、誰決定方法、誰接收結果、誰判定緩解措施是否足夠，以及重大問題未解決時如何處理。若沒有清楚的回報與升級機制，評估很可能只淪為管理層可私下忽略的建議。

與「對齊」及遞迴自我改進風險有何不同？

第三方評估是一種監督與驗證機制，不是解決 AI 對齊問題的技術方案。它要檢驗的是：公司對風險及緩解措施的說法，是否有足夠證據支持。

OpenAI 另一份聯邦政策藍圖則提出，前沿 AI 開發商應評估並降低資安能力、CBRN（化學、生物、放射性與核）風險、失控、失對齊，以及邁向遞迴自我改進（RSI）的風險；同時公開安全框架與透明度報告，但可基於資安與商業機密進行適當刪節。7

在這個脈絡下，外部評估者可協助驗證開發商的測試和防護是否可信；但僅靠外部評估，無法單獨解決失控、失對齊或 RSI 所帶來的問題。

OpenAI 與 Anthropic「嵌入式評估者」模式的差別

Anthropic 執行長 Dario Amodei 倡議更持續的做法：讓第三方評估者以近似員工的方式，長期進駐前沿 AI 實驗室。這些人不只檢視完成的模型，也會接觸訓練流程、部署實務、內部防護及重大安全事件。1821

Anthropic 已宣布由埃森哲（Accenture）人員進駐，檢視模型與公司實務，並正與其他組織討論試行方案。Anthropic 也承認，評估者的存取標準與溝通規則尚未建立。1922

OpenAI 的新框架與此目標重疊，都是希望讓外界更早、更深入地檢視安全問題；但其公開說明著重於跨開發階段的技術評估。它是否會提供嵌入式監督所要求的持續存取，仍有許多執行細節未公開。5

為何業界共同標準也是焦點？

報導顯示，Anthropic、OpenAI 與 Google DeepMind 曾討論建立共同的自願性 AI 安全標準組織。20 若能形成共通標準，或可讓不同實驗室的評估方法更容易比較，並協助界定風險門檻與事故通報的共同期待。

但標準組織不會自動消除利益衝突，也不會自動帶來執法權。自願標準若要有份量，仍須搭配透明衡量、獨立驗證，以及不遵守時可產生實際影響的機制。

批評者為何仍不放心？

批評者不一定反對外部測試；他們質疑的是：由公司設計與掌控的安排，能否構成真正的外部監督。疑慮在於，開發商可能仍有權挑選評估者、控制存取範圍、延後工作、要求刪節，或即使結果不佳仍繼續部署。

主要爭點包括：

• 資金與制度獨立性： 評估者須免受財務壓力，也不能因提出不利結論就被終止合作。1734
• 及時且充分的存取： 測試必須能及早接觸相關模型、系統與開發決策，才可能影響結果。
• 公開發現的自由： 基於安全理由的刪節可能合理，但範圍應有限，且不能讓公司壓下不利結果的核心內容。217
• 升級機制與後果： 當風險超過門檻，評估結果須能送達真正的決策者，並有預先界定的回應方式。

前 OpenAI 研究員 Daniel Kokotajlo 曾批評主要實驗室為追逐市占而快速推進，反映競爭與財務壓力可能使自願延後部署的代價很高。3640 問題具有結構性：若公司仍可單方面決定存取、公開與部署，第三方審查或許能改善證據品質，卻未必能成為真正獨立的監督。

重點結論

OpenAI 的提案把安全評估前移到訓練與部署決策仍可能被改變的階段。其提出的四項支柱——獨立性、嚴謹性、安全與明確責任——確實是合理的基準。5

真正的考驗在於，這些原則會否轉化為可落實、不能隨意撤回的運作條件：長期的評估者存取權、方法自主性、受保障的報告權、透明的刪節程序，以及針對嚴重發現採取行動的可信機制。若缺少這些保障，早期外部評估仍可能很有價值，但更接近加強版紅隊測試，而非批評者所要求的獨立監督。

OpenAI 表示，未來將支援獨立組織在前沿人工智慧模型的訓練、評估與部署各階段，更早進行技術安全評估，而非只在接近發布時才接受外部測試。其目標是讓外部機構取得足以檢驗安全主張、找出盲點，並確認緩解措施是否有效的存取條件。5

這比常見的「發布前紅隊測試」走得更前一步。不過，公開的方案仍是一套自願性框架，不是外部許可制度，也沒有規定發現重大風險後必須停止部署。因此，它是否有實質作用，仍取決於評估者能接觸哪些資訊、是否真正獨立，以及公司對嚴重發現必須承擔什麼後果。

第三方將評估什麼？

OpenAI 將第三方評估定位為：獨立檢驗前沿模型能力、風險與防護措施相關主張背後的證據。公司表示，評估工作應在訓練、評估與部署各環節獲得深入存取。5

相關報導指出，優先事項之一，是獨立檢視 AI 實驗室的「安全論證」（safety case），範圍涵蓋訓練、內部部署與對外部署。該框架也列出四個評估領域與七項執行原則；實驗室可在結果公開前取得時間補救問題，並可要求刪節部分內容。2

提早介入之所以重要，是因為若只在開發末期才審查，發現問題時，許多技術與商業決策可能已難回頭。然而，早期存取也可能讓外部人員接觸敏感模型權重、能力資訊與測試材料，因而帶來真實的資安限制。

OpenAI 所列的四項可信條件

OpenAI 認為，第三方評估要有效，必須具備四項核心條件：強而有力的獨立機制、科學嚴謹性、健全的安全實務，以及明確責任分工。5

1. 獨立性

如果開發商能指定方法、在結果不利時縮限存取，或因不滿結論而停止資助，這種評估便很難稱為獨立。獨立性不只取決於評估者是否在公司外部，還包括治理方式、資金來源、工作範圍與對外溝通權。

一個評估者聯盟也主張，可信的評估必須有實質獨立性：評估機構不應受被評公司控制，且應有權公開主要結論，只接受範圍狹窄且明確定義的刪節。1734

2. 科學嚴謹性

評估需要合格的人員、有效的方法，以及可供檢視或重現的證據。生命未來研究所（Future of Life Institute）的《AI 安全指數》指出，業界需改善評估方法與獨立性，不能停留在零散、效度偏弱的任務型測試，而應引入具可信度的外部評估者。812

3. 安全與資安

讓外部人員更早接觸前沿系統，本身也可能製造風險。OpenAI 表示，開發者須在保護敏感資訊的同時，讓外界能進行有意義的檢視。5 安全控管應避免不必要的暴露，但也不該成為阻礙評估或隱匿重要發現的籠統理由。

4. 責任與問責要清楚

可信的制度必須清楚界定：誰提供存取權、誰決定方法、誰接收結果、誰判定緩解措施是否足夠，以及重大問題未解決時如何處理。若沒有清楚的回報與升級機制，評估很可能只淪為管理層可私下忽略的建議。

與「對齊」及遞迴自我改進風險有何不同？

第三方評估是一種監督與驗證機制，不是解決 AI 對齊問題的技術方案。它要檢驗的是：公司對風險及緩解措施的說法，是否有足夠證據支持。

OpenAI 另一份聯邦政策藍圖則提出，前沿 AI 開發商應評估並降低資安能力、CBRN（化學、生物、放射性與核）風險、失控、失對齊，以及邁向遞迴自我改進（RSI）的風險；同時公開安全框架與透明度報告，但可基於資安與商業機密進行適當刪節。7

在這個脈絡下，外部評估者可協助驗證開發商的測試和防護是否可信；但僅靠外部評估，無法單獨解決失控、失對齊或 RSI 所帶來的問題。

OpenAI 與 Anthropic「嵌入式評估者」模式的差別

Anthropic 執行長 Dario Amodei 倡議更持續的做法：讓第三方評估者以近似員工的方式，長期進駐前沿 AI 實驗室。這些人不只檢視完成的模型，也會接觸訓練流程、部署實務、內部防護及重大安全事件。1821

Anthropic 已宣布由埃森哲（Accenture）人員進駐，檢視模型與公司實務，並正與其他組織討論試行方案。Anthropic 也承認，評估者的存取標準與溝通規則尚未建立。1922

OpenAI 的新框架與此目標重疊，都是希望讓外界更早、更深入地檢視安全問題；但其公開說明著重於跨開發階段的技術評估。它是否會提供嵌入式監督所要求的持續存取，仍有許多執行細節未公開。5

為何業界共同標準也是焦點？

報導顯示，Anthropic、OpenAI 與 Google DeepMind 曾討論建立共同的自願性 AI 安全標準組織。20 若能形成共通標準，或可讓不同實驗室的評估方法更容易比較，並協助界定風險門檻與事故通報的共同期待。

但標準組織不會自動消除利益衝突，也不會自動帶來執法權。自願標準若要有份量，仍須搭配透明衡量、獨立驗證，以及不遵守時可產生實際影響的機制。

批評者為何仍不放心？

批評者不一定反對外部測試；他們質疑的是：由公司設計與掌控的安排，能否構成真正的外部監督。疑慮在於，開發商可能仍有權挑選評估者、控制存取範圍、延後工作、要求刪節，或即使結果不佳仍繼續部署。

主要爭點包括：

• 資金與制度獨立性： 評估者須免受財務壓力，也不能因提出不利結論就被終止合作。1734
• 及時且充分的存取： 測試必須能及早接觸相關模型、系統與開發決策，才可能影響結果。
• 公開發現的自由： 基於安全理由的刪節可能合理，但範圍應有限，且不能讓公司壓下不利結果的核心內容。217
• 升級機制與後果： 當風險超過門檻，評估結果須能送達真正的決策者，並有預先界定的回應方式。

前 OpenAI 研究員 Daniel Kokotajlo 曾批評主要實驗室為追逐市占而快速推進，反映競爭與財務壓力可能使自願延後部署的代價很高。3640 問題具有結構性：若公司仍可單方面決定存取、公開與部署，第三方審查或許能改善證據品質，卻未必能成為真正獨立的監督。

重點結論

OpenAI 的提案把安全評估前移到訓練與部署決策仍可能被改變的階段。其提出的四項支柱——獨立性、嚴謹性、安全與明確責任——確實是合理的基準。5

真正的考驗在於，這些原則會否轉化為可落實、不能隨意撤回的運作條件：長期的評估者存取權、方法自主性、受保障的報告權、透明的刪節程序，以及針對嚴重發現採取行動的可信機制。若缺少這些保障，早期外部評估仍可能很有價值，但更接近加強版紅隊測試，而非批評者所要求的獨立監督。