SAFE 想解決什麼問題？

AI 資安目前常見的困境是：一家企業發現攻擊、系統失效或「近失事件」後，其他面臨類似風險的組織可能完全不知道，也無法及時吸取教訓。

SAFE 草案聚焦於四項相互關聯的做法：

• 以機密方式收集與分析 AI 資安事件及近失事件；
• 在事件與其他組織有關時，通知受影響的單位；
• 找出安全控制措施與防護流程中反覆出現的失效模式；
• 以不究責、以證據為本的方式整理經驗，供整個生態系統參考。

理想情況下，這套機制能把個別的提示注入、資料外洩或失控代理人事件，轉化為更廣泛的防禦情報，而不是讓每家公司各自重新摸索同一種攻擊。

OSAA 建構的是安全堆疊，而非單一產品

SAFE 只是 OSAA 計畫的一部分。聯盟同時整合多項開放原始碼、可檢視的技術，分別處理 AI 代理人安全的不同層面。

目前報道提到的成員貢獻包括：

• **Nvidia：**開放權重模型系列、限制代理人可存取或執行哪些操作的 OpenShell 執行環境控制工具，以及代理人測試與稽核工具；其 Garak 開放原始碼掃描器則可檢測資料外洩、提示注入與越獄等風險。
• **Okta：**運用 Cross App Access 協定的代理人身分與存取權限參考實作，目標是在更受控的環境中，讓代理人連接企業應用程式。
• **Red Hat：**開放原始碼治理專案 asago，旨在把組織政策連結到執行環境中的權限，建立從政策到控制措施的可稽核路徑。
• **Amazon：**開放原始碼代理人建構與評估工具組 Strands Agents，以及授權語言 Cedar。
• **其他成員：**包括 Agent Guard、Agent Watch 等以身分安全為核心的專案，反映出代理人安全不只是掃描模型本身，還涉及身分、權限、執行框架、執行行為、評估、資料、治理與韌性。

整體來看，這些專案涵蓋 AI 代理人從身分驗證到執行控制的多個環節。若未來能進一步整合，企業或許可取得一套較一致的開放工具，用來限制及監控代理人，包括行為惡意或超出原定範圍的代理人。

不過，這仍是可能的發展方向，而非已經驗證的成果。

哪些企業加入？哪些公司仍缺席？

報道指 OSAA 在成立首週便聚集超過 120 個組織。被點名的主要參與者包括 Nvidia、Adobe、BlackRock、Cisco、CrowdStrike、Hugging Face、Intel、Microsoft、Red Hat 與 Visa；Amazon 則被描述為較新的成員。

OSAA 的成立背景，與 7 月 24 日發布的一封公開信有關。當時，25 家公司呼籲美國政策制定者避免對開放權重 AI 模型施加廣泛或過早的限制。公開信認為，限制可下載模型可能削弱競爭，並在華府思考如何回應中國 AI 系統的國家安全問題時，將使用者推向中國 AI 模型。

在 Black Hat 相關報道發布時，Anthropic、OpenAI 與 Google 都被列為 OSAA 的明顯缺席者。 不過，這裡需要區分 OSAA 與那封政策公開信的成員名單：不同報道對後續簽署名單的描述並不一致，有報道稱 OpenAI 與 Google 後來加入公開信，也有報道指兩家公司不在最初名單之中。

現有資料沒有說明這些公司未加入 OSAA 的原因，因此不宜替它們的缺席推定動機。

為什麼「一週內有成果」值得關注？

OSAA 的核心主張是，開放與安全不一定互相矛盾。若模型、工具、評估方法與事件經驗能被更多防守者檢視，研究人員與企業便更容易重現漏洞、理解失效原因，並調整防禦措施。

SAFE 試圖在透明度與保密性之間取得平衡：事件收集與分析階段保持機密，讓參與者更有意願通報；在此基礎上，再把不涉及敏感細節的通用經驗分享給更廣泛的生態系統。

OSAA 的跨產業組成也可能協助模型開發商、雲端及基礎設施供應商、身分管理公司、資安企業與企業使用者建立共同介面和做法。若這些努力能成熟，開放式 AI 系統或許會更容易被企業評估、控制和負責任地部署。

這也可能支持「開放權重 AI 是美國競爭力議題」的政策論述，尤其是在美國持續討論如何面對中國 AI 實驗室之際。但截至目前，OSAA 尚未證明自己已提升美國競爭力，或降低系統性的 AI 風險。

目前較具體、可衡量的進展是：一個擁有 120 多個成員的聯盟，已從開放式 AI 倡議與政策遊說，進一步提出協調 AI 資安事件通報的公開草案；其成員也正在提供可能逐步形成互通防禦層的工具。

SAFE 想解決什麼問題？

AI 資安目前常見的困境是：一家企業發現攻擊、系統失效或「近失事件」後，其他面臨類似風險的組織可能完全不知道，也無法及時吸取教訓。

SAFE 草案聚焦於四項相互關聯的做法：

• 以機密方式收集與分析 AI 資安事件及近失事件；
• 在事件與其他組織有關時，通知受影響的單位；
• 找出安全控制措施與防護流程中反覆出現的失效模式；
• 以不究責、以證據為本的方式整理經驗，供整個生態系統參考。

理想情況下，這套機制能把個別的提示注入、資料外洩或失控代理人事件，轉化為更廣泛的防禦情報，而不是讓每家公司各自重新摸索同一種攻擊。

OSAA 建構的是安全堆疊，而非單一產品

SAFE 只是 OSAA 計畫的一部分。聯盟同時整合多項開放原始碼、可檢視的技術，分別處理 AI 代理人安全的不同層面。

目前報道提到的成員貢獻包括：

• **Nvidia：**開放權重模型系列、限制代理人可存取或執行哪些操作的 OpenShell 執行環境控制工具，以及代理人測試與稽核工具；其 Garak 開放原始碼掃描器則可檢測資料外洩、提示注入與越獄等風險。
• **Okta：**運用 Cross App Access 協定的代理人身分與存取權限參考實作，目標是在更受控的環境中，讓代理人連接企業應用程式。
• **Red Hat：**開放原始碼治理專案 asago，旨在把組織政策連結到執行環境中的權限，建立從政策到控制措施的可稽核路徑。
• **Amazon：**開放原始碼代理人建構與評估工具組 Strands Agents，以及授權語言 Cedar。
• **其他成員：**包括 Agent Guard、Agent Watch 等以身分安全為核心的專案，反映出代理人安全不只是掃描模型本身，還涉及身分、權限、執行框架、執行行為、評估、資料、治理與韌性。

整體來看，這些專案涵蓋 AI 代理人從身分驗證到執行控制的多個環節。若未來能進一步整合，企業或許可取得一套較一致的開放工具，用來限制及監控代理人，包括行為惡意或超出原定範圍的代理人。

不過，這仍是可能的發展方向，而非已經驗證的成果。

哪些企業加入？哪些公司仍缺席？

報道指 OSAA 在成立首週便聚集超過 120 個組織。被點名的主要參與者包括 Nvidia、Adobe、BlackRock、Cisco、CrowdStrike、Hugging Face、Intel、Microsoft、Red Hat 與 Visa；Amazon 則被描述為較新的成員。

OSAA 的成立背景，與 7 月 24 日發布的一封公開信有關。當時，25 家公司呼籲美國政策制定者避免對開放權重 AI 模型施加廣泛或過早的限制。公開信認為，限制可下載模型可能削弱競爭，並在華府思考如何回應中國 AI 系統的國家安全問題時，將使用者推向中國 AI 模型。

在 Black Hat 相關報道發布時，Anthropic、OpenAI 與 Google 都被列為 OSAA 的明顯缺席者。 不過，這裡需要區分 OSAA 與那封政策公開信的成員名單：不同報道對後續簽署名單的描述並不一致，有報道稱 OpenAI 與 Google 後來加入公開信，也有報道指兩家公司不在最初名單之中。

現有資料沒有說明這些公司未加入 OSAA 的原因，因此不宜替它們的缺席推定動機。

為什麼「一週內有成果」值得關注？

OSAA 的核心主張是，開放與安全不一定互相矛盾。若模型、工具、評估方法與事件經驗能被更多防守者檢視，研究人員與企業便更容易重現漏洞、理解失效原因，並調整防禦措施。

SAFE 試圖在透明度與保密性之間取得平衡：事件收集與分析階段保持機密，讓參與者更有意願通報；在此基礎上，再把不涉及敏感細節的通用經驗分享給更廣泛的生態系統。

OSAA 的跨產業組成也可能協助模型開發商、雲端及基礎設施供應商、身分管理公司、資安企業與企業使用者建立共同介面和做法。若這些努力能成熟，開放式 AI 系統或許會更容易被企業評估、控制和負責任地部署。

這也可能支持「開放權重 AI 是美國競爭力議題」的政策論述，尤其是在美國持續討論如何面對中國 AI 實驗室之際。但截至目前，OSAA 尚未證明自己已提升美國競爭力，或降低系統性的 AI 風險。

目前較具體、可衡量的進展是：一個擁有 120 多個成員的聯盟，已從開放式 AI 倡議與政策遊說，進一步提出協調 AI 資安事件通報的公開草案；其成員也正在提供可能逐步形成互通防禦層的工具。