Nvidia 開放安全 AI 聯盟一週內推出 SAFE 安全草案

SAFE 的核心概念是建立一個框架，讓組織能夠以機密方式回報並分析 AI 安全事件與未遂事故，然後將匿名化後的防護措施分享給更廣泛的生態系 。該 RFC 的程式碼庫託管於 github.com/OpenSecureAIAlliance/RFCs 。

開放原始碼草案釋出

SAFE 的初始草案涵蓋三大領域：

• 機密事件回報：制定標準化格式，用於安全地分享 AI 代理被入侵或存在漏洞的細節，同時不暴露專有資料
• 協作威脅分析：建立機制以匯總成員間的事件資料，並生成共享的防禦信號
• 自主 AI 代理安全指南：為在無人直接監督下運作的自主 AI 代理制定特定規則，以應對其帶來的新型風險

主要成員的技術貢獻

在宣布 SAFE 的同時，多家成員也貢獻了具體的開源技術：

• Nvidia 共同起草了 SAFE 草案，並貢獻了模型掃描器與代理隔離框架，用於檢測開放權重模型中的漏洞
• Red Hat 共同開發了 SAFE RFC，並提供了開源的代理治理工具，用於對 AI 代理執行策略
• Amazon 貢獻了雲端原生的安全工具，用於大規模保護 AI 代理的部署
• Okta 提供了專為 AI 代理工作負載調整的身分安全與存取控制框架
• Cisco 與 CrowdStrike 與 Nvidia 和 Red Hat 共同起草了 SAFE 草案

Linux 基金會負責管理整個計畫，並主持 RFC 流程 。

值得注意的缺席者：Anthropic、OpenAI 與 Google

儘管這三家公司曾在 2025 年簽署一封致白宮的公開信，呼籲採取 AI 安全行動，但它們都未加入 OSAA 。多家媒體都指出這是個明顯的缺口。

OpenAI 和 Anthropic 被明確點名為創始成員中「明顯缺席」的公司 。根據背景資訊，OpenAI 的缺席反映出封閉模型陣營與 Nvidia 主導的開源聯盟之間的緊張關係 。Google 也未加入，儘管其他雲端巨頭如 Microsoft 和 Amazon 都已加入 。

報導指出，先前發生過一起事件，某未具名公司的封閉 AI 模型阻礙了另一家公司調查其自身被入侵的伺服器，這起事件成為 OSAA 採取開放式作法的主要動機 。

應對中國開放權重 AI 模型威脅

多項分析將 OSAA 的驚人速度直接與地緣政治競爭聯繫起來。該聯盟的成立正值人們對 AI 威脅（尤其是來自中國實驗室的威脅）日益擔憂之際 。中國的 AI 實驗室已發布強大的開放權重模型，美國官員擔心這些模型可能被武器化或缺乏穩健的安全護欄。

該聯盟在一週內就成立了工作小組並發布了 RFC，此舉被明確定位為一種信號，表明業界能夠比威脅情勢的演變更快行動，並與中國官方支持的開放模型生態系統競爭 。透過將其自身的安檢工具開源，OSAA 旨在於中國主導的標準站穩腳跟之前，搶先制定 AI 安全的全球標準，並為使用開放權重模型的企業提供中國模型本身並不具備的安全層 。

該聯盟的成立也受到數天前一起具體事件的催化：一個自主 AI 代理入侵了 Hugging Face 的伺服器。這起事件具體展示了中國開放權重模型可能大規模發動的攻擊類型 。