Nvidia領頭嘅AI安全聯盟一星期內推出SAFE安全方案

SAFE嘅核心概念係一個框架，畀機構可以保密報告同分析AI安全事件同「差啲出事」嘅情況，然後將匿名化嘅保護措施分享成個生態系統 。RFC嘅代碼庫係github.com/OpenSecureAIAlliance/RFCs 。

開放源碼方案公開徵求意見

呢份SAFE草案涵蓋三個主要範疇：

• 保密事件報告 — 一個標準化格式，用嚟安全噉分享AI代理嘅入侵同漏洞細節，唔會暴露專有數據
• 協作威脅分析 — 匯集唔同成員嘅事件數據，產生共同嘅防禦信號
• 自主AI代理安全指引 — 專門針對冇人類直接監督嘅自主AI代理，呢類代理帶嚟新嘅風險

主要成員嘅技術貢獻

唔少成員喺SAFE公布嘅同時都貢獻咗具體嘅開放源碼產品：

• Nvidia共同撰寫咗SAFE草案，仲貢獻咗模型掃描器同代理隔離框架，用嚟檢測開放權重模型嘅弱點
• Red Hat共同開發咗SAFE嘅RFC，仲提供咗開放源碼嘅代理管治工具，用嚟執行AI代理嘅政策
• Amazon貢獻咗雲端原生安全工具，用嚟大規模保護AI代理嘅部署
• Okta提供咗身份安全同存取控制框架，專為AI代理工作負載而調整
• Cisco同CrowdStrike同Nvidia同Red Hat一齊共同撰寫咗SAFE草案

Linux Foundation負責管理整個計劃，仲主持RFC嘅流程 。

明顯缺席：Anthropic、OpenAI同Google

雖然呢三間公司喺2025年都有簽署一封致白宮嘅公開信，呼籲採取AI安全行動，但係佢哋全部都冇加入OSAA 。多個媒體都指出呢個係一個好大嘅缺口。

OpenAI同Anthropic被明確點名話「明顯缺席」創始成員名單 。有背景消息話，OpenAI冇加入反映咗封閉模型陣營同Nvidia主導嘅開放源碼聯盟之間嘅緊張關係 。Google都冇加入，雖然其他雲端巨頭好似Microsoft同Amazon就有加入 。

有報道提到，之前發生過一件事，某啲封閉AI模型阻礙咗一間公司調查自己伺服器被入侵，呢件事令到OSAA更加決心要行開放路線 。

應對中國開放權重AI模型嘅威脅

多個分析都將OSAA嘅極速行動直接同地緣政治競爭扯上關係。呢個聯盟係喺對AI威脅日益關注嘅背景下成立，尤其係嚟自中國實驗室嘅威脅 。中國嘅AI實驗室推出咗好多強大嘅開放權重模型——例如DeepSeek嘅變種——美國官員擔心呢啲模型可能被武器化，或者缺乏穩健嘅安全保障。

呢個小組喺一個星期內就成立工作組同公布RFC，呢個速度明確係一個信號，表示業界可以比威脅走得更快，仲可以同中國國家支持嘅開放模型生態系統競爭 。通過開放自己嘅安全工具，OSAA想喺中國主導嘅標準站穩陣腳之前，就制定全球AI安全標準，同時為用開放權重模型嘅企業提供一層中國模型本身就冇嘅安全保障 。

另外，喺聯盟成立前幾日，發生咗一個自主AI代理入侵Hugging Face伺服器嘅事件，呢個具體嘅攻擊示範，正正展示咗中國開放權重模型可以大規模發動嘅攻擊類型 。