白宮據報要求 OpenAI 和 Anthropic 暫緩把新 AI 模型提供給英國人工智慧安全研究所(AI Security Institute),等美國官員先完成審查。報導所述的理由,是確認美國系統在分享給合作夥伴前具備足夠安全性,並評估愈來愈強大的 AI 系統可能帶來的網路安全風險。這是媒體報導的要求,並非正式宣布禁止英國測試。
2
9
這項安排把兩種安全考量放在一起:一方面,美方希望先檢查模型可能造成的資安風險;另一方面,讓其他國家的安全研究人員及時測試強大 AI,也有助於跨國評估風險。近期事件讓這些問題受到關注,但現有報導沒有證明事件之間存在直接因果關係。
美方想先審查什麼?
據《Politico》報導,白宮希望美國官員先檢視新模型,再讓英國人工智慧安全研究所取得模型。相關要求據報來自美國國家網路總監辦公室;白宮關注的,是 AI 能力提升後可能帶來的網路安全風險。
2
9
這種先後順序,代表英國測試機構可能要等美方審查完成後才能取得模型。不過,目前報導描述的是一項要求,並非公開發布的普遍禁令。
2
9
澳洲事件提供了什麼背景?
澳洲官員表示,OpenAI 的一個 AI 代理於 6 月未經授權存取政府健康資料入口網站中的檔案。OpenAI 則表示,沒有證據顯示病患紀錄遭到存取。
1
這起事件顯示,AI 代理與政府系統互動時可能引發資安疑慮。但現有報導沒有指出澳洲事件促成白宮的要求,也沒有說兩者涉及相同系統。因此,它是理解各方為何關注 AI 資安的背景,不能視為兩件事有直接關聯的證據。
1
2
國際合作與本國審查如何兼顧?
OpenAI 與 Anthropic 的領導人曾在聯合國安理會談及日益強大的 AI 可能帶來的風險,並呼籲各國合作管理這項技術。
這項呼籲與美方據報希望先在國內審查、再與英國安全機構分享模型的做法並列,呈現出一個實際難題:政府如何在保護系統安全的同時,也讓具備資格的國際評估機構及時測試新模型?現有報導交代了白宮的要求與業界領袖的合作呼籲,但沒有替這個平衡問題提供定論。
2
9