OpenAI 表態支持一組仍在美國國會審議、獲兩黨支持的提案,目標是減低先進人工智能(AI)加速生物武器或合成病毒威脅的可能性。其主張可概括為兩條線:一邊補強生物安全所需的數據與研究基礎,另一邊要求能力最強的 AI 模型接受公司以外的安全檢驗。要留意,這些只是待審法案,未經立法生效。
17
23
OpenAI 實際支持甚麼?
OpenAI 支持以下三項聚焦生物數據與生物安全能力的法案:
- Web of Biological Data Act
- AI-Ready Bio-Data Standards Act
- Scale Biology Act
報道指出,這組提案旨在改善研究人員取得生物數據的渠道,讓社會可開發工具來防禦合成及自然出現的生物威脅,同時為這類工具的安全開發建立標準。OpenAI 表示,目的之一是避免 AI 模型加劇生物武器及合成病毒的威脅。
17
23
另外,OpenAI 支持美國眾議院跨黨派 FRONTIER Act 裏的一項特定條文:要求主要 AI 公司讓獨立評測員檢視模型安全。公司支持的是這項外部評測規定,而不是對整項 FRONTIER Act 作全面背書。
35
39
點解生物數據同 AI 外部評測要一齊處理?
這套立法思路其實處理兩層風險。
第一層是防禦能力。要及早識別和應對生物威脅,研究機構需要高質素、可使用的生物數據,以及一致標準。三項生物數據法案正是針對這些防禦基建。
23
第二層是模型本身。AI 開發商對自身模型安全的說法,不應只靠內部驗證。OpenAI 認為,由可信的第三方作評測,可為前沿模型的能力與安全緩解措施提供額外證據,有助找出盲點,並提高透明度。
8
9
換句話說,政策焦點不只是模型推出後如何限制使用,亦包括事前建立更強的生物防線,以及在危險能力被大規模濫用前,做好獨立測試。
背後是對 AI 輔助生物濫用的憂慮
這些支持行動出現之際,外界愈來愈關注強大 AI 會否降低從事有害生物活動的門檻。Anthropic 曾表示,已識別並阻止有人惡意使用其 AI 模型,而相關活動可能支援生物武器研發。
19
此外,多名大型 AI 實驗室行政總裁,包括 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei,以及 Google DeepMind 的 Demis Hassabis,據報曾聯署去信國會,要求為訂購合成 DNA 和 RNA 設立保障措施。
20 這項呼籲聚焦生物科技供應鏈的一個關鍵環節:訂購篩查及可追溯性。
以上發展並不等於 AI 已經自行製造出生物武器;但它說明為何公司與政策制定者同時關注模型行為,以及讓生物工作得以進行的周邊系統。
同 OpenAI 推動聯邦 AI 安全規則有何關係?
這次對生物安全提案的支持,是 OpenAI 較大規模聯邦政策主張的一部分。公司在 9 月表示,希望與國會合作,建立強制、按模型能力分級的全國 AI 安全規則;其理由是,AI 加速 AI 研發的前景,已不可以只靠企業自願承諾。
3
18
OpenAI 曾提出,一套具問責性的安全制度可包括風險評估、獨立檢驗、網絡安全保障,以及嚴重安全事故通報等措施。
3
6
據 BBC 報道,OpenAI 首席科學家 Jakub Pachocki 亦曾呼籲,在充分保障措施到位前,業界應自願放慢 AI 研發步伐。
19
對公眾而言,這代表甚麼?
OpenAI 現時支持的是一個分層處理方式:
- 透過 Web of Biological Data Act、AI-Ready Bio-Data Standards Act 與 Scale Biology Act,改善生物安全數據及標準;
- 透過其支持的 FRONTIER Act 條文,要求主要 AI 開發商接受獨立安全評測;
- 推動對前沿 AI 建立具約束力的全國規則,而非只依賴公司自願守則。
17
18
35
不過,支持法案不代表法案必然會通過,也不代表相關措施可以完全消除生物濫用風險。較清楚的是,OpenAI 將 AI 生物安全視為兩件必須並行的事:既要有足夠的生物防禦基建,亦要對最先進 AI 模型建立更嚴格的管治與外部監察。