OpenAI正支持美國國會一套跨黨派的兩路並行方案:一方面改善生物數據及防禦基建,令社會較能偵測和應對由AI加劇的病原體風險;另一方面,要求能力最強的「前沿」AI模型接受獨立安全審查。要留意,OpenAI的支持屬政策立場,不等於這些法案已經立法。
1
OpenAI支持邊幾項措施?
《Web of Biological Data Act》:支持令生物數據更易使用及取得,供防禦性研究之用,包括協助識別、分析及應對經工程改造的生物威脅的工具。
1
《AI-Ready Bio-Data Standards Act》:支持為生物數據建立通用、可供機器讀取的標準。意思係讓用於生物安全的AI系統可採用可靠、可互通的數據,而非面對零散而難以整合的資料集。
1
《Scale Biology Act》:支持擴大生物研究和生物安全防禦所需的能力、數據與基建,希望提升偵測及應對合成病毒或生物武器威脅的能力;AI有可能降低製造這類威脅所需知識或設計協助的門檻。
1
《FRONTIER Act》的獨立評測條文:OpenAI支持眾議院跨黨派提案中,要求領先AI模型開發商採用獨立安全評測者的條文。核心並非只接受公司內部的安全聲明,而是由外部人士測試前沿模型有否危險能力,以及現有緩解措施是否足夠。
1
點解將「生物數據」同「模型評測」放埋一齊?
背後針對的是相連的兩種風險。AI可加快有益的生物學研究,但亦可能令惡意人士更容易取得相關知識或設計支援。這個憂慮已不再純屬假設:Anthropic曾表示,已發現並阻止有人嘗試利用其模型進行可能支援生物武器開發的惡意活動。
3
因此,前面三項生物法案偏向建立防線所需的數據、標準和研究能力;《FRONTIER Act》的條文則聚焦於AI開發商本身,要求對最先進模型加入外部檢驗。
OpenAI更大的監管取向
這次表態亦反映OpenAI由單靠自願承諾,轉向主張具約束力保障措施的立場:
- OpenAI首席科學家Jakub Pachocki曾呼籲,在充分保障措施出現前,業界應「自願放慢」AI開發速度。
3
- OpenAI行政總裁Sam Altman、Anthropic行政總裁Dario Amodei,以及Google DeepMind行政總裁Demis Hassabis,亦曾共同呼籲國會建立防範AI相關生物威脅的保障。
4
- 另外,OpenAI要求美國國會為最先進AI系統訂立強制、按能力分級的全國規則,涵蓋測試標準、獨立評估、網絡安全保護及事故通報。公司認為,隨着AI自主性提高、甚至可能加快AI自身研發,自願措施並不足夠。
2
簡單講,這批生物安全法案可視為OpenAI整體聯邦安全政策的一部分:既要在生物濫用風險周邊建立數據和防禦能力,亦要讓前沿模型開發商在全國層面接受測試、披露、保安保護和獨立驗證。
1
2