OpenAI表示,正支持一组仍在美国国会审议中的两党提案,目标是降低先进AI模型加剧生物武器和合成病毒风险的可能性。其立场可概括为两条线:一是补强生物安全所需的数据与科研基础;二是让能力最强的AI模型接受公司外部的安全检验。需要注意的是,这些提案尚未成为法律。
17
23
OpenAI支持哪些法案?
在生物数据和生物安全能力方面,OpenAI支持三项法案:
- 《Web of Biological Data Act》
- 《AI-Ready Bio-Data Standards Act》
- 《Scale Biology Act》
据报道,这组法案意在改善用于构建防御工具的生物数据获取条件,并为相关工具的安全开发建立标准,以应对合成或自然发生的生物威胁。OpenAI称,这些措施有助于防止AI模型加速生物武器和合成病毒威胁。
17
23
此外,OpenAI还支持美国众议院两党提出的**《FRONTIER法案》**中的一项具体条款:要求领先AI企业采用独立评估机构,对模型安全性进行评估。这里的支持对象是这一外部评估要求,并非对整部《FRONTIER法案》的全面背书。
35
39
为什么要把生物数据与AI外部评估放在一起?
这套政策思路针对的是两个相互关联的层面。
首先,识别和应对生物威胁,需要高质量、可获取且标准化的生物数据。上述三项生物数据法案,瞄准的正是这种防御性基础设施。
23
其次,模型开发商对自身安全性的判断,不应只依赖企业内部结论。OpenAI认为,可信的第三方评估可为前沿模型的关键能力及安全缓解措施提供额外证据,帮助发现盲区,并提升透明度。
8
9
换言之,这并非只讨论在模型发布后如何限制其使用,而是同时加强生物防御体系,并在高风险能力被大规模滥用前引入外部测试。
AI辅助生物滥用为何引发更多关注?
随着AI能力提升,外界担心它可能降低从事有害生物活动的知识与技术门槛。Anthropic曾表示,已识别并阻断可能支持生物武器研发的恶意使用其AI模型的行为。
19
另据报道,包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊和Google DeepMind首席执行官德米斯·哈萨比斯在内的多位AI行业高管,曾签署联名信,敦促美国国会要求对合成DNA和RNA订单采取保护措施。该倡议聚焦生物技术供应链中的关键环节——订单筛查与可追溯性。
20
这些事件并不意味着AI已经独立制造出生物武器。但它们说明,企业与政策制定者正同时关注模型本身的行为,以及支撑生物研究与制造的周边系统。
这与OpenAI更广泛的联邦监管主张有何关系?
此次生物安全法案背书,也是OpenAI推动美国建立全国性、以模型能力为基础的前沿AI监管框架的一部分。该公司在9月表示,希望与国会合作制定强制性的全国AI安全要求,并称AI加速AI研发的前景,意味着仅靠自愿承诺已不足够。
3
18
OpenAI提出的制度组成部分包括:风险评估、独立评估、网络安全保护,以及严重安全事件报告。
3
6
据BBC报道,OpenAI首席科学家雅库布·帕霍茨基也曾呼吁,在充分的安全保障到位前,行业应自愿放缓AI研发。
19
这项支持意味着什么,又不意味着什么?
OpenAI的近期政策立场可归纳为三点:
- 通过《Web of Biological Data Act》《AI-Ready Bio-Data Standards Act》和《Scale Biology Act》,强化生物安全数据和标准;
- 支持《FRONTIER法案》中的相关条款,推动头部AI开发商接受独立安全审查;
- 推动对前沿AI系统实施具有约束力的全国性规则,而不只依靠企业自愿承诺。
17
18
35
这是一种政策立场,不代表法案必然获得通过,也不能证明拟议措施能够彻底消除生物滥用风险。不过,它清楚表明:在OpenAI看来,AI与生物安全的交叉风险,既是生物学数据与防御基础设施的问题,也是前沿模型治理的问题。