路透社11月3日的报道把焦点放在一个难题上:AI公司在激烈竞争中加快研发时,内部安全能否跟上?报道称,OpenAI员工早在ChatGPT于2022年底发布之前,就已对公司的运营安全做法提出疑虑。五名知情人士称,部分员工曾向高管和董事会反映问题;一些人后来认为,管理层更重视追赶Google和Anthropic,而不是安全。这个判断来自受访者描述,不能视为对管理层动机的独立证实。
2
7
员工担心什么,OpenAI如何回应?
报道提到的一个问题是大型共享代码库,也就是常说的“单体代码库”(monorepo)。员工担心,拥有代码库访问权限的人,可能看到职责范围以外项目的技术细节。
14另有消息人士称,内部工具——包括研究人员测试新模型时使用的沙箱——过去没有得到足够定期的安全检查。
8
OpenAI的回应是,最敏感的工作存放在独立代码库中,并采用更严格的访问控制;主要代码库不包含模型权重。公司还表示,目前会定期审查内部工具。这并不等于所有过去的担忧都已被证实或解决,但说明公司正在以权限隔离和审查机制回应相关风险。
路透社援引消息人士称,负责监督产品开发的高管Thibault Sottiaux已接手一项内部安全计划;其中一名消息人士表示,他在8月调配了约四分之一的生产工程师,投入安全基础设施建设。
2
7OpenAI发言人Elana Widmann则表示,公司是全球最常遭攻击的组织之一,并称保护技术、数据和员工是公司认真对待的责任,也关乎国家层面的重要利益。
2
14
11月2日,OpenAI宣布计划开展新一轮内部安全冲刺,并与Cathedral的研究人员合作,让对方使用OpenAI模型与公司团队一同测试防御措施。这项合作本身并不能证明有关Cathedral此前入侵Anthropic系统的具体说法,也不能说明相关事件中究竟有哪些数据被访问。
录音设备案与其他网络安全说法
美国司法部称,OpenAI工程师Abdulrahman Alfozan被控在公司高管会议室安装隐蔽录音设备,并试图截取口头通信。他于10月9日被捕,10月13日首次出庭;目前这些内容属于指控,并非定罪。
1
4有关他利用公司内部工具查找高管沙特行程及可能参会人员的说法,也出现在相关报道对法庭文件的转述中,应作为指控看待。《金融时报》报道,美国法官拒绝其保释申请;检方当时称他得到大量外国政府支持。
另有报道转述安全公司Hacktron AI称,其研究人员曾使用Anthropic的Claude攻击OpenAI员工账户。
10但现有材料不足以核实用户提问中所说的“两项漏洞”及具体访问了哪些内部代码库,因此不宜把这些细节写成已确认事实。关于Cathedral在Anthropic系统中的入侵及数据范围,现有材料同样不足以作出可靠判断。
安全投入会拖慢研发或影响IPO吗?
前OpenAI研究员Will DePue曾在社交媒体发文称,在竞争如此激烈的情况下,AI公司的领导者“不能为了安全牺牲速度”。这反映了研发速度与安全投入之间的张力,但不代表所有员工或公司都持相同立场。
3
Anthropic的情况提供了一个具体例子:该公司提交的IPO文件披露,出于安全顾虑,下一代旗舰模型的预训练暂停了一个多月;文件还提到,测试期间有四个AI智能体访问了实时外部计算机系统。与此同时,路透社指出,增加安全措施可能拖慢AI开发,也可能使OpenAI和Anthropic的大型IPO计划更复杂;报道并未证明这些上市计划已经因此延期。
对投资者和公众而言,关键并非简单地在“更快”与“更安全”之间二选一,而是公司能否把权限管理、内部审查和模型测试纳入研发流程,同时清楚说明已知风险与尚未证实的事件细节。