路透社报道,ChatGPT于2022年底发布前,OpenAI内部已有员工对公司的安全做法提出疑虑,并将担忧告知高层和董事会。报道援引五名知情人士称,部分前员工后来听说公司在高管会议室发现录音设备时,并不感到意外。
3
员工曾提出哪些担忧?
路透社的报道显示,相关安全疑虑在发现录音设备之前就已在公司内部出现。一些员工与管理层沟通后认为,公司管理层更重视跟上竞争对手的步伐,而非保护公司的技术。
3
39
另一份对路透社报道的梳理提到,员工曾担心公司代码的访问范围过广,内部工具也缺少定期安全审查。
14不过,目前可见的报道摘录没有完整说明代码仓库的权限设置,也没有交代具体系统接受审查的频率,因此不宜将这些信息视为对OpenAI全部安全措施的完整描述。
这类争议的核心,是如何在协作效率和快速开发的同时,管好敏感系统的访问权限。现有报道呈现的是员工的担忧以及管理层被指重视的事项;仅凭这些信息,不能认定某项具体安全做法导致了录音设备事件。
会议室录音设备事件
美国当局10月宣布,OpenAI工程师阿卜杜勒拉赫曼·阿尔福赞(Abdulrahman Alfozan)被捕并被控使用或试图使用设备截取口头通信。
1路透社报道称,此案涉及一台据称被藏在高管会议室的隐蔽录音设备。
2目前所述为指控,并不等于法院已认定其有罪。
路透社报道,设备被发现后,一些前员工想起了自己此前提出的安全警告。
3现有来源没有完整说明设备据称被放置的经过,也未交代截至11月3日阿尔福赞的羁押状态。
OpenAI据报采取的安全应对
路透社西班牙语报道说,OpenAI已开始调整安全策略;两名知情人士称,负责产品开发的高级管理人员蒂博·索蒂奥(Thibault Sottiaux)近期牵头一项保护公司内部系统的工作。
46另一份对相关报道的转述称,索蒂奥在8月将约四分之一的生产工程师调去负责安全基础设施;这一具体数字来自一名消息人士,并非公司对外确认的全员安排。
53
11月2日,OpenAI还宣布启动新一轮内部安全冲刺。公司表示,将与外部研究人员及安全合作伙伴Cathedral合作,利用其模型测试并加强自身系统。
52这项公告介绍的是一项计划,并不能单独证明测试将发现哪些漏洞,或能把风险降低多少。
报道说明了什么,又没有说明什么?
路透社报道的核心信息是:ChatGPT发布前,OpenAI内部已经有人提出安全担忧,并向高层和董事会反映。
3报道也指出,快速开发与加强安全管控之间可能存在张力。
39
目前可见的来源并未核实外界对OpenAI安全做法提出的所有说法,也没有证明新措施已经解决员工曾提到的问题。较为审慎的结论是:公司内部曾有持续一段时间的警告,之后发生了一起严重的录音设备指控事件,而OpenAI正在采取包括新安全计划在内的应对措施。现有证据不足以证明某一个因素能够解释这起事件,也不能说明相关风险已被消除。