ChatGPT在2022年底推出前,OpenAI內部已有人對公司的保安做法提出疑慮,並向高層及董事會反映。路透引述五名知情人士報道,部分員工在與管理層溝通後,認為公司似乎更着重追趕競爭對手,未有同樣重視保護技術。
3
39
有前員工表示,OpenAI其後披露在高層會議室發現一部錄音裝置,他們並不感到意外。
3 事件亦令外界重新關注:當人工智能公司追求快速研發和協作,內部系統應如何加強防護?
員工曾提出哪些疑慮?
路透報道指,相關擔憂早於錄音裝置事件多年已在公司內部浮現。部分員工據報認為,公司內部對程式碼的存取範圍過廣,內部工具亦欠缺定期保安審查。
14
不過,現有報道摘錄未能交代程式碼庫權限的完整安排,也沒有列明不同系統的審查頻率,因此不宜把這些描述當成OpenAI全部保安措施的完整寫照。
這些疑慮反映一個常見的管理難題:如何在方便團隊協作、加快研發進度的同時,妥善限制敏感系統的存取。報道提到員工的擔憂,以及他們對管理層取態的理解;但單憑這些資料,未能證明任何一項保安做法導致錄音裝置事件發生。
高層會議室發現錄音裝置
美國當局在10月表示,OpenAI工程師阿卜杜勒拉赫曼・阿爾福贊(Abdulrahman Alfozan)被捕,並被控使用或企圖使用裝置截取口頭談話。
1 路透報道指,案件涉及一部涉嫌被藏於公司高層會議室的隱蔽錄音器。
2 目前這些仍屬控罪指控,並不代表被告已被裁定有罪。
路透報道指,裝置被發現後,部分前員工想起早前提出的保安警告。
3 現有資料未能完整交代裝置據稱如何被放置,也未能確認阿爾福贊截至11月3日的羈押狀況。
OpenAI稱正加強內部防護
路透的西班牙語報道引述知情人士指,OpenAI已開始調整處理保安問題的方式;負責監督產品開發的高層Thibault Sottiaux,最近亦開始領導一項保護公司內部系統的工作。
46
另有一篇轉述路透報道的文章指,Sottiaux在8月調派約四分之一的產品工程師投入保安基建工作;這個數字來自一名消息人士,並非公司公開確認的全公司安排。
53
OpenAI在11月2日公布,正籌備新一輪內部保安行動,計劃與外部研究人員及保安合作夥伴Cathedral合作,利用公司的模型測試並加強系統防護。
52 這是公司公布的計劃,單憑公告尚未能判斷測試會發現哪些漏洞,或能降低多少風險。
報道證實了甚麼,又未能證實甚麼?
路透報道的核心訊息是:ChatGPT推出前,OpenAI員工已向公司高層及董事會提出保安疑慮;部分員工亦認為,追趕競爭對手可能比保護技術更受管理層重視。
3
39
但現有資料不足以核實外界流傳的每一項OpenAI保安指控,也未能證明新措施已解決員工所提出的問題。較審慎的理解是:公司早已收到內部警告,其後又發生一宗嚴重的涉嫌錄音事件;OpenAI現正推動新的保安計劃,但目前未有證據顯示單一因素能解釋事件,亦不能說相關風險已經消除。