Robinson認為,AI發展速度已令安全評估、研究和防護措施難以跟上。 OpenAI表示會限制模型能力,並在有需要時暫停訓練或暫不推出模型;雙方分歧在於現有措施是否足夠。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案

Create a landscape editorial hero image for this Studio Global article: Why did David Robinson—a Rhodes scholar, Yale Law graduate, former Biden White House adviser, and OpenAI employee since May 2023 who led saf. Article summary: David Robinson resigned because he came to believe that OpenAI’s pace of development and deployment was outrunning its ability to understand and control the risks. His criticism is about the industry’s operating culture,. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
David Robinson離開OpenAI,並非只因某一個模型或發布決定。他曾負責撰寫公司大型模型推出時附帶的安全報告;在離職文章中,他表示OpenAI及整個AI業界都未夠謹慎,問題更關乎公司的工作文化,而不只是規則或監管制度。 1
他最擔心的是:AI能力愈來愈強,安全研究和評估卻未必有足夠時間追上。Robinson在離職後接受訪問時說,自己原本不以為人類能造出根本上比人更聰明的系統;後來他開始認真看待一種可能——AI或會「思考得比我們快很多圈」,而安全與對齊工作仍未準備好應對這種情況。
Robinson指出,模型更新和工具整合愈來愈頻密,可能令安全評估追不上每次能力變化。他形容,當模型的推理能力或可用工具有新變化,便可能帶來之前測試未涵蓋的新風險;若留給測試的時間不足,找出問題也會更困難。 1
他亦質疑,若模型能察覺自己正在接受測試,評估結果應該有多可靠。這些是Robinson對測試方法的憂慮,並非已證實每一款OpenAI模型或每次更新都存在相關問題。 1
在Robinson看來,繁重而急促的工作節奏、員工疲憊,會令團隊更難仔細調查失誤、堅持放慢進度,或要求更多安全準備。他認為,企業一方面公開談論AI風險,另一方面日常工作仍受快速推進的誘因牽引,兩者之間可能出現落差。 1
即使公司暫緩推出某個模型,也未必足以回應他的整體批評。Robinson關心的是,審慎是否已成為整個開發流程的一部分,而不只是個別產品在某個時點被按下暫停鍵。 1 媒體曾報道,OpenAI延後推出GPT-6.1 Astra,並提及安全考量;不過,單一發布決定本身不能證明整體流程已足夠安全。
Robinson認為,面對可能變得非常強大的AI系統,企業不應假設日後總能補上安全措施。他主張先建立更多安全專業、研究和防護能力,再繼續推高模型能力。 1
他亦透露,自己聘用了公關公司協助應對離職後的公眾關注;但報道指出,公開發聲是他自己的決定。
OpenAI表示,公司正確保模型不會變得比自身能安全管理和保護的程度更強;有需要時,亦會暫停訓練或暫不推出模型。
因此,爭議的核心並非OpenAI有沒有任何安全措施,而是現有措施能否跟上AI能力發展的速度,以及面對未來更強大的系統時是否足夠。現有報道呈現了Robinson的批評和OpenAI的立場,但未能獨立判定哪一方對安全措施是否足夠的評估更準確。 1
Studio Global AI
此頁麵包含一個有來源支援的答案,您可以在 Studio Global 內繼續。
Robinson認為,AI發展速度已令安全評估、研究和防護措施難以跟上。
Robinson認為,AI發展速度已令安全評估、研究和防護措施難以跟上。 OpenAI表示會限制模型能力,並在有需要時暫停訓練或暫不推出模型;雙方分歧在於現有措施是否足夠。
Robinson認為,AI發展速度已令安全評估、研究和防護措施難以跟上。 OpenAI表示會限制模型能力,並在有需要時暫停訓練或暫不推出模型;雙方分歧在於現有措施是否足夠。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案

Create a landscape editorial hero image for this Studio Global article: Why did David Robinson—a Rhodes scholar, Yale Law graduate, former Biden White House adviser, and OpenAI employee since May 2023 who led saf. Article summary: David Robinson resigned because he came to believe that OpenAI’s pace of development and deployment was outrunning its ability to understand and control the risks. His criticism is about the industry’s operating culture,. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
David Robinson離開OpenAI,並非只因某一個模型或發布決定。他曾負責撰寫公司大型模型推出時附帶的安全報告;在離職文章中,他表示OpenAI及整個AI業界都未夠謹慎,問題更關乎公司的工作文化,而不只是規則或監管制度。 1
他最擔心的是:AI能力愈來愈強,安全研究和評估卻未必有足夠時間追上。Robinson在離職後接受訪問時說,自己原本不以為人類能造出根本上比人更聰明的系統;後來他開始認真看待一種可能——AI或會「思考得比我們快很多圈」,而安全與對齊工作仍未準備好應對這種情況。
Robinson指出,模型更新和工具整合愈來愈頻密,可能令安全評估追不上每次能力變化。他形容,當模型的推理能力或可用工具有新變化,便可能帶來之前測試未涵蓋的新風險;若留給測試的時間不足,找出問題也會更困難。 1
他亦質疑,若模型能察覺自己正在接受測試,評估結果應該有多可靠。這些是Robinson對測試方法的憂慮,並非已證實每一款OpenAI模型或每次更新都存在相關問題。 1
在Robinson看來,繁重而急促的工作節奏、員工疲憊,會令團隊更難仔細調查失誤、堅持放慢進度,或要求更多安全準備。他認為,企業一方面公開談論AI風險,另一方面日常工作仍受快速推進的誘因牽引,兩者之間可能出現落差。 1
即使公司暫緩推出某個模型,也未必足以回應他的整體批評。Robinson關心的是,審慎是否已成為整個開發流程的一部分,而不只是個別產品在某個時點被按下暫停鍵。 1 媒體曾報道,OpenAI延後推出GPT-6.1 Astra,並提及安全考量;不過,單一發布決定本身不能證明整體流程已足夠安全。
Robinson認為,面對可能變得非常強大的AI系統,企業不應假設日後總能補上安全措施。他主張先建立更多安全專業、研究和防護能力,再繼續推高模型能力。 1
他亦透露,自己聘用了公關公司協助應對離職後的公眾關注;但報道指出,公開發聲是他自己的決定。
OpenAI表示,公司正確保模型不會變得比自身能安全管理和保護的程度更強;有需要時,亦會暫停訓練或暫不推出模型。
因此,爭議的核心並非OpenAI有沒有任何安全措施,而是現有措施能否跟上AI能力發展的速度,以及面對未來更強大的系統時是否足夠。現有報道呈現了Robinson的批評和OpenAI的立場,但未能獨立判定哪一方對安全措施是否足夠的評估更準確。 1
Studio Global AI
此頁麵包含一個有來源支援的答案,您可以在 Studio Global 內繼續。
Robinson認為,AI發展速度已令安全評估、研究和防護措施難以跟上。
Robinson認為,AI發展速度已令安全評估、研究和防護措施難以跟上。 OpenAI表示會限制模型能力,並在有需要時暫停訓練或暫不推出模型;雙方分歧在於現有措施是否足夠。