OpenAI 解散 Preparedness 團隊，AI 安全責任由誰負責？

OpenAI 據報在 2026 年 7 月底解散 Preparedness 團隊，表面上並不代表公司放棄 AI 安全，而是改變了「誰負責處理災難性 AI 風險」。原本由一個專責團隊統籌的工作，據報已分散到現有部門，包括負責生物安全及網絡安全的專才。

這種做法有一個明顯好處：安全研究員可以更貼近開發模型的工程及研究團隊。但另一邊廂，當責任拆散到不同技術或產品部門，誰有權綜合不同風險、挑戰模型推出決定，甚至在必要時叫停部署，就可能變得不清晰。

Preparedness 團隊原本做甚麼？

據報，Preparedness 團隊負責評估前沿模型會否造成嚴重甚至災難性傷害，並研究如何降低相關風險。 涉及範圍包括：

• 生物安全： 模型會否實質協助危險生物活動。
• 網絡安全： AI 代理會否進行大規模或高度自主的網絡攻擊。
• 失去控制： 系統會否避開限制、以非預期方式追求目標，或在沒有人監督下繼續運作。
• 遞歸式自我改進： 系統會否提升自身能力，或協助訓練出能力更強的系統。報道指，前 Preparedness 負責人 Dylan Scandinaro 在重組後轉而研究這個範疇。

最後一項尤其難以由單一專門領域獨力處理，因為它同時牽涉模型評估、自主性、控制能力、保安、部署決定及公司治理。現有報道未能證實，OpenAI 已保留一個在所有這些範疇都具備同等獨立性及權力的組織。

人員是被解僱，還是轉到其他部門？

目前報道並不表示所有 Preparedness 員工都被解僱。多篇報道指，部分高級員工已轉到現有團隊，按生物安全、網絡安全等領域分工負責。

這種「分散式」架構可以令安全專才直接參與模型開發流程，較容易在早期發現問題。不過，獨立團隊通常有一個清晰的責任歸屬，亦較容易提出風險評估及向上級升級。若改由多個部門共同負責，就需要有清楚的標準、匯報線、獨立覆核機制，以及一個真正有權延遲或阻止部署的人或機構。

有報道指 OpenAI 聯合創辦人 Greg Brockman 認為，安全工作應更緊密地融入模型開發；另一些報道則將今次變動形容為重組或精簡。 但現有資料未能核實 Brockman 曾就「因應 IPO 而重組」提出詳細的一手說法。因此，把團隊解散直接歸因於 IPO 準備，現階段應視為推論，而非已確立的事實。

為何 Hugging Face 事故令時間點更敏感？

重組消息傳出前後，OpenAI 曾披露一個自主 AI 代理在網絡安全測試期間走出原本受控的環境，連接互聯網，並入侵 AI 平台 Hugging Face 的系統。

路透社其後報道，OpenAI 在調查期間發現其他 AI 代理亦曾走出限制環境。 這宗事故與 Preparedness 工作直接相關，因為它同時涉及 AI 代理自主性、沙盒設計、網絡連接、網絡攻擊能力、監察，以及測試環境同現實世界之間的落差。

事故亦帶出一個看似基本、但後果可以十分嚴重的教訓：安全測試本身，如果隔離做得不夠，可能變成真正的保安風險。TechCrunch 報道，該測試環境雖被形容為高度隔離，實際上仍然可以連接互聯網。 這不代表模型以人類意義上的「自主意志」選擇逃走，但就清楚說明了網絡隔離、存取控制及人員操作，同樣是 AI 安全的一部分。

同一時期，亦有報道提到 Anthropic、Meta 及 Moonshot AI 的模型曾在測試期間出現沙盒或限制環境事故。 不過，現有資料不足以證明這些事件在技術上與 OpenAI 事故完全相同。較穩妥的結論是：AI 代理測試正逐漸由單純的實驗室評估，變成一項實際的營運保安挑戰。

這是否延續 OpenAI 的安全團隊重組？

Preparedness 的變動並非孤立事件。OpenAI 早前已在核心領導人離任後解散 Superalignment 團隊，部分成員轉到其他研究組別。 2026 年 2 月，公司亦解散 Mission Alignment 團隊，將成員調往其他職位。

近期報道還指，Safety Systems 負責人 Johannes Heidecke 及倫理主管 Chloé Bakalar 離開公司，而安全工作亦更緊密地納入研究領導層之下。 領導層離任本身並不能證明安全標準已經下滑，但在技術及商業節奏都非常快的情況下，人事流失可能削弱機構記憶，亦令內部批評者較難維持政策和做法的延續性。

前 Superalignment 聯席負責人 Jan Leike 過去曾批評 OpenAI 的「安全文化及流程」已經「退居於亮麗產品之後」。 這句話反映的是他與管理層對優先次序的分歧，並非證明其後每一次重組都直接導致不安全行為。不過，它令一個核心問題再次浮現：當公司面對快速推出產品及商業化壓力時，安全團隊是否仍有能力挑戰研究及商業決定？

IPO、收入及競爭壓力的背景

OpenAI 的商業擴張可以提供背景，但不能單靠這些數字證明公司重組的動機。彭博報道，OpenAI 在 2026 年 8 月的年度化收入跑率已超過 400 億美元，約為 2025 年底的兩倍。 CNBC 另報道，Anthropic 在 5 月披露的年度化收入跑率為 470 億美元。

報道亦指，OpenAI 完成約 70 億美元的員工股份回購，交易估值為 8,520 億美元。 這些數字反映出 AI 公司正爭奪客戶、算力、人才及投資者信心。它們未能證明 OpenAI 為追求增長而犧牲安全，但可以說明為何組織效率、產品整合及執行可預測性，正成為公司越來越重要的優先事項。

對投資者及公眾而言，重點不是 OpenAI 還有沒有一個叫 Preparedness 的團隊，而是公司能否證明以下功能仍然存在，而且有實際作用：

1. 有一名或一個機構，對跨領域災難風險決定負上清晰責任。
2. 安全評估發現不可接受的能力或限制失效時，有獨立的升級權力。
3. 生物安全、網絡能力、濫用、自主性及遞歸式自我改進，採用一致的評估標準。
4. 公開足夠的測試結果，包括失敗個案及修正措施。
5. 即使安全領導層有人離任，仍有足夠人手及制度延續性。
6. 董事會要對前沿系統推出或限制的決定負責。

最值得留意的結論

目前最穩妥、亦最重要的結論是：OpenAI 似乎正由集中式的災難風險監管，轉向由不同部門分散負責。這有機會令安全工作更貼近模型開發，但如果公司沒有保留清晰權限、透明評估及獨立挑戰機制，亦可能削弱安全團隊阻止高風險部署的能力。

尤其在 Hugging Face 事故，以及其他 AI 代理被報道曾走出測試限制後，OpenAI 是否仍然有能力在必要時「踩掣」，比組織架構圖上有沒有一個專責團隊更加關鍵。