前沿 AI 安全標準組織在談什麼？三大實驗室尚未成立「共同監管機構」

公開報導顯示，Anthropic、OpenAI 與 Google DeepMind 的確正朝一個核心方向靠攏：最強大的 AI 模型在公開發布前，不應只靠開發商自行檢查，而應接受外部審視。但現有資料並未證實三家公司已成立新的共同監管機構，也沒有證據顯示三方已就強制測試、稽核存取權、發布門檻或違規處罰達成具約束力的協議。811

這個差別不能混為一談。認同需要安全評估，不等於已建立一個有權執行規則的制度。

用白話說：目前提案是什麼？

報導指稱，三家公司自 2026 年 7 月起曾進行工作層級討論，目標是成立由業界主導的前沿 AI 標準組織。焦點似乎在於：模型對大眾發布前，使用一套共享機制評估其危險能力，尤其是網路攻擊、生物風險、欺騙，以及其他可能造成重大傷害的濫用情境。811

Google DeepMind 執行長 Demis Hassabis 提出的制度藍圖最具體。他主張建立由美國主導的「前沿 AI 標準組織」，參考美國金融業自律機構 FINRA 的模式：由產業出資、接受聯邦監督，並在模型發布前進行測試。方案初期採自願送測，待評估流程獲得驗證後，才可能轉為部署的必要條件。9

不過，公開紀錄尚未顯示各家實驗室已對真正決定制度效力的細節達成共識，包括：

• 哪些模型必須接受審查；
• 哪些技術評估必須納入；
• 外部評估者可取得多少系統與資料存取權；
• 什麼結果會導致模型發布被阻擋、延後或附加條件；
• 組織由誰出資、誰來治理；
• 評估者如何避免受受測公司影響；
• 政府監督與法律保障的範圍。

在這些問題有答案之前，把此事稱為已投入運作的「聯合監管機構」，仍是超出證據所能支持的說法。

三家公司真正一致的是：發布前要有獨立測試

Axios 於 7 月報導，Dario Amodei、Sam Altman 與 Demis Hassabis 大致支持讓前沿模型在面向公眾前接受外部檢視，而不是主要依賴公司自行申報。8

這個轉變很重要。前沿模型的安全不只取決於開發商有沒有做測試，也取決於獨立人士能否重現、挑戰或推翻這些測試結論。若要形成可信制度，至少須具備明確測項、可靠的系統存取，以及模型跨越風險門檻後的既定處置。

三家公司也都把問題放在國際競爭與跨境部署的脈絡下討論。若美國單方面收緊限制、其他國家的競爭者卻未面對相似約束，政治上將很難推動。Hassabis 的方案明確以美國領導為主；Amodei 則認為，能在全球部署的系統，無法只靠單一國家的防護措施處理。91

分歧在治理：自律、政府合作，還是真正有權力的監管？

三家公司雖都談安全，卻仍存在根本問題：這應是自願的產業框架、政府支持的制度，還是一個具有實質權限的監管者？

DeepMind 的構想是產業出資、聯邦監督，先自願、後續才可能讓審查成為部署前提。9

Amodei 的方案強調讓獨立評估人員進駐前沿 AI 實驗室，取得近似員工的存取權；他同時主張民主國家的公司在必要時應取得政府支持，協調共同標準。12

關於工作小組的報導則將 OpenAI 描述為願意推動產業行動、而非等待政府先建立完整框架的一方。11在 Amodei 發表文章後，OpenAI 執行長 Sam Altman 也公開支持讓獨立評估者取得近似員工的存取權。

這不是文字上的小差異。自願機制可以較快建立共同技術做法；但若缺乏獨立治理與公共權力，它未必能強制公司提供存取、裁決爭議、防止利益衝突，或阻止一家公司發布未通過安全審查的模型。

Frontier Model Forum 不是新監管機構已成立的證明

由多家大型 AI 公司參與的 Frontier Model Forum 已經存在，其公開目標包括推進安全研究、發展評估與最佳實務，以及與政策制定者和產業分享資訊。

它確實可能成為協調的場域，但這不代表新的獨立組織已經成立，也不代表跨公司的稽核制度具有強制力。關鍵仍在於，業者最終建立的是只產出指引的論壇，還是一個能獨立評估模型、並對發布附加實質條件的機構。

Amodei 的文章為何讓爭論升溫

9 月 12 日，Anthropic 執行長 Dario Amodei 發表約 3,800 字的文章《We Must Pace the Frontier》，主張應放慢 AI 能力提升速度，讓安全實務有時間追上。52

他警告，在未來 6 至 12 個月內，更強大的自動化 AI 代理人群可能具備接管網際網路的能力。這應被理解為一項預測與風險警告，而非已經確立的技術事實。513

他的三項主張包括：

1. 讓獨立評估人員進駐前沿 AI 實驗室，取得近似員工的存取權，以測試系統、找出安全失效並評估合規性。12
2. 民主國家的 AI 公司協調共同安全標準與限制，並在必要時獲得政府支持。216
3. 追求更廣泛的國際協調，包括與威權政府協作，因為先進模型及其風險都可跨境部署。115

Anthropic 表示將提供第三方評估者長期、員工等級的系統存取權。這比一次性的外部測試承諾更深入，但其可信度仍取決於：誰挑選評估者、他們可檢視什麼、是否能公開發現，以及發現不可接受風險後會如何處理。122

真正的考題：誰來監督造規則的人？

批評者最核心的疑慮很直接：這些競相開發最強系統的公司，也可能同時參與撰寫、管理與詮釋規則。

一個安全機構若要取得信任，需要獨立的技術領導、透明的評估方法、防止企業影響的制度保障、有意義的政府監督，以及面對未通過評估時能採取行動的明確權力。否則，共享標準可以改善做法，卻未必構成真正獨立的問責制度。

Future of Life Institute 的 2026 年夏季 AI 安全指數也反映了這種疑慮：Anthropic 得到 C+、OpenAI 得到 C、Google DeepMind 得到 C，沒有受評實驗室高於 C+。17

美國參議員 Bernie Sanders 認為「放慢」還不夠，主張暫停先進 AI 開發並禁止人工超級智慧。這比幾家實驗室提出的方案嚴格得多，但也凸顯了自願性減速與可執行限制之間的落差。

接下來應觀察什麼？

有意義的進展，不會只是再一次原則宣示，而是能落地的制度承諾，例如：

• 公開的治理章程；
• 已具名且獨立的評估者；
• 標準化的能力與濫用風險測試；
• 稽核存取與資訊揭露規則；
• 清楚的發布門檻與補救要求；
• 對「安全評估結果能否延後或阻止部署」給出明確答案。

目前最穩妥的結論是：主要前沿 AI 實驗室正在討論共同的安全基礎設施，也愈來愈支持外部測試；但這些討論最終會形成獨立且可執行的標準機構，還是自願性的產業論壇，仍未有定論。8911