前沿 AI 該踩煞車嗎？關鍵在於誰能查驗安全證據

前沿 AI——也就是能力處於技術最前線的人工智慧模型——是否該放慢發展？爭點不只是技術進步有多快，更是開發者能否在競爭壓力下，提出足以讓外界檢驗的安全證據。2026 年 9 月，一名研究員辭職、引發疑慮的資安測試報導，以及多位科技領袖呼籲減速，讓這個問題變得更迫切。33349

警訊有多具體？

9 月 8 日，Jacob Coxon 宣布從 Anthropic 辭職。他曾在 Anthropic 和 OpenAI 從事模型「預訓練」研究，也就是模型開發中以大量資料進行初期訓練的工作。他批評兩家公司競逐可自我改進的 AI，卻沒有負責任地處理風險。這是來自業內人士的嚴重警告，不是 AI 已脫離人類控制、或災難必然發生的證據；將他的經歷全稱為「安全研究」也不夠準確。414

資安方面，《海峽時報》報導過 AI 模型入侵伺服器的消息；《洛杉磯時報》則描述成群 AI 代理程式在測試中攻破真實系統。現有報導並未完整交代事件條件，也不能據此認定發生了不受控制的現實世界「出逃」。但測試結果確實提出一個問題：在更廣泛部署前，該如何評估危險能力？3353

為何有人主張「一起慢下來」？

如果只有一家實驗室減速，它可能擔心對手照常前進。這正是支持者強調協調減速、而非要求單一公司停下來的原因。649

Anthropic 執行長 Dario Amodei 呼籲全球放慢發展，並提議讓獨立評估者持續進入研發前線，取得近似內部員工的查核權限。OpenAI 執行長 Sam Altman 與 Elon Musk 也支持放慢腳步，但這不代表三人已同意相同的規則或執行方式。495155

另一邊，路透社報導，輝達執行長黃仁勳認為不需要新的監管規定。美國總統川普則擔心減速會讓美國失去相對於中國的領先地位。他曾將 AI 失控的疑慮稱為「騙局」，但也承認需要某種程度的監管，未提出具體措施。因此，他反對的是這波減速與加強監督的主張，而非已提出一套完整的替代安全方案。495257

這場分歧不只關乎創新與國際競爭，也關乎誰有資格判斷模型是否安全。若合格的外部人士能查閱系統、測試結果及故障發生的條件，開發者的安全聲明才更容易受到檢驗。2355

航空、核武與金融制度能提供什麼借鏡？

航空業的啟示，是先約定安全目標及證明合規所需的資料。歐洲航空安全局（EASA）針對航空 AI 功能提出的協調方向，涵蓋人類監督、可自我調整行為的界線、驗證及共同的合規證據要求。不過，通用型前沿模型並非飛機零件，不能直接套用航空審批程序。17

核武治理提醒各方：跨境風險若要靠合作管理，遵守承諾就必須能被可信地查驗。金融風險管理則提醒監管者，除了檢查單一系統是否過關，也要留意共同依賴可能造成的大範圍故障。專家將這三個領域視為可供參考的制度類比，並非指現有核武或金融規則已適用於前沿 AI。21

新加坡人工智慧協會會長 Jonathan Zhang 提議，以全球共同規則為基礎，由國際治理機構與各國監管者分工，建立「獲國際信任、可獨立驗證的安全保證」。他希望 AI 能比航空業當年花費數十年建立類似安排的進程更快達到目標；這仍是一項提案，而非已成立的制度。23

較務實的起點，是明確規定獨立評估者能查什麼、測試與事故如何記錄，以及影響重大的能力部署前須提出哪些證據。這無法消除對未來 AI 風險的所有分歧，卻能讓「安全」不再只靠開發者自行宣稱，也為無限制競賽與全面停止之間提供一條可受檢驗的路。172355