AI 若開始幫自己研發下一代，監管能否跟上？研究者呼籲提高透明度

這波監管呼聲，焦點不只是 AI 模型會不會變得更強，而是 AI 是否開始協助打造下一代 AI，形成可能加快研發步調的循環。來自 OpenAI、Anthropic、Meta 與 Microsoft 的研究領袖，希望政策制定者檢視這類自動化已進展到什麼程度，避免變化太快，讓有效監督更難跟上。23

研究者所說的「智能爆炸」，是一種可能的風險情境，不代表 AI 已經能在沒有人類引導下自行改良。政策上的核心問題，是如何衡量並管理 AI 在 AI 研究中的角色。114

AI 協助研發，為何可能形成加速循環？

AI 可以參與開發新模型所需的工作。如果這些協助讓研究者做出更強的系統，而新系統又能接手更多研發工作，每一輪進展就可能推動下一輪加速。這種概念常稱為「遞迴自我改進」：AI 協助改良打造 AI 的流程。15

研究者擔心的重點，是研發的「速度」可能改變。報導轉述的一種情境是，原本可能需要一年的進展，或許能在數週內發生。不過，這是預測情境，而非已測得的結果；現有來源並未證明研發已達到這種速度。314

一項較早的訪談研究訪問了 25 位前沿 AI 實驗室與學界研究者，發現不少人預期 AI 將能自動化 AI 研究，並形成正向回饋循環。這有助理解業界為何認真看待這種可能性，但並不代表智能爆炸必然發生。1

研究者希望政策制定者查明什麼？

眼前的訴求，是更清楚掌握企業在研發中使用 AI 的程度。超過 20 位 AI 領袖與研究者呼籲政策制定者檢視這方面的進展，並考慮為相關技術建立保障措施。2

這項呼籲不等於 AI 實驗室已把研究控制權交給 AI。更清楚了解 AI 在哪些環節、以何種方式參與研發，能幫助政策制定者評估：當系統承接更多開發工作時，現有監督是否足夠。23

為何有人主張放慢 AI 研發？

協調減速可能爭取時間，讓業界進行安全測試、獨立評估並建立更完善的監督機制，再因應能力變化。OpenAI 與 Anthropic 的研究者曾公開呼籲放慢發展；但也有業界領袖傾向由市場機制主導。這反映出業界對該減速多少、以及暫停實際上該如何執行，並無定論。818

減速還牽涉實務問題：哪些系統或活動要納入規範？由誰監督是否遵守？競爭中的企業又如何協調？相關報導指出，暫停的定義與執行方式目前仍不明確。

「緊急煞車」能解決多少問題？

Microsoft 總裁 Brad Smith 主張，AI 模型開發者、雲端基礎設施供應商，以及管理 AI 代理程式的人，都應有能力關閉系統。這種設計可視為緊急狀況下的煞車機制，但不能取代事前預防與持續監督。

關機機制也有其限制。AI 系統可能分布在多處基礎設施上，單一開關無法保證所有元件都停止運作；專家也指出，仍需要持續監測與人為介入。

商業利益與監督角色如何交織？

由開發者和雲端業者共同承擔監督責任，會帶來治理上的疑問：企業可能一方面建置或託管系統，一方面又負責監督。Microsoft 參與 AI 模型開發，Smith 的發言也顯示公司同時提供雲端服務。這種角色重疊，使獨立查核與明確規則更為重要；但單憑這點，不能推定任何公司的安全立場並非真心。2

更大的難題是如何協調。業界領袖對研發速度看法不一，而減速討論又發生在各家公司積極競爭開發與部署 AI 的環境中。若只有一家企業自願克制，其他業者仍快速前進，這種克制便可能難以維持。現有來源顯示業界意見分歧與競爭壓力，但不足以證明投資利益決定了個別研究者的立場。1218

對政策制定者而言，實際上有兩個相連的問題：如何追蹤 AI 在開發 AI 過程中的參與程度，以及如何讓安全措施可驗證，而不只依賴企業自行保證。這些警告足以支持現在就檢視問題，但尚未回答智能爆炸有多可能發生，也沒有確定哪種政策最有效。123