面對AI末日警告，新加坡更關心：誰來查核、誰能叫停？

AI會不會在十年內威脅人類存續？2026年9月，這個問題因研究員辭職而再次升溫。但新加坡AI業界提出的回應更著眼於眼前：**讓外部人士查核安全措施，並在系統取得資料與行動權限前設下界線。**這不是否認長期風險，而是把不確定的警告轉化為可執行的責任。732

警告為何再次引發關注？

曾任職OpenAI與Anthropic的研究員Jacob Coxon辭去Anthropic職務，指控兩家公司不負責任地競逐能自我改進的超級人工智慧。Anthropic研究員Evan Hubinger公開認同他的憂慮，並表示自己估計AI在未來十年導致人類滅絕的機率「超過10%」。這是Hubinger的個人判斷，不是量測結果，也不能據此認定災難迫在眉睫。34

Anthropic執行長Dario Amodei於9月12日呼籲放慢開發；他的提案也包括讓第三方評估者取得必要權限，核查安全措施與相關溝通是否落實，並通報事件。討論的重點因此不只是「風險有多大」，還包括「外部究竟能查證什麼」。1332

獨立查核能做到什麼？

測試無法保證未來所有AI系統都安全，卻能找出現有系統的限制。新加坡於2022年推出的AI Verify工具，可用於評估AI結果的公平性、穩健性與可解釋性；AI測試人員認證計畫則旨在建立測試能力。這些工具是查核的起點，不是永久有效的安全證書。1933

獨立查核也不能只靠供應商說「內部測試已過」。評估者需要足夠的查核途徑；導入AI的企業，在讓模型接觸自身資料與工作流程前，也需要供應商提供透明資訊和控制方式。即使能取得模型權重，也不等於能看清訓練決策、過往故障或防護措施。3234

這並非主張任何開發都不能放慢。有參與討論的新加坡專家認為，若開發者無法妥善控制系統，或解釋重大風險如何管理，就應暫停該項活動。以具體風險作為停下來的條件，與不分用途地全面暫停，是兩回事。32

AI代理上線前，先劃清權限

AI代理不只回答問題，還可能使用工具、跨工作流程執行任務；因此，誰授權它、它能接觸哪些資料，以及出錯時能否追查，都必須在部署前釐清。新加坡資訊通信媒體發展局（IMDA）於2026年1月推出《代理型AI模型治理框架》，建議組織事先評估風險，限制代理的自主程度，以及對工具和資料的存取。更新版並明訂「最小權限」原則：只給完成任務所需的權限。這是治理指引，不是全面禁止部署AI代理的法律。504852

對企業而言，做法包括指定每個代理的負責人、縮小權限、持續監測，並盡可能讓其行動可追溯、可回復。這比籠統宣稱系統「安全」更便於檢驗。34新加坡部長楊莉明也曾以民航安全作比喻，指出層層防護與標準有助於建立使用者信任。17

**核心不是在樂觀與末日論之間選邊站，而是在不確定性下建立問責機制：能測的就測，讓外部查核；尚無法妥善治理的權限，就先不要交給系統。**這些措施無法終結長期風險辯論，卻能為當下的開發與部署訂出具體要求。3248