AI「踩煞車」怎樣才算有效？新加坡的治理工具與下一步

有意義的 AI「踩煞車」，不是讓整個經濟體的 AI 發展停擺，而是讓前沿 AI 的發展速度與安全評估、外部監督的能力相配合。近來多位 AI 業界領袖公開呼籲加強獨立評估與協調，讓這些主張成為可信的安全保障，還得做到幾件事：評估必須獨立，評估結果要能影響發布決定，規範也應依風險而定。

新加坡已有一些可用的基礎，包括 AI 代理治理框架、AI Verify 測試工具，以及認可第三方 AI 測試機構的計畫。接下來的挑戰，是把這些工具連結到清楚、以證據為本的決策，並落實在實際部署的系統上。 4

業界呼籲放慢 AI，代表什麼、不代表什麼？

近期提案聚焦於前沿 AI，也就是能力最強的一類系統。這類系統的能力提升速度，可能快過開發者的安全措施與外部監督能力。相關報導提到的構想，包括讓外部評估者持續接觸前沿 AI 公司、協調安全標準，以及推動更廣泛的國際合作。

這些提案顯示業界對此愈來愈重視，但不代表 AI 公司已就政策或具約束力的協議達成共識。《國際 AI 安全報告》指出，風險管理措施仍在發展中，多數企業計畫仍屬自願性質。 這個差別很重要：公司承諾測試模型，不等於已有可強制執行的規則，要求它在嚴重風險尚未排除時延後發布。

讓風險評估成為發布關卡

務實的做法，是對能力更強、可自行採取更多行動的系統設下更嚴格條件，而不是全面禁止日常使用 AI。用來協助撰寫文字的工具，和獲准執行重大操作的 AI 代理，不應自動適用相同要求。新加坡的 AI 代理治理框架已建議機構事先評估並限制風險，並在重大或敏感行動前設置人工核准關卡。 46

對前沿模型和高影響力部署，決策者可以沿用這個原則，建立包含以下環節的發布流程：

• **發布前進行獨立評估：**讓具資格的外部評估者在安全條件下取得相關系統與證據，檢視危險能力及可預見的濫用風險。近期放慢前沿 AI 發展的呼籲曾提出，應讓評估者持續接觸前沿公司；這目前並非普遍適用的既有要求。
• **訂明門檻，並說清楚評估不合格會怎樣：**公開或以其他清楚方式訂出哪些評估結果會觸發加強防護、限制存取或延後發布。若評估未達標，應有具體紀錄和後續處置；風險足夠高時，應暫緩發布，而不只是再做一次內部審查。這些是建議中的治理措施，並非新加坡現行框架已規定的要求。 4
• **按部署方式配置防護：**對獲授予重大操作權限的 AI 代理，可考慮限制權限、在關鍵行動前設人工核准、持續監控並明確責任歸屬。新加坡框架支持限制風險及維持有意義的人類監督；具體措施仍須視系統及用途而定。 48
• **系統有重大變更時重新評估：**模型、可使用的工具或部署情境若有重大改變，就應重新檢視；不能把早前一次測試當成永久安全保證。這是讓評估隨部署系統變化而維持相關性的建議做法。

風險較低的應用，則應有更清楚、較輕量的使用途徑。風險分級規則可以為企業採用 AI 留下空間，同時避免把一次測試通過，當成系統在所有情境下都安全的證明。歐盟《人工智能法案》就是按 AI 用途風險設計監管的例子。

規則由公部門訂，測試保持獨立

國際協調有助提升評估結果的可比較性，也能減少企業轉往監管較寬鬆地區的壓力。各國政府可推動共用測試方法、事故資訊交流，以及針對最高風險系統的最低要求，再由獨立評估者依據這些標準提供證據。近期放慢 AI 發展的提案，也同樣主張企業之間和跨境協調。

各方的責任必須分清楚。公部門應制定可執行的門檻，並決定未達標的後果。企業可以提供技術專業，但不應成為判斷自家系統是否達標的唯一一方。獨立測試者則需要採用透明方法，並揭露利益衝突。這些是建議中的監督制度設計原則，並非相關業界呼籲已確立的安排。

新加坡可以從哪些基礎出發？

新加坡的《AI 代理模型治理框架》為部署 AI 代理的機構提供指引，包括風險評估、人類責任歸屬和控制措施。它是負責任部署的指引，本身並不是具有強制力的發布關卡。 468

AI Verify 提供測試工具；AI 測試者認證計畫則認可具備相關技術能力與實務準備的第三方測試機構。 兩者可望協助商業與金融等領域建立更一致的評估方式。新加坡也可進一步鼓勵共用的評估規格，以及釐清模型供應商、系統整合商、部署者和測試者各自應提出哪些證明的合約條款。這些是可考慮的下一步，並非現有框架已訂定的政策。

值得追求的方向，是跨境承認測試證據和評估方法，而不是宣稱一張國家認證就能保證任何系統、任何用途都安全。治理框架和測試工具可以讓證據更有系統；主管機關與組織仍須判斷，這些證據是否切合實際部署情境及其風險。

AI 安全、軟體可靠性與資安，應一併檢視

評估 AI 代理，不能只測試模型會產生什麼回答。完整評估也應檢視周邊軟體系統的可靠性，以及它能使用的工具與權限是否安全。這是彼此相關、但各自不同的問題：AI 可能產生哪些有害行為？整合後的應用在故障或變更時會如何運作？攻擊者能否入侵或操控系統？

這種整合式評估是對現有保障措施的建議延伸，並不是說每一項現有工具都已涵蓋這三個面向。AI Verify Toolkit 列出的技術測試，主要針對傳統機器學習系統，包括公平性、可解釋性和穩健性。因此，針對 AI 代理部署仍須說明需要哪些端到端測試，不能假設模型層級的評估結果就等於整個系統已獲認證。

如何判斷「踩煞車」是否有效？

當獨立證據能真正改變接下來的決定，放慢 AI 發展才算有意義：若高風險系統的防護不足，發布就能被延後、限制或要求改進；一般、風險較低的用途，則仍保有合乎比例的部署途徑。新加坡的框架和測試計畫提供了建立這類保障的基礎，但發布門檻、執行方式和評估範圍仍須明確訂出。