AI發展要「踩掣」？真正有效的減速機制，還看新加坡如何落地

AI要減速，重點不應是叫整個經濟停用AI，而是讓前沿AI的發展步伐與安全評估能力看齊。近期多位AI業界領袖公開談到獨立評估和協調，但要把這些想法變成可信的保障，單靠企業自願承諾並不足夠：評估要真正獨立，測試結果要影響發布決定，規則亦要按風險分級。

新加坡已有一些可用的基礎，包括代理式AI治理框架、AI Verify測試工具，以及認可第三方AI測試機構的計劃。接下來的難題，是如何把這些工具連接到清晰、以證據為本的決定，並按實際部署情況判斷AI系統是否可以推出或擴大使用。4

業界談AI減速，代表甚麼、又不代表甚麼？

近期建議聚焦的是前沿AI，即能力最強、發展最快的一批系統。當模型能力躍升，開發者的安全措施和外部監督可能未及跟上。報道提及的做法包括讓外部評估人員持續接觸前沿AI公司、協調安全標準，以及加強跨國合作。

這些表態反映業界對問題的關注增加，但不等於已經形成一套定案政策，更不代表AI公司之間已有具約束力的協議。《國際AI安全報告》指出，風險管理措施仍在發展中，而企業的相關承諾大多仍屬自願性質。兩者不可混為一談：公司答應測試模型，並不自動代表有一條可執行的規則，要求它在嚴重風險未解決時延遲發布。

把減速變成按風險把關的發布程序

較可行的方向，是對能力更強或獲授予更大權限的系統設下較嚴格要求，而不是全面暫停日常AI應用。一般寫作工具，與獲授權執行重大操作的AI代理，不應自動接受完全相同的限制。新加坡的代理式AI框架已建議機構預先評估並控制風險，並為重要或敏感操作設置需要人類批准的關卡。46

針對前沿模型和高影響力部署，政策制定者可考慮按以下方向建立發布程序：

• **發布前由獨立機構評估：**讓合資格的外部評估人員在安全安排下接觸相關系統和證據，測試危險能力及可預見的濫用風險。近期的減速倡議曾提出，外部評估人員應持續接觸前沿AI公司；這仍是建議，並非普遍適用的現行要求。
• **訂明門檻，並跟進測試結果：**清楚列出哪些評估結果會觸發額外保障、限制使用或延遲發布。若測試未達標，應有書面記錄和具體跟進；風險嚴重時，發布應暫緩，而不只是再交由公司內部覆核。這些是建議的監管設計，並非新加坡現有框架已訂明的規定。4
• **按部署情況配置控制措施：**對獲授予重要權限的AI代理，可考慮限制其存取範圍、要求人在關鍵操作前批准、持續監察並釐清問責。新加坡框架支持控制風險和有意義的人類監督；具體措施仍應視乎系統及用途而定。48
• **系統有重大變動時重新評估：**模型、可用工具或部署環境有重要改變時，應重新檢視風險，而不是把舊有測試結果當成永久保證。這是建議的做法，目的是令評估能跟上實際使用中的變化。

相對低風險的應用，則應有較清晰、較輕便的使用途徑。按風險訂規則，可以讓企業繼續採用AI，同時避免把一次測試合格誤當成系統在任何場景下都安全。歐盟《人工智能法案》便是按AI用途的風險設計規管方式的一個例子。

規則由公權力訂，測試要保持獨立

跨國協調有助令評估結果更容易比較，亦可減少企業轉往監管要求最低的地方。各地政府可以合作建立共同測試方法、事故通報安排，以及針對最高風險系統的基本要求；獨立評估機構再按這些要求提供證據。近期有關減慢前沿AI發展的建議，同樣提到企業之間及跨境協調。

分清責任尤其重要。公共部門應訂立可執行的門檻，並決定超出門檻後有甚麼後果。企業可以提供技術知識，但不應成為判斷自家系統是否達標的唯一一方。獨立測試機構則需要公開清晰的方法，並申報利益衝突。這些是建立監督制度時可採用的設計原則，不是業界相關表態已經確立的制度安排。

新加坡可以在哪些基礎上繼續發展？

新加坡的《代理式人工智能模型治理框架》為部署AI代理的機構提供指引，包括風險評估、人類問責及控制措施。不過，這是一套負責任部署的指引，本身並不是具法律約束力的發布關卡。468

AI Verify提供測試工具；AI Tester Accreditation Programme（AI測試員認證計劃）則認可具備相關技術能力和運作準備的第三方測試機構。兩者或可協助商業和金融機構建立較一致的評估方式。新加坡亦可考慮推動共通的保障評估標準，以及訂立合約條款，說明模型供應商、系統整合商、部署者和測試機構各自要證明甚麼。這些屬於可考慮的下一步，並非現有框架已訂明的政策。

有用的方向，是讓不同地方認可彼此的測試證據和方法，而不是宣稱一張本地證書就能保證所有系統、所有用途都安全。治理框架和測試工具可以令證據更有系統，但政府部門和使用機構仍須判斷，證據是否真正涵蓋實際部署方式及其風險。

AI安全、軟件可靠性、網絡保安要一併看

評估AI代理，不能只看模型會輸出甚麼。完整評估亦要檢視周邊軟件系統是否可靠，以及它能接觸的工具和權限是否安全。這是三個相關但不同的問題：AI可能做出甚麼有害行為？整合後的應用程式在故障或變更時會如何運作？攻擊者又能否入侵、操控或改道系統？

把這幾方面合併評估，是對現有保障工作的建議延伸，並不代表所有現有工具都已涵蓋三者。AI Verify Toolkit列出的技術測試，主要針對傳統機器學習系統，包括公平性、可解釋性和穩健性。因此，對代理式AI部署而言，需要清楚說明還要進行哪些端到端測試，而不是假設模型層面的測試結果就能為整個系統背書。

怎樣才算真正有效地減速？

真正有效的減速，關鍵在於獨立證據能否改變接下來的決定：如果高風險系統的保障不足，它可以被延遲發布、限制使用或要求修正；一般低風險用途則仍有合乎比例的部署途徑。新加坡的治理框架和測試計劃提供了建立這種評估機制的基礎，但發布門檻、執行方式和評估範圍，都需要進一步訂清楚。