把 AI 使用界線說清楚：企業如何借鏡新加坡法院的紅黃綠燈框架

新加坡法院提供企業一個思考 AI 治理的起點：與其籠統地說「可以用 AI」或「有人監督」，不如先看某項任務把多少責任交給系統。法院允許生成式 AI 協助準備法庭文件，但使用者仍須對內容準確、且經獨立查核負責。企業可以借鏡這項原則，但應依自己的工作內容與風險設計規則；這些企業規則並非新加坡法院對公司的要求。36

依任務劃界，而非只看工具

同一款 AI 工具，或許適合協助低風險的文字整理，卻不適合用來作出影響個人的決定。新加坡法院曾以紅、黃、綠燈說明 AI 的使用界線：綠燈是協助人們理解資訊、但不代替裁決的用途，例如翻譯和摘要；黃燈代表需要格外謹慎的用途；紅燈則是法院不會考慮採用 AI 的範圍。638

企業可把這套概念轉化為實用的內部政策。以下只是可供起步的分類，不是適用於所有公司的標準；實際判斷時，應一併考量具體任務、使用資料，以及出錯可能造成的後果。

綠燈：協助例行工作

可允許員工使用經核准的 AI 工具處理較低風險的工作，例如格式整理、翻譯、資料分類或起草初稿。政策應列明可使用哪些工具、員工可以輸入哪些資料，以及產出在使用前是否需要檢查。也要明確說明：AI 草稿本身不代表公司已核准的決定或立場。

黃燈：可以協助準備，不可代替決定

在影響較大的工作中，AI 或可協助整理證據、摘要紀錄或列出選項，但應指定一名負責審核的人員，在結果影響任何人之前，先核對重要主張與原始紀錄、考量相關背景，並核准內容。

「獨立查核」是回頭檢視底層證據或具權威性的紀錄，不是再問另一個 AI 系統第一個 AI 是否正確。新加坡法院的指引也要求使用者確保提交法院的資料經獨立查核，並且準確、真實且合宜。3

紅燈：決定保留在人手中

企業可將涉及就業、安全或取得基本服務等事項的決策列為「由人員保留決定權」。在這些情況下，AI 可以協助準備資料，但不應作出最終決定，也不應自動觸發決策。負責人員應自行評估個案、有權否決系統建議，並能說明決定理由。

這是建議企業採取的防護措施，不代表新加坡法院為企業訂下了完全相同的規則。新加坡司法機構曾表示，AI 工具可以協助法官閱讀和整理資料；目前則未將 AI 用於衡量證據、把法律套用到事實，或行使裁量權。40

公開規則，寫清楚具體用途

比起籠統宣示「負責任地使用 AI」，公開政策若能寫明實際工作情境，會更有用。每項核准用途都可以用簡短說明回答以下問題：

• 這項工作中，AI 可以做什麼？哪些事情不可交給 AI？
• 員工可以輸入哪些資料？
• 誰負責檢查輸出？要對照哪些資料或紀錄？
• 誰對最終決定負責？
• 員工或受影響人士如何提出疑慮，或要求更正錯誤？

在內部，企業可按比例保留紀錄，列明使用的工具與任務、審閱過的資料來源，以及負責核准的人員。也要給審核者足夠的時間與權限，讓他們能不同意 AI 的輸出；否則，人工審查可能只剩形式上的簽核。

定期重檢分類，也保護員工的判斷力

紅、黃、綠燈不應是一次分類、永久不變的標籤。企業應在特定工作流程中測試特定工具，檢視錯誤情況，再決定是否調整管控措施或暫停使用。不要假設模型的一般性能力說明，足以證明它適合每一項任務。

也要保留員工親自練習 AI 正在協助處理的工作的機會。新加坡首席大法官曾指出，AI 可能改變法律工作的例行任務，而這些工作過去一直是初級律師培養基本功的途徑。2335 對企業而言，更普遍的提醒是：員工需要累積足夠的實務經驗，才能理解工作、察覺錯誤並運用獨立判斷，進而有意義地審核 AI 產出。

用一個簡單標準檢視政策

紅、黃、綠燈框架是否有用，關鍵在於每一種顏色是否會改變實際做法：AI 可以做什麼、人員必須查核什麼、誰要負責，以及決定如何受到質疑。按任務公開這些界線，隨工具與工作流程變化定期檢視，並確保具影響力的判斷交由有能力、也有權限的人員作出。