封鎖 AI 工具,未必代表企業已經降低風險;有時只是讓管理者更難看見員工如何使用 AI。對新加坡企業而言,關鍵不只是列出哪些應用程式不能用,而是掌握 AI 能接觸哪些資料、能執行哪些操作,以及員工是否有安全又可行的替代方案。
ThreatLabz 分析了 2025 年透過 Zscaler 平台觀察到的近一兆筆企業 AI 與機器學習交易;相關報導指出,企業封鎖了接近四成交易,當中也包括常用工具。
1
6 這些數字說明的是該平台觀察到的流量及封鎖情況,並不能代表新加坡企業整體使用 AI 的比例,也無法單憑封鎖數字判斷風險是否已經降低。
新加坡資訊通信媒體發展局(IMDA)的《代理式人工智慧模型治理框架》則提供了另一個思考方向:評估 AI 代理可能造成的風險,並適度限制其存取範圍、自主程度與可執行的操作。
20
26
為什麼封鎖清單仍不夠
禁止使用,不代表員工不再需要 AI
網路封鎖可以阻止特定路徑連上某項服務,卻不能消除員工想用 AI 完成工作的需求。PagerDuty 於 2026 年 6 月公布的調查顯示,在曾於工作中使用 AI 的受訪者之中,66% 表示自己曾在認為公司政策不允許的情況下使用 AI 工具。
38
這項調查訪問了澳洲、日本、英國和美國大型企業的 1,250 名辦公室專業人員,因此反映的是跨國職場現象,不能視為新加坡的使用率。
41 它提醒企業:禁止政策本身,並不足以完整說明員工實際如何使用 AI,也不能保證相關風險已消失。
AI 不只存在於獨立應用程式
企業的 AI 使用情況,可能包括核准商業軟體內建的助理、各種整合功能,以及能存取企業系統的 AI 代理,不只是公開聊天機器人。管理者需要了解每項工具能讀取哪些資訊、能傳送哪些內容,又能對業務系統做出哪些改動。
因此,治理問題不應只停留在「這個應用程式有沒有列入封鎖名單?」更要追問:「這個 AI 能存取、透露或更改什麼?」IMDA 的框架也建議,評估代理風險時應考慮敏感資料存取權、代理自主程度、可採取行動的範圍,以及行動是否能復原。
20
26
網路紀錄不一定涵蓋所有使用情境
員工可能使用個人裝置或未受監控的網路,處理工作相關任務。遇到這類情況,公司網路上的封鎖紀錄,未必能完整呈現資料如何被處理。企業應把這視為需要預先規劃的情境,而不是假設網路紀錄等於完整的 AI 使用紀錄。
同樣地,核准某套商業軟體,也不代表其中每個 AI 助理或整合功能的權限都已妥善設定。仍須檢查資料流向與存取範圍。
有些資料外洩風險與 AI 封鎖無關
Forcepoint 引述《Fortune》的報導指出,Anthropic 約 3,000 份未公開的資產,曾因內容管理系統設定問題而對外公開。
40 這是另一類風險案例,並非 AI 封鎖清單的成效證據,也不是新加坡企業的案例。它所說明的是:即使封鎖了某些 AI 應用程式,錯誤的發布設定或權限管理仍可能造成資料曝露。
更務實的 AI 治理做法
企業不必在全面禁止與毫無限制之間二選一。更可行的方向,是同時掌握實際使用、保護資料、限制 AI 權限,並提供員工可用的核准工具。
盤點 AI 實際使用情況。 列出已核准工具、軟體內建功能、整合服務與 AI 代理,並提供清楚的管道,讓員工申報新的使用方式。網路資料可以提供線索,但不應被當成所有工作流程的完整紀錄。
先保護最敏感的資料。 找出高風險資料庫或資料夾,檢視有哪些人員與系統可以存取。與其只管理應用程式名稱,不如讓資料在儲存、存取和使用時都受到適當保護。
為核准的 AI 設定並測試邊界。 檢查助理能讀取、傳送或更改哪些內容;只授予完成任務所需的權限。對影響重大或難以復原的操作,加入人工審核。這與 IMDA 對風險評估、代理行動範圍、自主程度及存取權限的建議一致。
20
26
讓核准工具真的好用。 提供能支援日常工作的工具,以及清楚、有效率的核准流程,讓員工不必為了完成合理工作而轉向未核准方案。除了統計封鎖了多少請求,也要評估員工能否安全地完成工作。
封鎖清單可以是其中一項控管措施,但不能直接當作風險降低的指標。更有效的治理,應讓企業看見 AI 的實際使用方式,在資料移動時保護敏感資訊,並清楚限制 AI 系統能做的事。