AI年代的真假之戰：點解政府開始建立「TrustOps」團隊

簡單來說，TrustOps 嘗試把「信任」像 DevOps 管理軟件、SecOps 管理網絡安全一樣，變成可以被持續管理的一項能力。

為何深偽與假資訊成為政府重大威脅

近年幾個技術變化，令這類攻擊變得更普遍亦更難辨識。

1. 生成式 AI 降低了製作假內容的門檻
現在的工具可以生成幾可亂真的聲音、影片、圖片甚至文件，模仿政府官員或機構發表聲明。這些內容可以製造成假緊急訊息、偽造政策公告，或操控輿論。

2. 假資訊已經產業化
所謂「假資訊即服務」（DaaS）市場，容許攻擊者購買完整的輿論操控方案，例如機械人帳號網絡、協調式宣傳、甚至精準敘事放大。分析指出，這類攻擊已經構成營運與聲譽風險，並非傳統網絡安全能單獨解決 。

3. 政府特別容易受到影響
政府機構需要快速向市民、媒體及金融市場發布消息。如果有人成功冒充官員或發布假公告，可能即時引發恐慌、金融市場波動或政策混亂。

因此，防守「信任」需要同時結合技術與流程管理。

建立政府「信任架構」（Trust Architecture）

不少專家建議政府建立一套完整的信任架構，規範官方資訊從生成到發布的整個流程。

通常包括：

• 官方訊息與媒體內容如何製作與審批
• 如何透過加密方式驗證內容真偽
• 哪些渠道屬於官方發布渠道
• 如何監測假資訊並快速澄清
• 假資訊事件的調查與應對流程

這通常需要多個部門協作，例如網絡安全、公共關係、法律部門、反詐騙團隊以及政府高層管理。

C2PA：為數碼內容加上「來源標籤」

在技術層面，常被提到的一個標準是 C2PA（Coalition for Content Provenance and Authenticity）。

C2PA 是一個開放技術標準，會在圖片、影片、音訊或文件中嵌入加密簽署的來源資訊（provenance metadata） 。這些資料可以記錄：

• 誰創作了該內容
• 使用了哪些工具
• 何時建立或修改
• 是否經過編輯

這些資料就像數碼內容的**「營養標籤」**，讓平台或讀者可以查看內容來源與歷史 。

對政府而言，未來官方照片、政策文件、新聞稿或緊急警報都可以附帶可驗證的來源資料，增加公眾信任。

不過研究亦提醒，來源標記並不能單獨保證內容真實性。在高風險場景中，C2PA 只應被視為一種重要信號，而不是唯一防線 。

加強高風險政府流程

除了技術措施，另一個重點是強化內部流程。很多事故其實來自假訊息影響了工作流程。

常見高風險場景包括：

• 緊急警報與災難訊息
• 選舉或公共安全公告
• 行政指令或法律通知
• 政府付款與採購批准
• 執法部門通訊

TrustOps 策略會先分析這些流程，找出哪些環節可能被冒充身份或假內容利用。

多重審批與驗證機制

另一個建議是為高影響行動加入多方驗證。

常見做法包括：

• 重要公告需多名授權人員批准
• 對可疑要求進行「渠道外」核實
• 使用防釣魚的多重身份驗證（MFA）
• 對官方帳號設置高權限管理
• 建立防篡改的審計與紀錄系統

這樣可以避免單一被入侵帳號、假語音電話或深偽影片就觸發重大決策。

從事後查證走向「信任工程」

TrustOps 背後的真正轉變，是策略層面的改變。

過去很多機構主要做的是事後澄清假消息；但在 AI 時代，假內容的速度與規模已經遠超人工查證。

因此新的思路是：

• 先保護數碼身份與發布渠道
• 為官方媒體建立來源驗證
• 即時監測冒充與敘事攻擊
• 為高風險決策加入強驗證流程

隨著生成式 AI 令深偽內容愈來愈逼真，分析人士認為，「營運化管理信任」可能會像網絡安全一樣，成為現代機構的核心能力。

對負責公共資訊與社會穩定的政府而言，挑戰不只是保護數據——而是保護資訊本身的可信度。