2. 生成式 AI：由預測標籤變成創作內容

生成式 AI 將用戶體驗由「呢樣嘢屬於邊一類？」改變成「按照呢個指示，幫我創作或者改寫一樣嘢」。大型模型可以生成看似合理嘅文字、圖片、聲音同程式碼，應用包括草擬客服回覆、翻譯、教學、整理法律資料、軟件開發協助，以及創意工作等。

生成式系統可以減少製作初稿所需嘅時間同成本，亦可以用對話方式幫人處理複雜資訊，或者將內容轉換成新格式。對專業人士嚟講，佢哋亦可以係增強工具，而唔一定只係用嚟取代一個固定決策流程。

最大弱點：講得似真，唔代表真係真

生成式模型有機會用好肯定嘅語氣，講出虛構或不準確嘅資料、來源、法律依據、醫療聲稱，甚至錯誤程式碼。美國國家標準暨技術研究院（NIST）將呢種情況稱為 confabulation，即「以充滿信心嘅方式產生錯誤或虛假內容」，一般亦叫「AI 幻覺」。

凡係涉及事實準確度嘅工作，核實就變得不可或缺。常見防線包括引用可信資料、提供來源、結構化評估、進行專門領域測試，以及由合資格人士覆核。答案寫得流暢，只可以當係草稿或者預測，唔可以當成原本聲稱正確嘅證明。

生成式系統帶來嘅其他風險

生成式 AI 亦牽涉資料保障、知識產權、假資訊，以及輸出內容來源等問題。歐洲委員會針對研究用途嘅指引指出，使用 AI 協助工作之後，發表內容嘅最終責任仍然由人承擔。

教育就有另一重憂慮：如果學生長期將寫作、推理同解難工作外判畀 AI，可能得到一份表面完整嘅答案，但實際操練相關能力嘅機會就會減少。教育指引列出嘅風險，包括不準確或帶偏見嘅內容、有害內容、資料外洩、侵犯知識產權，以及學術誠信問題。

喺敏感對話入面，安全失效嘅代價可以更加嚴重。生成式系統可能產生仇恨、暴力、色情或操控性內容，亦可能對表達自我傷害意圖嘅人作出不當回應。NIST 將危險或暴力建議、私隱同有害偏見列為需要處理嘅風險。 喺高風險情況，AI 唔應該取代合資格照顧或人手保障機制；系統亦需要有可靠嘅拒答及升級處理、私隱控制，同埋可以即時轉介真人支援嘅清晰途徑。

3. Agentic AI：識規劃、識用工具，仲可以落手做

Agentic AI，即具代理能力嘅 AI，喺模型外面加上一個「行動循環」。佢唔係收到提示後答一次就完，而係可以先理解目標，再將目標拆成多個步驟，呼叫瀏覽器、程式執行器、電郵服務或 API 等工具，檢查結果，修訂計劃，然後繼續做落去。

史丹福大學將 Agentic AI 形容為自主或半自主系統：可以理解目標、排列行動次序、使用工具、根據回饋作決定，並喺既定限制內適應環境完成任務。

實際分別可以咁睇：

• 預測系統會為一宗交易評分；
• 生成式系統會就宗交易草擬回覆；而
• 如果有足夠權限，AI Agent 就可能調查交易、更新個案檔案，再發出訊息。

Google 嘅 Jules 就係軟件開發方面嘅例子。Google 表示，Jules 係一個非同步編程 Agent，可以連接程式碼儲存庫，將代碼庫複製到雲端虛擬機，再處理編程任務，最後交畀人覆核。 開源、可以使用工具嘅 Agent 係另一種路線，而 LinkedIn 嘅 Hiring Assistant 就展示咗 Agentic AI 如何延伸到人才搜尋同招聘流程。

Agent 之所以吸引，係因為佢哋唔止可以建議下一步，仲可以完成多階段工作。例如編程 Agent 可以調查錯誤、修改幾個檔案、執行測試，再準備一個 pull request；工作流程 Agent 就可以蒐集資料、整理內容，並準備好等人批准嘅通訊。

自主程度愈高，風險點解會升級？

識規劃唔等於真正理解。Agent 可能誤解網頁內容、揀錯計劃、跟從惡意指示，或者將一個細小錯誤喺多個步驟之間不斷放大。史丹福 2026 AI Index 報告顯示，Agent 喺 OSWorld——一項測試真實電腦操作嘅基準——任務成功率由 12% 升至約 66%，但仍然大約每三次會失敗一次。

聊天機械人出現幻覺，可能主要係溝通問題；但一個擁有登入憑證、瀏覽器存取權或付款權限嘅 Agent，就可以將同一類錯誤變成對外嘅實際行動。治理因此唔可以只睇輸出質素，仲要處理權限、可逆性同責任歸屬。

AI Agent 最主要嘅安全風險

當 Agent 可以影響系統、金錢、資料或其他人，風險就尤其值得注意：

• 未經授權付款： Agent 可能揀錯貨品、超出預算，或者受到惡意網頁操控。
• 私隱外洩及資料被盜： 一旦可以接觸電郵、檔案、客戶紀錄、原始碼或 API 金鑰，資料就可能因提示注入等攻擊而被披露或傳走。
• 保安及軟件損毀： Agent 可能寫入不安全程式碼、改動系統設定、刪除資源，或者透過日誌及外部工具洩露機密。
• 責任真空： 出事時，模型供應商、應用程式開發者、部署機構、工具供應商同用戶之間，可能互相推卸責任。
• 操控用戶： 長期、對話式運作嘅 Agent 可能對用戶施加不當影響，尤其當用戶處於脆弱狀態，或者誤以為系統比實際更加可靠同有能力。

負責任嘅 AI 治理應該點做？

控制措施應該配合系統能力，以及出錯時可能造成嘅後果。

對預測式 AI，機構應該清楚界定用途，測量準確度同公平性，保障個人資料，並為高影響結果提供解釋、申訴方法及人手覆核。

對生成式 AI，機構應該核實重要聲稱，測試幻覺及有害輸出，控制敏感資料，處理內容來源同知識產權問題，並由合資格人士繼續負責法律、醫療、財務及保障安全等決定。

至於 Agent，技術及管理控制就要再行前一步：

1. 先界定用途範圍： 部署前決定 Agent 可以做乜，唔可以做乜。
2. 限制存取權限： 採用最少權限憑證、受限制工具、交易上限及沙盒環境。
3. 喺重要關口要求批准： 涉及財務、法律、私隱或安全嘅行動，唔應該未經適當人手授權就執行。
4. 令活動可追蹤： 保存日誌、監察行為，並清楚指定事故負責人。
5. 用對抗方式測試： 喺部署前後，測試提示注入、資料外洩、有害行為及失敗復原能力。
6. 保留人手控制： 人應該隨時可以停止、推翻決定，或者質疑具重大後果嘅行動。

新加坡資訊通信媒體發展局（IMDA）針對 Agentic AI 制定嘅 Model AI Governance Framework，就提出一套以風險為本嘅做法，供自行開發 Agent 或部署第三方方案嘅機構參考。 框架嘅核心訊息係：自主程度要逐步提升——先由只讀取資料嘅協助開始，再逐步容許低風險行動；至於不可逆或高影響行動，就應該保留畀人作明確批准。

AI 下一步會點走？

AI 演變最好唔好理解成三個完全割裂嘅時代，而係一個不斷擴大嘅能力層：傳統系統負責預測同分類；生成式系統負責創作同轉化；Agentic AI 就加上規劃、使用工具同採取行動。

治理亦必須同步升級。準確度同公平性控制仍然重要，但已經唔夠。生成式系統需要更嚴謹嘅核實、來源追蹤同內容安全措施；Agent 則進一步需要權限邊界、行動審批關卡、保安監察，以及清晰嘅責任歸屬。

AI 愈能夠自己做事，機構就愈要先諗清楚一個問題：究竟容許佢做到邊一步？

2. 生成式 AI：由預測標籤變成創作內容

生成式 AI 將用戶體驗由「呢樣嘢屬於邊一類？」改變成「按照呢個指示，幫我創作或者改寫一樣嘢」。大型模型可以生成看似合理嘅文字、圖片、聲音同程式碼，應用包括草擬客服回覆、翻譯、教學、整理法律資料、軟件開發協助，以及創意工作等。

生成式系統可以減少製作初稿所需嘅時間同成本，亦可以用對話方式幫人處理複雜資訊，或者將內容轉換成新格式。對專業人士嚟講，佢哋亦可以係增強工具，而唔一定只係用嚟取代一個固定決策流程。

最大弱點：講得似真，唔代表真係真

生成式模型有機會用好肯定嘅語氣，講出虛構或不準確嘅資料、來源、法律依據、醫療聲稱，甚至錯誤程式碼。美國國家標準暨技術研究院（NIST）將呢種情況稱為 confabulation，即「以充滿信心嘅方式產生錯誤或虛假內容」，一般亦叫「AI 幻覺」。

凡係涉及事實準確度嘅工作，核實就變得不可或缺。常見防線包括引用可信資料、提供來源、結構化評估、進行專門領域測試，以及由合資格人士覆核。答案寫得流暢，只可以當係草稿或者預測，唔可以當成原本聲稱正確嘅證明。

生成式系統帶來嘅其他風險

生成式 AI 亦牽涉資料保障、知識產權、假資訊，以及輸出內容來源等問題。歐洲委員會針對研究用途嘅指引指出，使用 AI 協助工作之後，發表內容嘅最終責任仍然由人承擔。

教育就有另一重憂慮：如果學生長期將寫作、推理同解難工作外判畀 AI，可能得到一份表面完整嘅答案，但實際操練相關能力嘅機會就會減少。教育指引列出嘅風險，包括不準確或帶偏見嘅內容、有害內容、資料外洩、侵犯知識產權，以及學術誠信問題。

喺敏感對話入面，安全失效嘅代價可以更加嚴重。生成式系統可能產生仇恨、暴力、色情或操控性內容，亦可能對表達自我傷害意圖嘅人作出不當回應。NIST 將危險或暴力建議、私隱同有害偏見列為需要處理嘅風險。 喺高風險情況，AI 唔應該取代合資格照顧或人手保障機制；系統亦需要有可靠嘅拒答及升級處理、私隱控制，同埋可以即時轉介真人支援嘅清晰途徑。

3. Agentic AI：識規劃、識用工具，仲可以落手做

Agentic AI，即具代理能力嘅 AI，喺模型外面加上一個「行動循環」。佢唔係收到提示後答一次就完，而係可以先理解目標，再將目標拆成多個步驟，呼叫瀏覽器、程式執行器、電郵服務或 API 等工具，檢查結果，修訂計劃，然後繼續做落去。

史丹福大學將 Agentic AI 形容為自主或半自主系統：可以理解目標、排列行動次序、使用工具、根據回饋作決定，並喺既定限制內適應環境完成任務。

實際分別可以咁睇：

• 預測系統會為一宗交易評分；
• 生成式系統會就宗交易草擬回覆；而
• 如果有足夠權限，AI Agent 就可能調查交易、更新個案檔案，再發出訊息。

Google 嘅 Jules 就係軟件開發方面嘅例子。Google 表示，Jules 係一個非同步編程 Agent，可以連接程式碼儲存庫，將代碼庫複製到雲端虛擬機，再處理編程任務，最後交畀人覆核。 開源、可以使用工具嘅 Agent 係另一種路線，而 LinkedIn 嘅 Hiring Assistant 就展示咗 Agentic AI 如何延伸到人才搜尋同招聘流程。

Agent 之所以吸引，係因為佢哋唔止可以建議下一步，仲可以完成多階段工作。例如編程 Agent 可以調查錯誤、修改幾個檔案、執行測試，再準備一個 pull request；工作流程 Agent 就可以蒐集資料、整理內容，並準備好等人批准嘅通訊。

自主程度愈高，風險點解會升級？

識規劃唔等於真正理解。Agent 可能誤解網頁內容、揀錯計劃、跟從惡意指示，或者將一個細小錯誤喺多個步驟之間不斷放大。史丹福 2026 AI Index 報告顯示，Agent 喺 OSWorld——一項測試真實電腦操作嘅基準——任務成功率由 12% 升至約 66%，但仍然大約每三次會失敗一次。

聊天機械人出現幻覺，可能主要係溝通問題；但一個擁有登入憑證、瀏覽器存取權或付款權限嘅 Agent，就可以將同一類錯誤變成對外嘅實際行動。治理因此唔可以只睇輸出質素，仲要處理權限、可逆性同責任歸屬。

AI Agent 最主要嘅安全風險

當 Agent 可以影響系統、金錢、資料或其他人，風險就尤其值得注意：

• 未經授權付款： Agent 可能揀錯貨品、超出預算，或者受到惡意網頁操控。
• 私隱外洩及資料被盜： 一旦可以接觸電郵、檔案、客戶紀錄、原始碼或 API 金鑰，資料就可能因提示注入等攻擊而被披露或傳走。
• 保安及軟件損毀： Agent 可能寫入不安全程式碼、改動系統設定、刪除資源，或者透過日誌及外部工具洩露機密。
• 責任真空： 出事時，模型供應商、應用程式開發者、部署機構、工具供應商同用戶之間，可能互相推卸責任。
• 操控用戶： 長期、對話式運作嘅 Agent 可能對用戶施加不當影響，尤其當用戶處於脆弱狀態，或者誤以為系統比實際更加可靠同有能力。

負責任嘅 AI 治理應該點做？

控制措施應該配合系統能力，以及出錯時可能造成嘅後果。

對預測式 AI，機構應該清楚界定用途，測量準確度同公平性，保障個人資料，並為高影響結果提供解釋、申訴方法及人手覆核。

對生成式 AI，機構應該核實重要聲稱，測試幻覺及有害輸出，控制敏感資料，處理內容來源同知識產權問題，並由合資格人士繼續負責法律、醫療、財務及保障安全等決定。

至於 Agent，技術及管理控制就要再行前一步：

1. 先界定用途範圍： 部署前決定 Agent 可以做乜，唔可以做乜。
2. 限制存取權限： 採用最少權限憑證、受限制工具、交易上限及沙盒環境。
3. 喺重要關口要求批准： 涉及財務、法律、私隱或安全嘅行動，唔應該未經適當人手授權就執行。
4. 令活動可追蹤： 保存日誌、監察行為，並清楚指定事故負責人。
5. 用對抗方式測試： 喺部署前後，測試提示注入、資料外洩、有害行為及失敗復原能力。
6. 保留人手控制： 人應該隨時可以停止、推翻決定，或者質疑具重大後果嘅行動。

新加坡資訊通信媒體發展局（IMDA）針對 Agentic AI 制定嘅 Model AI Governance Framework，就提出一套以風險為本嘅做法，供自行開發 Agent 或部署第三方方案嘅機構參考。 框架嘅核心訊息係：自主程度要逐步提升——先由只讀取資料嘅協助開始，再逐步容許低風險行動；至於不可逆或高影響行動，就應該保留畀人作明確批准。

AI 下一步會點走？

AI 演變最好唔好理解成三個完全割裂嘅時代，而係一個不斷擴大嘅能力層：傳統系統負責預測同分類；生成式系統負責創作同轉化；Agentic AI 就加上規劃、使用工具同採取行動。

治理亦必須同步升級。準確度同公平性控制仍然重要，但已經唔夠。生成式系統需要更嚴謹嘅核實、來源追蹤同內容安全措施；Agent 則進一步需要權限邊界、行動審批關卡、保安監察，以及清晰嘅責任歸屬。

AI 愈能夠自己做事，機構就愈要先諗清楚一個問題：究竟容許佢做到邊一步？