AI 七十年進化：由預測、生成到真正落手做

生成式 AI 可以用來做甚麼？

常見用途包括：

• 客戶服務：草擬回覆、總結對話、翻譯資料，以及從內部知識庫尋找資訊。
• 法律工作：整理文件、抽取條款、比較判例或法律依據，以及準備初稿。不過，法律專業人士仍然要核對原始資料和法律主張。
• 教育：解釋概念、製作練習題及提供回饋。
• 創意工作：構思點子、撰寫文案，以及生成圖像、音樂、影片概念和程式碼。
• 程式開發：解釋程式碼、編寫測試、提出修正方法，加快日常開發工作。

它的主要優勢是節省草擬時間和成本、可以用自然語言操作，以及快速產生多個個人化版本。不過，「答案聽起來似樣」並不等於系統真的作出了可靠的專業判斷。

生成式 AI 的主要風險

幻覺和過度自信。 大型語言模型可能以很肯定的語氣，講出虛構、不準確、有偏見或過度簡化的內容。相關研究指出，幻覺、危害性內容、操控、版權侵犯、私隱及保安問題，都需要透過測試和持續監察處理。

學習能力和學術誠信。 一項大型中學實地實驗發現，AI 輔導工具在可使用期間可以提升學生表現；但如果學生在沒有適當保障下過度依賴工具，當 AI 被移除後，表現可能反而較差，反映學習能力未必真正建立。由老師設計的提示，比直接提供答案更能減低這種影響。 生成式工具亦可能令抄襲更容易，或者令人難以判斷學生是否真正掌握所交的功課。

版權和內容來源。 訓練數據從何而來、模仿特定創作者風格是否合理，以及輸出會否重現受保護內容，仍然存在爭議。教育指引把知識產權侵權，與不準確、有偏見或不安全內容一樣，列為重要風險。

有害及操控性內容。 生成式系統可能製作錯誤資訊、騷擾、色情或暴力內容，以及危險指示。安全指引建議進行測試、設置防護、記錄活動並持續監察，而不是假定模型任何時候都會按照設計意圖行事。

青少年安全及身心健康。 有關年輕人使用生成式 AI 的研究，指出心理健康、行為及社交發展、有毒內容、私隱，以及誤用或剝削等風險。 當用戶把聊天機械人當成合資格專業人士的替代品，尤其是面對嚴重情緒或其他高風險問題時，情況會更加值得關注。

私隱和保密。 用戶輸入的內容可能包含個人資料、商業機密、客戶文件，甚至受法律專業保密保障的資料。機構應清楚訂明哪些資料可以輸入哪些服務；對於未獲批准的系統，使用者就不應輸入敏感內容。

使用生成式 AI，最低限度要做甚麼？

一個合理的基本原則，是把模型輸出當成「草稿」，而不是證據。重要事實要對照可靠的原始或權威來源；涉及醫療、法律、財務、招聘及人身安全的決定，則應要求人工覆核。

實際控制措施可以包括：使用經批准資料作檢索基礎、附上引文、進行紅隊測試、加入內容安全防護、採用適合不同年齡的設計、保留審計紀錄，以及向用戶披露 AI 的參與程度。機構亦應制定數據處理、學術用途、內容來源及知識產權清理政策。政府指引同樣提醒，生成式 AI 可能產生不準確或有偏見的內容、導致私隱外洩、侵犯知識產權，以及帶來學術誠信問題。

第三階段：Agentic AI——不只回答，還可以落手做

Agentic AI 可以理解成加入「行動層」的 AI 系統。它能夠理解目標、把目標拆成多個步驟、調用瀏覽器、程式碼庫、資料庫或通訊工具，檢查中途結果，再按獲授予的權限繼續工作。

所以，即使兩者都使用大型語言模型，AI Agent 和一般聊天機械人仍然不同。聊天機械人可以幫你草擬一封電郵；Agent 就可能自行搜尋資料、準備內容、發出電郵，再更新另一個系統。程式助手可以解釋錯誤；Agent 則可能檢查整個程式庫、修改檔案、執行測試，並準備一份待審批的修改。

現時市場上提到的例子，包括軟件開發 Agent Google Jules、招聘流程工具 LinkedIn Hiring Assistant，以及個人 Agent 框架 OpenClaw。OpenClaw 的項目資料把它形容為一個在用戶裝置上運行、連接不同通訊渠道和工具的個人開源助理；它實際上可以做到甚麼，取決於用戶啟用的整合功能及權限。

Agentic AI 有甚麼好處？

這類系統可以：

• 完成整套工作流程，而不只是寫一份文件；
• 減少日常協調和行政工作；
• 把分散在不同商業系統的資料連接起來；以及
• 在清晰界定的限制內持續運作。

對小型機構和個人用戶來說，這或許可以令一些原本較複雜的工作流程變得更容易使用。但問題亦由「答案準不準？」變成：「系統獲准做甚麼？它每一步又如何被檢查？」

自主行動，為何會令風險面擴大？

生成式模型可能只是在答案中出錯；Agent 卻可以把錯誤推論、惡意指示或遭入侵的工具，轉化成真實世界的行動。

例如：

• 擁有財務權限的 Agent，可能進行未經授權的付款、購買、轉賬或取消交易。
• 擁有電郵、瀏覽器或雲端權限的 Agent，可能被惡意網頁或文件誤導，洩露登入資料或把機密檔案發出去。
• 權限過多、身份控制薄弱，以及職責分工不清，均可能把一次看似細小的模型錯誤放大成嚴重事故。

當結果是由模型、指令、數據、工具及其他 Agent 互相作用而產生，究竟誰要負責亦會更加難判斷。因此，系統操作者不能只看最後結果，還要看 Agent 原本打算做甚麼、根據甚麼證據，以及使用了哪些權限。

能力愈高，治理就要愈嚴謹

無論是哪一個階段，基本原則都相近：指定清晰的負責人、限制用途、保護數據、部署前測試、持續監察、準備事故應變方案，並在涉及重大後果的決定中提供有實質意義的人工覆核或介入機制。

至於可以影響外部系統的 Agent，還需要加入以下措施：

• 採用最小權限原則，以及有時限的登入憑證；
• 為每個 Agent 設置獨立帳戶和清晰身份；
• 明確界定它可以讀取、寫入、發送、購買、刪除或部署甚麼；
• 對不可逆轉或影響重大的行動設置確認關卡；
• 使用獲批准的工具清單、沙盒環境，以及防範提示注入的措施；
• 設定交易上限和異常偵測；
• 保存詳細而不易被篡改的行動紀錄；
• 按風險作職責分離和人工批准；以及
• 設置可以即時暫停或關閉系統的「掣掣」。

新加坡如何管治 Agentic AI？

新加坡在 2026 年 1 月 22 日推出《Model AI Governance Framework for Agentic AI》。這是一套供機構部署 Agentic AI 時參考的指引，而不是一條獨立的 AI 法例；框架把人員及機構問責放在核心位置，並建議按 Agent 的自主程度和風險，採取相稱的風險管理及控制措施。

在金融服務方面，新加坡金融管理局的 SAFR 文件提出一種運行時治理方法：用一份結構化紀錄，保存 Agent 打算做甚麼、為何要做，以及支持該項行動的證據。

重點：AI 不是由「舊」直線升級到「新」

AI 的發展並非單純由「舊 AI」一路走向「新 AI」。對很多範圍清晰的決定來說，規則式及預測型系統仍然是合適選擇；生成式 AI 就加入了靈活製作內容及自然語言互動的能力；Agentic AI 再進一步，讓系統可以透過工具追蹤目標並採取外部行動。

治理要求亦要跟住能力升級：預測需要關注準確度、偏見和數據漂移；生成需要核實真確性、安全、私隱和內容來源；行動則要在以上基礎上，再加上權限控制、批准關卡、清晰問責，以及出事後可以迅速停止和復原的方案。

換句話說，最可靠的 AI 產品，不只是模型夠勁，還要有嚴謹的系統設計和真正有效的人為監督。