由「預測」到「生成」再到「行動」：人工智能進化之路

人工智能嘅進步，唔係一代技術完全取代上一代咁簡單。相反，能力係一層層疊加：以前嘅系統按人手寫好嘅規則運作，或者根據數據作出有限預測；之後出現可以生成文字、圖片、聲音同程式碼嘅模型；而家就再進一步，發展到可以規劃工作、呼叫軟件工具，甚至代表用戶採取行動嘅 AI Agent。

理解呢條演變路線，最簡單可以記住三個詞：預測 → 生成 → 規劃及行動。每行前一步，AI 可以做嘅事就更多；但一旦出錯，後果亦可能更加難收科。

1. 傳統 AI：規則、分類同預測

早期人工智能研究主要集中喺符號推理：程式員將知識寫成規則，再設計系統搜尋可能嘅解決方案。棋類遊戲程式就係一個好例子，系統可以喺既定規則之內評估唔同棋步。至於「人工智能」呢個名稱，就係由電腦科學家 John McCarthy 於 1955 年提出；佢將 AI 形容為「製造智能機器嘅科學及工程」。

後來，統計機器學習將更多工作由人手寫規則，轉交畀系統從歷史數據入面搵模式。呢類系統通常將一個輸入，轉化成範圍相對有限嘅輸出，例如：

• 標記可疑交易；
• 評估信貸風險；
• 預測醫療結果；
• 為推薦嘅產品或影片排序；或者
• 辨認語音背後可能嘅用戶意圖。

所以，現實中嘅「傳統 AI」未必純粹只靠規則，亦可能將規則、統計模型同機器學習混合使用。

點解傳統 AI 到今日仍然有用？

當目標清晰、數據相關，而且唔同錯誤嘅代價可以衡量，預測系統通常相當有效。佢哋可以快速處理大量資料，按照一致程序運作，亦可以搵出人類容易忽略嘅模式。

但限制亦正正來自呢種可控性：系統通常為一項界定清楚嘅任務而設計。反欺詐模型可以為交易評分，卻未必識得解讀政策文件、寫報告，或者靈活應付完全陌生嘅情況。表現亦取決於訓練數據質素，以及系統究竟被優化去預測乜嘢。

喺信貸、招聘、保險同醫療等範疇，呢點會帶來重要倫理問題。歷史數據可能將社會偏見照單全收，而不透明嘅評分系統，就可能令人難以質疑或申訴結果。治理措施因此要包括：清楚界定用途、測試準確度同公平性、保障私隱、提供解釋，以及對高影響決定保留人手覆核。偏見、假資訊同濫用，亦唔係聊天機械人才有嘅問題，而係更廣泛嘅 AI 政策議題。

2. 生成式 AI：由預測標籤變成創作內容

生成式 AI 將用戶體驗由「呢樣嘢屬於邊一類？」改變成「按照呢個指示，幫我創作或者改寫一樣嘢」。大型模型可以生成看似合理嘅文字、圖片、聲音同程式碼，應用包括草擬客服回覆、翻譯、教學、整理法律資料、軟件開發協助，以及創意工作等。

生成式系統可以減少製作初稿所需嘅時間同成本，亦可以用對話方式幫人處理複雜資訊，或者將內容轉換成新格式。對專業人士嚟講，佢哋亦可以係增強工具，而唔一定只係用嚟取代一個固定決策流程。

最大弱點：講得似真，唔代表真係真

生成式模型有機會用好肯定嘅語氣，講出虛構或不準確嘅資料、來源、法律依據、醫療聲稱，甚至錯誤程式碼。美國國家標準暨技術研究院（NIST）將呢種情況稱為 confabulation，即「以充滿信心嘅方式產生錯誤或虛假內容」，一般亦叫「AI 幻覺」。

凡係涉及事實準確度嘅工作，核實就變得不可或缺。常見防線包括引用可信資料、提供來源、結構化評估、進行專門領域測試，以及由合資格人士覆核。答案寫得流暢，只可以當係草稿或者預測，唔可以當成原本聲稱正確嘅證明。

生成式系統帶來嘅其他風險

生成式 AI 亦牽涉資料保障、知識產權、假資訊，以及輸出內容來源等問題。歐洲委員會針對研究用途嘅指引指出，使用 AI 協助工作之後，發表內容嘅最終責任仍然由人承擔。

教育就有另一重憂慮：如果學生長期將寫作、推理同解難工作外判畀 AI，可能得到一份表面完整嘅答案，但實際操練相關能力嘅機會就會減少。教育指引列出嘅風險，包括不準確或帶偏見嘅內容、有害內容、資料外洩、侵犯知識產權，以及學術誠信問題。

喺敏感對話入面，安全失效嘅代價可以更加嚴重。生成式系統可能產生仇恨、暴力、色情或操控性內容，亦可能對表達自我傷害意圖嘅人作出不當回應。NIST 將危險或暴力建議、私隱同有害偏見列為需要處理嘅風險。 喺高風險情況，AI 唔應該取代合資格照顧或人手保障機制；系統亦需要有可靠嘅拒答及升級處理、私隱控制，同埋可以即時轉介真人支援嘅清晰途徑。

3. Agentic AI：識規劃、識用工具，仲可以落手做

Agentic AI，即具代理能力嘅 AI，喺模型外面加上一個「行動循環」。佢唔係收到提示後答一次就完，而係可以先理解目標，再將目標拆成多個步驟，呼叫瀏覽器、程式執行器、電郵服務或 API 等工具，檢查結果，修訂計劃，然後繼續做落去。

史丹福大學將 Agentic AI 形容為自主或半自主系統：可以理解目標、排列行動次序、使用工具、根據回饋作決定，並喺既定限制內適應環境完成任務。

實際分別可以咁睇：

• 預測系統會為一宗交易評分；
• 生成式系統會就宗交易草擬回覆；而
• 如果有足夠權限，AI Agent 就可能調查交易、更新個案檔案，再發出訊息。

Google 嘅 Jules 就係軟件開發方面嘅例子。Google 表示，Jules 係一個非同步編程 Agent，可以連接程式碼儲存庫，將代碼庫複製到雲端虛擬機，再處理編程任務，最後交畀人覆核。 開源、可以使用工具嘅 Agent 係另一種路線，而 LinkedIn 嘅 Hiring Assistant 就展示咗 Agentic AI 如何延伸到人才搜尋同招聘流程。

Agent 之所以吸引，係因為佢哋唔止可以建議下一步，仲可以完成多階段工作。例如編程 Agent 可以調查錯誤、修改幾個檔案、執行測試，再準備一個 pull request；工作流程 Agent 就可以蒐集資料、整理內容，並準備好等人批准嘅通訊。

自主程度愈高，風險點解會升級？

識規劃唔等於真正理解。Agent 可能誤解網頁內容、揀錯計劃、跟從惡意指示，或者將一個細小錯誤喺多個步驟之間不斷放大。史丹福 2026 AI Index 報告顯示，Agent 喺 OSWorld——一項測試真實電腦操作嘅基準——任務成功率由 12% 升至約 66%，但仍然大約每三次會失敗一次。

聊天機械人出現幻覺，可能主要係溝通問題；但一個擁有登入憑證、瀏覽器存取權或付款權限嘅 Agent，就可以將同一類錯誤變成對外嘅實際行動。治理因此唔可以只睇輸出質素，仲要處理權限、可逆性同責任歸屬。

AI Agent 最主要嘅安全風險

當 Agent 可以影響系統、金錢、資料或其他人，風險就尤其值得注意：

• 未經授權付款： Agent 可能揀錯貨品、超出預算，或者受到惡意網頁操控。
• 私隱外洩及資料被盜： 一旦可以接觸電郵、檔案、客戶紀錄、原始碼或 API 金鑰，資料就可能因提示注入等攻擊而被披露或傳走。
• 保安及軟件損毀： Agent 可能寫入不安全程式碼、改動系統設定、刪除資源，或者透過日誌及外部工具洩露機密。
• 責任真空： 出事時，模型供應商、應用程式開發者、部署機構、工具供應商同用戶之間，可能互相推卸責任。
• 操控用戶： 長期、對話式運作嘅 Agent 可能對用戶施加不當影響，尤其當用戶處於脆弱狀態，或者誤以為系統比實際更加可靠同有能力。

負責任嘅 AI 治理應該點做？

控制措施應該配合系統能力，以及出錯時可能造成嘅後果。

對預測式 AI，機構應該清楚界定用途，測量準確度同公平性，保障個人資料，並為高影響結果提供解釋、申訴方法及人手覆核。

對生成式 AI，機構應該核實重要聲稱，測試幻覺及有害輸出，控制敏感資料，處理內容來源同知識產權問題，並由合資格人士繼續負責法律、醫療、財務及保障安全等決定。

至於 Agent，技術及管理控制就要再行前一步：

1. 先界定用途範圍： 部署前決定 Agent 可以做乜，唔可以做乜。
2. 限制存取權限： 採用最少權限憑證、受限制工具、交易上限及沙盒環境。
3. 喺重要關口要求批准： 涉及財務、法律、私隱或安全嘅行動，唔應該未經適當人手授權就執行。
4. 令活動可追蹤： 保存日誌、監察行為，並清楚指定事故負責人。
5. 用對抗方式測試： 喺部署前後，測試提示注入、資料外洩、有害行為及失敗復原能力。
6. 保留人手控制： 人應該隨時可以停止、推翻決定，或者質疑具重大後果嘅行動。

新加坡資訊通信媒體發展局（IMDA）針對 Agentic AI 制定嘅 Model AI Governance Framework，就提出一套以風險為本嘅做法，供自行開發 Agent 或部署第三方方案嘅機構參考。 框架嘅核心訊息係：自主程度要逐步提升——先由只讀取資料嘅協助開始，再逐步容許低風險行動；至於不可逆或高影響行動，就應該保留畀人作明確批准。

AI 下一步會點走？

AI 演變最好唔好理解成三個完全割裂嘅時代，而係一個不斷擴大嘅能力層：傳統系統負責預測同分類；生成式系統負責創作同轉化；Agentic AI 就加上規劃、使用工具同採取行動。

治理亦必須同步升級。準確度同公平性控制仍然重要，但已經唔夠。生成式系統需要更嚴謹嘅核實、來源追蹤同內容安全措施；Agent 則進一步需要權限邊界、行動審批關卡、保安監察，以及清晰嘅責任歸屬。

AI 愈能夠自己做事，機構就愈要先諗清楚一個問題：究竟容許佢做到邊一步？