AI 七十年進化史：從預測、生成到自主行動

人工智慧的演進，並不是一條「舊技術被新技術淘汰」的直線。規則與預測模型至今仍廣泛使用；生成式模型讓 AI 能產生文字、圖片、音訊、影片與程式碼；代理式 AI（agentic AI）則把模型與瀏覽器、資料庫、程式碼儲存庫或訊息工具連接起來，讓系統能為了目標執行多個步驟。

理解這段歷史，最清楚的方式，是把它看成 AI 能力從「判斷」走向「創作」，再走向「行動」。隨著能力提升，風險也會改變：預測系統要檢驗準確度與公平性；生成式系統要確認內容是否真實、安全且具備來源；代理式系統則還必須受到權限、人工核准關卡與可稽核紀錄的約束。

七十年的重疊式演進

現代 AI 領域在 1950 年代逐漸成形，早期研究涵蓋機器推理、棋類遊戲與類神經網路；之後研究重心歷經符號系統與專家系統、1990 年代的機器學習，以及 2010 年代的深度學習。

這些階段並不是彼此排他的時代。今天的一項 AI 產品，可能先用預測模型判斷使用者的需求，再用生成式模型撰寫回覆，最後由傳統軟體控制規則決定是否允許執行某項操作。

1. 傳統 AI：規則、分類與預測

傳統 AI 大致包含兩種路線：

• 符號式或規則式系統：由人類明確寫入邏輯、領域知識與決策程序。
• 機器學習系統：從歷史資料中學習統計關係，用來分類輸入或估算結果。

早期的棋類程式展示了機器如何在有限環境中搜尋可能的走法。後來，類似的搜尋方法與統計學習被應用於各種實務工作，例如：

• 偵測異常或疑似詐欺交易；
• 評估信用與違約風險；
• 預測病情惡化、再入院等醫療風險；
• 在推薦系統中排序商品、影片、音樂與社群貼文；
• 將語音辨識、意圖分類與預先定義的工作流程結合，支援 Siri 等語音助理。

當任務狹窄、重複且容易量化時，這類系統往往表現穩定。它們能快速處理大量個案，並提供一致的輸出。若採用明確規則，決策邏輯也通常比複雜模型更容易檢查。

預測的限制

傳統 AI 不會自動理解結果「為什麼」發生。模型可以找出統計關聯，卻不代表已證明因果關係；如果訓練資料帶有歷史偏見，系統也可能複製甚至放大這些偏見。規則在設計範圍之外可能變得僵化，而複雜的預測模型則可能難以解釋。

當現實環境改變時，模型表現也可能下滑，這通常被稱為「資料漂移」（data drift）。因此，在借貸、就業、保險、警政與醫療等高風險場景，負責任的部署需要包括資料品質檢查、偏見測試、符合情境的解釋、人工審核、持續監測，以及讓受影響者提出申訴的管道。

2. 生成式 AI：從判斷走向創作

生成式 AI 從大量文字、圖片、音訊、影片或程式碼中學習模式，再據此產生新的輸出。大型語言模型會逐步生成文字，多模態系統則能跨越不同媒介處理內容。

這改變了人們使用 AI 的方式。使用者不必再從固定指令中挑選，也不只會得到一個分類分數，而是可以用日常語言描述目標，要求系統撰寫、改寫、整理或解釋內容。

生成式 AI 的常見用途

• 客服：草擬回覆、摘要對話、翻譯資料，以及從知識庫擷取資訊。
• 法律工作：摘要文件、擷取條款、比較法律依據與準備初稿。不過，法律專業人員仍須核對原始資料與法律主張。
• 教育：解釋概念、製作練習題與提供回饋。
• 創意工作：腦力激盪、撰寫文案，以及生成圖片、音樂、影片概念與程式碼。
• 程式開發：解釋程式、撰寫測試、提出修正建議，加速例行開發工作。

主要好處包括縮短處理時間、降低草稿製作成本、提供自然語言介面，以及快速產生多個個人化版本。但「能生成看似合理的答案」，並不等於「具備可靠的專業判斷力」。

生成式 AI 的主要風險

幻覺與過度自信。 大型語言模型可能以自信語氣產生捏造、不準確、偏頗或過度簡化的資訊。相關研究指出，幻覺、危害性內容、操弄、版權侵害、隱私與安全問題，都需要透過測試與持續監測處理。

學習能力與學術誠信。 一項大型高中實地實驗發現，AI 家教在工具可用時能提升學習表現；但若學生在缺乏適當防護下依賴 AI，當工具被移除後，表現可能反而較差，顯示技能習得可能受到影響。由教師設計的提示，比直接提供答案更能降低這種風險。 生成式工具也可能讓抄襲更容易，或讓外界難以判斷學生是否真正掌握內容。

版權與內容來源。 訓練資料的來源、模仿特定風格，以及生成結果是否重現受保護內容，仍存在爭議。教育相關指引也把智慧財產侵權，與不準確、偏頗或不安全內容並列為重要風險。

有害與操弄性內容。 生成式系統可能產生錯誤資訊、騷擾、性或暴力內容，以及危險指示。安全指引建議進行測試、設置防護、記錄活動並持續監測，而不能假設模型永遠會依照設計意圖運作。

兒童與青少年安全。 針對年輕使用者的研究指出，生成式 AI 的風險涉及心理健康、行為與社交發展、有毒內容、隱私，以及誤用或剝削等面向。 當使用者把聊天機器人視為合格人類支援的替代品時，相關風險尤其值得重視。

隱私與保密。 使用者輸入的提示可能包含個人資料、商業機密、客戶資料或受法律特權保護的內容。組織應清楚規定哪些資料可以輸入哪些服務；未經核准的系統，不應被視為適合處理敏感資訊。

生成式 AI 的實務防護

合理的基本原則，是把模型輸出當成草稿，而不是證據。重要事實應以具權威性的來源核對；醫療、法律、金融、就業與安全關鍵決策，則應要求人工審核。

可採用的措施包括：以核准的資料來源進行檢索增強、附上引用、進行紅隊測試、設置內容防護、採用適齡設計、保存稽核紀錄、向使用者揭露 AI 的參與，以及建立資料處理、學術使用、內容來源與智慧財產清查政策。政府指引同樣提醒，生成式 AI 可能帶來不準確或偏頗內容、隱私外洩、智慧財產侵權與學術誠信問題。

3. 代理式 AI：能夠採取行動的系統

代理式 AI 在生成能力之上增加了「行動層」。代理可以理解目標、拆解步驟、呼叫瀏覽器、程式碼儲存庫、資料庫或訊息系統等工具，檢查中途結果，再依照獲得的權限繼續工作。

因此，即使兩者都使用大型語言模型，代理也不同於一般聊天機器人。聊天機器人可能替使用者草擬一封電子郵件；代理則可能搜尋資料、準備郵件、寄出內容，再更新另一個系統。程式助理可能只解釋錯誤；代理則可能調查程式碼、修改檔案、執行測試，並準備待審核的變更。

目前市場上可見的例子包括 Google Jules 等軟體開發代理、LinkedIn Hiring Assistant 等招募工作流程工具，以及 OpenClaw 等個人代理框架。OpenClaw 的專案資料將其描述為可在使用者裝置上運行、連接不同通訊管道與工具的個人開源助理；它實際能做什麼，取決於使用者啟用的整合功能與權限。

代理式 AI 的潛在價值

代理式系統可以：

• 完成完整工作流程，而不只是撰寫單一文件；
• 減少例行協調與行政工作；
• 串連分散在不同商業系統中的資訊；
• 在明確限制內持續運作。

這可能讓小型組織與個人使用者更容易接觸複雜工作流程。但核心問題也隨之改變：不再只是「答案準不準確」，而是「系統被允許做什麼，以及它的行動要如何被檢查？」

自主性為何擴大風險面

生成式模型可能在答案中出錯；代理則可能把錯誤推論、惡意指令或遭入侵的工具轉化為外部行動。

例如，擁有金融權限的代理可能執行未經授權的付款、購買、轉帳或取消交易。擁有電子郵件、瀏覽器或雲端存取權的代理，則可能被惡意網頁或文件操弄，導致憑證外洩或機密檔案遭寄出。過度寬廣的權限、薄弱的身分控管，以及職務分離不足，都可能把一個小型模型錯誤放大成嚴重事故。

當結果是模型、指令、資料、工具與其他代理互動後共同形成時，責任歸屬也更難釐清。因此，系統營運者不能只查看最終結果，還必須掌握代理提出的行動、支持該行動的證據，以及實際使用的權限。

能力越強，治理越要跟上

三個階段都適用一些基本原則：指定負責人、限制使用目的、保護資料、部署前測試、持續監測、準備事故應變，並在涉及重大後果的決策中提供有意義的人工作業或覆核機制。

代理式系統因為能影響外部系統，需要額外設置以下控制：

• 最小權限與具時限的憑證；
• 為每個代理設定獨立帳戶與清楚身分；
• 明確界定代理可以讀取、寫入、傳送、購買、刪除或部署的內容；
• 對不可逆或高影響行動設置確認關卡；
• 建立核准工具清單、沙盒環境，並防禦提示注入；
• 設定交易上限與異常偵測機制；
• 保存詳細且防竄改的行動紀錄；
• 實施職務分離，並依風險比例要求人工核准；
• 準備能快速暫停系統的停止開關。

新加坡於 2026 年 1 月 22 日推出「代理式 AI 模型 AI 治理框架」。這是一套給部署組織使用的指引，而不是獨立的 AI 成文法；其核心是人類與組織責任，並主張根據代理的自主程度採取相稱的風險管理與控制措施。

在金融服務方面，新加坡金融管理局的 SAFR 文件提出一種執行期間的治理方法：以結構化紀錄捕捉代理打算做什麼、為何要做，以及支持該行動的證據。

關鍵結論：從「會判斷」到「會行動」

AI 的演進，不只是從「舊 AI」走向「新 AI」。對許多界線明確的決策而言，規則式與預測式系統仍是合適選擇；生成式 AI 帶來更靈活的內容產出與自然語言互動；代理式 AI 則進一步讓系統能透過工具追求目標、影響外部世界。

治理挑戰也會隨能力提升而增加：預測需要關注準確度、偏見與資料漂移；生成需要確認真實性、安全、隱私與內容來源；行動則在此基礎上，還需要權限控管、核准關卡、責任歸屬與復原計畫。最可靠的 AI 產品，不會只依賴模型能力，而會把模型與嚴謹的系統設計及人類監督結合起來。