AI Agent vs 聊天機械人：KAIST 研究揭露 137 倍驚人能源差距

點解 AI agent 咁食電？

同聊天機械人唔同，AI agent 唔係一問一答咁簡單。佢為咗完成任務，會自動做呢啲嘢：

• 制定計劃
• 上網搜尋資料
• 計算同執行程式碼
• 反覆驗證結果

每一步都要呼叫大型語言模型一次。研究發現，AI agent 平均呼叫 LLM 嘅次數係傳統方法嘅 9.2 倍 。仲有，佢哋嘅回應時間最長可以去到傳統聊天機械人嘅 153.7 倍咁耐 。

GPU 嘅隱藏浪費：超過一半時間喺度等

AI agent 用嘅圖像處理器（GPU）效率好差。因為 agent 要等外部工具（例如搜尋引擎或者計算機）俾結果，期間 GPU 冇嘢做，要閒置等待。研究顯示，GPU 嘅閒置時間最高佔咗總執行時間嘅 54.5% 。換句話講，超過一半嘅時間，啲貴價 GPU 係喺度等，冇做任何運算。

對未來數據中心嘅衝擊：可能要用美國一半嘅電

呢個研究嘅重大意義在於佢嘅預測。如果 AI agent 全面普及，數據中心嘅電力需求會爆升。研究團隊模擬咗一個情境：假如每日有 137 億次 AI agent 查詢（大約等於而家 Google 搜尋嘅每日次數），所需嘅數據中心總電力會達到約 198.9 吉瓦（GW）。呢個數字有幾誇張？大約等於 美國全國平均用電量嘅一半 。

呢個發現有咩啟示？

KAIST 嘅呢份研究係一個好重要嘅警號。雖然 AI agent 嘅智能同自主能力比傳統聊天機械人高好多，但背後嘅能源代價非常巨大。如果科技公司同政策制定者唔及早正視呢個問題，積極研發更高效嘅模型同硬件，未來嘅 AI 發展可能會對全球電力系統同環境帶來好大負擔 。

重點一覽

• 能源消耗差距：AI agent（348.41 Wh）比聊天機械人（2.55 Wh）高約 136.5 倍 。
• 回應時間：AI agent 比聊天機械人慢最多 153.7 倍 。
• LLM 呼叫次數：AI agent 嘅平均呼叫次數係 9.2 倍 。
• GPU 閒置時間：最高佔總執行時間嘅 54.5% 。
• 未來預測：每日 137 億次 AI agent 查詢，需要約 198.9 GW 電力，相當於美國一半用電量 。