當AI跑得比規則還快：IBM揭露企業高層的「控制鴻溝」

AI代理事故的代價日漸攀升

AI不受控部署的風險，已不再是紙上談兵。受訪組織回報，光在過去一年內，平均就遭遇了54起AI代理事故——定義為需要人為修正的非預期或有害事件 。這些事故造成的損害顯著且多元：

• 17% 的事故被歸類為高嚴重性，每次需要投入超過四小時來控制損害 。
• 37% 導致了資料外洩或安全漏洞 。
• 33% 引發了連鎖性的系統故障，也就是一個失控的代理在相互連結的系統中觸發了骨牌效應 。
• 17% 直接觸發了法規遵循的問題 。

能見度不足，支出卻高速飆升

隨著企業競相建構AI能力，相關支出預計將急劇飆升。AI佔整體IT預算的比重，預計將從2025年的不到15%，成長至2027年的近25%，代表著短短兩年內成長71% 的驚人增幅 。然而，對許多組織而言，這波快速的財務成長是在一片漆黑中進行的。研究發現，84%的科技高階主管尚未將AI的財務管理完全制度化，而85% 的人缺乏對即時AI支出的完整能見度 。少了專為AI設計的財務營運（FinOps）機制，在財務風險急遽升高的此刻，領導者們無異於在盲目飛行。

解方：從設計端就嵌入控制

IBM的研究不僅診斷出問題，更量化了解決問題的具體回報。這份研究揭示了兩種做法之間的鮮明績效對比：一種是將控制機制直接嵌入AI系統的「設計即控制」（control by design），另一種則是依賴傳統、人工治理，但腳步完全跟不上的方式。

與仰賴人工監督的組織相比，那些從一開始就將治理架構設計進系統中的組織，取得了極為顯著的成果 ：

• 部署的AI代理數量高出16倍 。
• 營業利潤率高出18% 。
• 在整體AI預算上的支出節省了四分之三 。
• AI事故發生率減少了25% 。

數據凸顯了一個關鍵的思維轉變：嚴謹的治理並非創新的煞車，反而是實現安全且可獲利之規模化擴張的引擎。其他研究結果也進一步證實了這點。具備強大財務紀律的組織，在AI佔IT預算比例並未提高的情況下，部署的AI代理數量仍多出1.4倍，且其自認已為到來的AI規模做好萬全準備的可能性，高出三倍 。而那些很早就為適應性而設計IT基礎的企業，則在2025年就回報了高出10%的AI投資報酬率 。