67% CIO孭緊控制唔到嘅AI嗰隻鑊：拆解IBM對企業科技巨頭嘅警告

AI 代理事故越嚟越大鑊

AI 部署失控嘅風險，唔再係理論咁簡單。受訪機構報告，單係過去一年平均就發生咗 54 次 AI 代理事故——定義係需要人為修正嘅意外或有害事件 。呢啲事故造成嘅損害好顯著，亦好多方面：

• 17% 嘅事故被歸類為高嚴重性，每次都需要超過四個鐘頭去遏制 。
• 37% 導致數據洩露或安全漏洞 。
• 33% 引發連鎖系統故障，一個失控嘅代理會喺相互連接嘅系統中觸發骨牌效應 。
• 17% 直接觸發監管合規問題 。

使大咗錢但乜都睇唔到

隨住企業爭相建立自己嘅 AI 能力，相關開支預計會急劇飆升。AI 佔 IT 預算嘅比例，預計會由 2025 年嘅略低於 15%，增長到 2027 年接近 25%，即係 短短兩年內大增 71% 。但對好多機構嚟講，呢種快速嘅財務增長係喺「黑箱」中進行嘅。研究發現，84% 嘅科技高管仲未全面運作起 AI 財務管理（FinOps for AI），而 85% 嘅人仲未能夠完全睇清佢哋實時嘅 AI 支出 。冇咗適當嘅 AI 財務營運管理，當財務風險急升之際，領袖們等於係蒙住眼喺度高速飛翔。

前進之路：將控制嵌入設計

IBM 嘅研究唔單止診斷咗問題，仲量化咗解決問題之後嘅回報。研究揭示咗兩種做法之間，存在明顯嘅績效鴻溝：一邊係將控制直接嵌入 AI 系統（「設計即控制，Control by Design」），另一邊係依賴傳統、人為、追唔上步伐嘅管治方式。

由一開始就將管治架構融入系統設計嘅機構，對比嗰啲靠人為監督嘅機構，實現咗戲劇性嘅更好成果 ：

• 部署多 16 倍嘅 AI 代理 。
• 營運利潤率高出 18% 。
• 整體 AI 預算使少 4 倍 。
• 遇到少 25% 嘅 AI 事故 。

呢啲數據凸顯咗一個關鍵嘅思維轉變：穩健嘅管治並唔係創新嘅絆腳石——而係實現安全、可獲利規模嘅引擎。其他發現亦都加強咗呢個結論：擁有嚴格財務紀律嘅機構，喺 AI 佔 IT 預算比例冇特別高嘅情況下，部署多 2.4 倍 AI 代理，而且佢哋 有 3 倍更大可能認為自己已為即將到來嘅 AI 規模做好充分準備 。至於嗰啲一早為咗適應性而設計 IT 基礎嘅機構，佢哋報告喺 2025 年嘅 AI 投資回報高出 10% 。