先進模型,不等於能直接投入正式營運。亞太及日本區(APJ)的調查報告顯示,受訪企業中有 77% 至 87% 表示,內部部署的基礎設施尚未完全準備好支援 AI 工作負載;新加坡的比例為 77%。
2
14 這反映企業面對的不只是模型能力,還包括效能、資安與資料主權,以及在分散式環境中部署和管理 AI 的難度。要讓 AI 走出試點階段,這些基礎必須與應用需求一併規劃,而不是等到原型完成後才補上。
試點成功,為何仍不一定能上線?
在受控環境中表現良好的 AI 應用,一旦進入日常營運,就得面對真實資料流、既有業務系統、可靠度要求、資安控管與持續成本。模型只是整套服務中的一個環節。
APJ 相關報導指出,企業想把 AI 部署擴展至總部以外時,常遇到效能瓶頸、資安與資料主權疑慮,以及部署和管理複雜等問題。
2 若這些挑戰被當成彼此無關的基礎設施工作,團隊可能做出有潛力的原型,卻找不到一條清楚且符合治理要求的擴展路徑。
這些準備度數字來自問卷調查,反映受訪者對基礎設施的看法,並非對每家企業 AI 部署能力的獨立稽核。
12 因此,它們呈現的是普遍顧慮,而不是預測哪些專案必定成功或失敗的精確指標。
從業務需求規劃正式部署
先界定要解決的具體業務問題,並在選擇 AI 的部署方式與位置之前,訂好成功上線的標準。每個應用都應有明確的業務負責人、可衡量的成果,以及對服務品質、成本和結果不確定或系統故障時的處理要求。
接著盤點應用所依賴的環節:資料存取與傳輸、儲存、運算能力、網路容量、既有系統介接、資安控制和維運支援。測試時也應盡可能貼近預期的實際使用情境,才能判斷瓶頸究竟來自模型、基礎設施、資料存取,還是服務的營運方式。
把 AI 路線圖與基礎設施路線圖,按照這些需求一起規劃。優先改善阻礙特定應用的環節,而不是把導入 AI 當成一次全面汰換所有舊系統的理由。
把治理納入交付流程
對新加坡金融機構而言,新加坡金融管理局(MAS)的人工智慧風險管理指引,說明了對監督、風險管理制度與 AI 生命週期控管的期望。
21
31 MAS 也為金融機構提供業界共同制定的工具,協助將 AI 風險管理付諸實行。
18
對企業團隊來說,重點是在上線前釐清責任:指定業務成果、資料、模型、基礎設施與事故應變的負責人;設定審查和核准關卡;說明如何監控系統,以及何時需要人工介入或暫停服務。治理若能影響設計與部署決策,就比最後才補上一道簽核更有用。
將資料主權視為營運議題
選定資料中心所在地,並不能單獨回答誰能控制或存取資料的所有問題;法律管轄權等因素也可能相關。
33 部署前應盤點哪些資料會被處理、資料會流向何處,也要納入紀錄檔與備份等營運資料副本。接著檢視服務涉及的司法管轄區與存取安排,並將核准的資料位置及傳輸規則納入部署和支援程序。
不同企業與應用面對的要求並不相同。重點不是假設每一種 AI 工作負載都必須留在地端,而是根據適用義務,審慎決定資料與服務的部署位置及存取方式。
讓虛擬機器與容器在一致控管下協作
許多企業既要支援以虛擬機器(VM)運作的既有業務系統,也要支援以容器為基礎的新服務。APJ 報導指出,隨著混合式 IT 環境普及,企業正結合虛擬化與容器技術,但這也需要新的技能與營運方式。
3
可行的做法是:在合適的情況下,讓既有系統繼續使用虛擬機器;AI 服務則在適合時採用容器,並透過受控的資料介面與 API 連接。兩者仍可採用一致的身分管理、資安、監控、備份與復原做法。共同的營運模式,代表控管方式一致、責任清楚,不代表所有工作負載都得使用同一種技術。
建立可重複的擴展流程
讓業務、資料、平台、資安、風險與營運團隊參與同一套交付流程。只有在相依項目、控管措施與支援安排都準備就緒時,才將應用推進至正式環境。上線後,除了可靠度、服務品質與成本,也要持續追蹤對業務真正重要的成果,並將經驗用於改善下一個應用的部署範本和作業程序。
以一級方程式賽車作比喻:模型就像引擎,但整輛車要跑得穩,還得靠其他部分配合。基礎設施、治理、資料管理和維運團隊,都是 AI 能否在試點以外穩定運作的一部分。