模型能力再強,都不代表AI已經準備好正式投入營運。APJ(亞太及日本區)的調查報道顯示,77%至87%受訪企業認為,現有本地部署基建未完全準備好支援AI工作負載;新加坡的相關比例為77%。
2
14 真正難題往往不止是模型,而是效能、安全與資料主權,以及如何在分散的環境中部署和管理AI。
要跨過由試點走向生產的關口,企業就要由一開始,將基建、管治和日常營運一併納入計劃,而不是等原型做成了才補救。
試點成功,為何未必可以正式上線?
試點通常在相對受控的環境進行;一旦投入日常運作,就要面對真實資料流程、既有業務系統、可靠度要求、安全控制,以及長期成本。模型只是整個服務的一部分。
APJ相關報道指出,企業將AI工作負載擴展至總部以外時,常見挑戰包括效能瓶頸、安全和資料主權問題,以及部署與管理的複雜度。
2 若團隊把這些視為各自獨立的IT工作,便可能出現一個尷尬局面:原型看似可行,卻沒有清晰、受管控的擴展路徑。
要留意,這些準備度數字來自調查回覆,反映受訪者對基建狀況的看法,並非對每間企業部署AI能力的獨立審核。
12 它們反映業界普遍關注,不能直接用來判斷個別AI項目成敗。
由業務用途倒推基建安排
先釐清要解決的業務問題,再定義服務投入運作後的成功標準,之後才決定AI要在哪裏、以甚麼方式運行。每個用途都應有明確的業務負責人、可衡量的成效指標,以及對服務質素、成本和不確定結果處理方式的清晰要求。
接着盤點應用依賴甚麼:資料存取和傳輸、儲存、運算能力、網絡容量、與現有系統的連接、安全措施,以及日常支援。測試時,亦要盡量模擬預期使用情況。這樣較容易看出瓶頸究竟在模型、基建、資料存取,還是服務營運方式。
AI路線圖和基建路線圖亦要按同一組需求協調。優先更新真正阻礙個別用途的環節,不必因為要做AI,就一次過更換所有舊系統。
管治要融入交付流程
對新加坡金融機構而言,新加坡金融管理局(MAS)的人工智能風險管理指引,列明對監督、風險管理系統及AI生命週期管控的期望。
21
31 MAS亦提及業界共同制定的工具包,協助金融機構把AI風險管理落實到實際工作。
18
對企業團隊來說,重點是上線前先講清楚誰負責甚麼:業務成效、資料、模型、基建和事故應變,都要有明確負責人。訂好審批和檢視關口,說明如何監察系統,以及在甚麼情況下需要人手介入或暫停服務。管治若能影響設計和部署決策,會比最後一刻才加上的簽核更有用。
資料主權不只是選伺服器位置
將資料放在某個地區,並不代表資料控制權的問題就此解決;法律管轄權及其他資料存取因素同樣可能重要。
33 部署前應盤點哪些資料會被處理、資料會流向哪裏,以及日誌和備份等運作所需副本的去向。再檢視適用的司法管轄區和存取安排,並將獲批的資料位置及傳輸規則納入部署和支援程序。
要求會因機構和用途而異。重點不是假設所有AI工作負載都必須在本地部署,而是按適用責任,審慎決定資料放置位置和存取方式。
讓VM與容器在一致管控下協作
不少企業既要支援以虛擬機器(VM)運行的既有業務系統,也要部署以容器為基礎的服務。APJ報道指出,隨着混合IT環境擴展,企業正結合虛擬化和容器技術,但這亦需要新的技能和營運方式。
3
較務實的做法,是讓合適的舊系統繼續運行於VM,並在適合的情況下以容器運行AI服務,再透過受管控的資料介面和API連接。身份管理、安全、監察、備份和復原等做法,則應盡量保持一致。
所謂共用營運模式,意思是管控方式一致、責任清晰,不代表每個工作負載都必須採用同一種技術。
建立可重複的上線路徑
讓業務、資料、平台、安全、風險及營運團隊參與同一個交付流程。只有在依賴項目、管控措施和支援安排都準備妥當時,才將用途推進至正式營運。上線後,除了可靠度、服務質素和成本,也要追蹤對業務真正重要的結果;再把經驗用於改善下一個用途的部署範本和操作流程。
用一級方程式賽車作比喻:模型像引擎,但要跑得穩,底盤、管控、資料做法和負責日常運作的團隊都要配合。要讓AI走出試點,關鍵不是單靠模型馬力,而是整套系統能否在真實環境中持續可靠地運作。