Lời cảnh tỉnh cho lãnh đạo công nghệ: 67% CIO phải chịu trách nhiệm về hệ thống AI nằm ngoài tầm kiểm soát

Tham vọng của CEO đối mặt với thực tế vận hành

Sức ép từ cấp cao nhất là vô cùng lớn. 80% người được hỏi xác nhận rằng CEO của họ đã ban hành các nhiệm vụ bắt buộc về chuyển đổi dựa trên AI . Tuy nhiên, tham vọng này lại không song hành với sự sẵn sàng của tổ chức. Một con số đáng kinh ngạc: 77% lãnh đạo thừa nhận việc áp dụng AI đã vượt xa năng lực quản trị của họ , và chỉ có 11% cảm thấy hoàn toàn sẵn sàng cho quy mô triển khai tác nhân AI dự kiến trong năm tới . Khoảng cách giữa khát vọng chiến lược và sự sẵn sàng hoạt động chưa bao giờ rộng đến thế.

Cái giá ngày càng đắt của các sự cố tác nhân AI

Rủi ro từ việc triển khai AI mất kiểm soát không còn là giả thuyết. Các tổ chức được khảo sát báo cáo trung bình 54 sự cố tác nhân AI chỉ trong năm vừa qua—được định nghĩa là các sự kiện không mong muốn hoặc gây hại cần đến sự can thiệp của con người để sửa chữa . Thiệt hại từ những sự cố này rất đáng kể và đa dạng:

• 17% sự cố được phân loại ở mức độ nghiêm trọng cao, mỗi sự cố cần hơn bốn giờ để ngăn chặn .
• 37% dẫn đến lộ lọt dữ liệu hoặc vi phạm an ninh mạng .
• 33% gây ra lỗi hệ thống dây chuyền, khi một tác nhân gặp trục trặc kích hoạt phản ứng dây chuyền trên khắp các hệ thống liên kết .
• 17% gây ra các vấn đề trực tiếp về tuân thủ quy định pháp lý .

Chi tiêu tăng vọt trong bóng tối

Khi các doanh nghiệp chạy đua xây dựng năng lực AI, chi tiêu dự kiến sẽ tăng vọt một cách ngoạn mục. Tỷ trọng của AI trong ngân sách CNTT được kỳ vọng sẽ tăng từ mức chỉ dưới 15% vào năm 2025 lên gần 25% vào năm 2027, tương đương mức tăng 71% chỉ trong hai năm . Sự tăng trưởng tài chính nhanh chóng này đang diễn ra trong bóng tối đối với nhiều tổ chức. Nghiên cứu cho thấy 84% CxO công nghệ chưa thực sự vận hành hóa việc quản lý tài chính cho AI, và 85% thiếu khả năng giám sát toàn diện chi tiêu AI theo thời gian thực . Nếu không có một hệ thống FinOps (Quản lý tài chính cho hoạt động điện toán đám mây và AI) phù hợp, các nhà lãnh đạo đang 'mò mẫm trong bóng tối' khi con số tài chính ngày càng phình to.

Con đường phía trước: Nhúng sẵn sự kiểm soát vào thiết kế

Nghiên cứu của IBM không chỉ chẩn đoán vấn đề; nó còn định lượng lợi ích của việc giải quyết vấn đề đó. Nghiên cứu tiết lộ một sự phân hóa rõ rệt về hiệu suất giữa hai cách tiếp cận: những tổ chức nhúng trực tiếp sự kiểm soát vào hệ thống AI ("kiểm soát ngay từ thiết kế") và những tổ chức dựa vào quản trị thủ công truyền thống, vốn không thể theo kịp tốc độ.

Các tổ chức thiết kế sẵn cơ chế quản trị trong hệ thống của họ ngay từ đầu, so với những đơn vị sử dụng giám sát thủ công, đạt được kết quả tốt hơn đáng kể :

• Triển khai nhiều hơn gấp 16 lần số lượng tác nhân AI .
• Biên lợi nhuận hoạt động cao hơn 18% .
• Chi tiêu ít hơn gấp 4 lần trong tổng ngân sách AI của họ .
• Ít hơn 25% sự cố AI .

Dữ liệu nhấn mạnh một sự thay đổi quan trọng trong tư duy: quản trị chặt chẽ không phải là cái phanh hãm sự đổi mới – nó chính là động cơ cho phép mở rộng quy mô một cách an toàn và sinh lời. Các phát hiện bổ sung càng củng cố thêm điều này. Các tổ chức có kỷ luật tài chính mạnh mẽ triển khai nhiều hơn gấp 2,4 lần tác nhân AI mà không cần chi một tỷ trọng ngân sách CNTT cao hơn cho AI, và họ có khả năng cao gấp 3 lần để tuyên bố mình đã hoàn toàn sẵn sàng cho quy mô AI sắp tới . Những đơn vị đã sớm thiết kế nền tảng CNTT của mình cho khả năng thích ứng đã đạt được mức lợi tức đầu tư vào AI cao hơn 10% trong năm 2025 .