Cẩm nang AI 116 trang của Singapore: 7 nguyên tắc hội đồng quản trị cần biết

Phép thử thực tế không phải là các giám đốc có thể nói về mô hình mới nhất đến đâu. Quan trọng hơn là họ có hiểu những trường hợp doanh nghiệp đang dùng AI, biết điều gì có thể xảy ra và đánh giá được năng lực ứng phó của ban điều hành hay không.

2. Đo kết quả, không chỉ đếm hoạt động AI

Đầu tư vào AI nên được đánh giá bằng kết quả kinh doanh cụ thể, thay vì các chỉ số cho thấy doanh nghiệp đã “làm nhiều” với AI. Cẩm nang phân biệt giữa hoạt động — chẳng hạn số dự án thử nghiệm, giấy phép, khóa đào tạo hoặc lần thử công cụ — và giá trị thực tế như quy trình được cải thiện, thời gian tiết kiệm, trải nghiệm khách hàng và tác động vận hành.

Hội đồng có thể bắt đầu bằng những câu hỏi sau:

• Hệ thống đang giải quyết vấn đề kinh doanh nào?
• Kết quả nào được kỳ vọng cải thiện, và cải thiện bao nhiêu?
• Doanh nghiệp sẽ đo mức cải thiện đó bằng cách nào?
• Bằng chứng nào cho thấy một dự án thử nghiệm đã sẵn sàng được triển khai rộng hơn?
• Chi phí cho giám sát, bảo mật, tích hợp và xử lý thất bại là bao nhiêu?

Nhiều dự án thử nghiệm có thể cho thấy sự quan tâm, nhưng tự thân con số đó chưa chứng minh được lợi tức đầu tư.

3. Biến thử nghiệm của nhân viên thành năng lực có quản trị

Nhân viên thường phát hiện những cách dùng AI hữu ích trước khi doanh nghiệp kịp xây dựng chương trình chính thức. Cẩm nang khuyến khích hội đồng và ban điều hành tận dụng kiến thức này, đồng thời đưa hoạt động thử nghiệm vào khuôn khổ kiểm soát của tổ chức.

Điều đó bao gồm việc lập hồ sơ các công cụ do nhân viên xây dựng bằng AI, xác định ai được phép sử dụng và sử dụng vào mục đích nào, cũng như kiểm tra việc đáp ứng các yêu cầu an toàn và quản trị hiện hành. Mục tiêu không phải là dập tắt thử nghiệm, mà là ngăn những nguyên mẫu hữu ích trở thành các hệ thống “vô hình”, không có người hỗ trợ, nhưng vẫn tác động đến khách hàng, nhân viên hoặc dữ liệu doanh nghiệp.

4. Xem rủi ro AI là rủi ro cấp doanh nghiệp

Quản trị AI không chỉ xoay quanh độ chính xác của mô hình. Các thành viên hội đồng được khuyến nghị xem xét rủi ro đạo đức, an ninh mạng, dữ liệu, an toàn, quyền riêng tư và nhân sự, cùng tác động của AI đối với khả năng chống chịu và giá trị dài hạn của doanh nghiệp.

Vì vậy, hội đồng cần biết AI đang được dùng ở đâu, hệ thống liên quan đến loại dữ liệu và bên thứ ba nào, ai chịu trách nhiệm cho từng hệ thống, sự cố được báo cáo ra sao và trong trường hợp nào việc triển khai phải tạm dừng hoặc được rà soát. Mức kiểm soát nên tương xứng với hậu quả nếu xảy ra lỗi: một công cụ hỗ trợ năng suất nội bộ có tác động thấp không cần cùng mức kiểm soát như hệ thống ảnh hưởng đến tuyển dụng, quyền tiếp cận dịch vụ của khách hàng hoặc an toàn.

5. Đặt quy tắc giám sát của con người và “lằn ranh đỏ”

Cẩm nang kêu gọi doanh nghiệp xác định rõ ranh giới ra quyết định. Hội đồng nên quy định khi nào bắt buộc phải có con người xem xét và chỉ ra những “lằn ranh đỏ” — tức các trường hợp không được phép giao quyết định cho hệ thống tự động — đặc biệt khi quyết định ảnh hưởng đến khách hàng, nhân viên, an toàn hoặc quyền riêng tư.

Giám sát của con người chỉ có ý nghĩa khi người kiểm tra có đủ thông tin, thẩm quyền và thời gian để chất vấn hoặc đảo ngược khuyến nghị do AI đưa ra. Một bước phê duyệt mang tính hình thức không nên biến thành việc ký duyệt máy móc cho kết quả tự động.

6. Tăng lớp bảo vệ khi AI hỗ trợ quyết định về nhân sự

AI được dùng trong tuyển dụng, thăng chức hoặc đánh giá hiệu suất có thể ảnh hưởng trực tiếp đến cơ hội và sinh kế của con người. Cẩm nang khuyến nghị phải có con người xem xét, kiểm tra thiên lệch và đánh giá chất lượng dữ liệu khi sử dụng AI cho các mục đích này. Đồng thời, doanh nghiệp cần có quy trình rõ ràng để người bị ảnh hưởng có thể phản đối hoặc yêu cầu xem xét lại quyết định.

Với hội đồng quản trị, điều này biến nguyên tắc công bằng thành những câu hỏi giám sát cụ thể: Bằng chứng nào cho thấy hệ thống hoạt động đúng mục tiêu? Nhóm nào có thể chịu bất lợi? Một cá nhân có thể phản biện kết quả bằng cách nào?

7. Đưa khả năng chống chịu trước rủi ro mạng và trách nhiệm giải trình lên cấp hội đồng

Cẩm nang đặt AI trong trách nhiệm rộng hơn về khả năng chống chịu của tổ chức và hệ thống số. Các khuyến nghị phản ánh kỳ vọng ngày càng lớn rằng hội đồng phải chủ động giám sát rủi ro liên quan đến AI, trong đó có nguy cơ an ninh mạng, thay vì cho rằng các đội ngũ kỹ thuật có thể tự xử lý tất cả.

Các giám đốc nên hỏi ban điều hành AI đang làm thay đổi “bề mặt tấn công” của doanh nghiệp ra sao, dữ liệu nhạy cảm được bảo vệ thế nào, nhà cung cấp được đánh giá bằng tiêu chí gì và công ty sẽ ứng phó ra sao nếu hệ thống AI bị xâm nhập hoặc tạo ra đầu ra gây hại. Cơ chế kiểm soát cụ thể sẽ khác nhau tùy tổ chức, nhưng trách nhiệm đặt câu hỏi vẫn thuộc về hội đồng.

Hội đồng có thể bắt đầu từ đâu?

Một lần rà soát ban đầu có thể tập trung vào 5 câu hỏi:

1. Doanh nghiệp đang sử dụng AI ở đâu, bao gồm cả các công cụ do nhân viên tự xây dựng?
2. Những hệ thống nào có ý nghĩa chiến lược hoặc tác động lớn?
3. Ban điều hành đang báo cáo cho hội đồng những chỉ số nào về kết quả và rủi ro?
4. Ở đâu bắt buộc phải có con người xem xét, và ở đâu quyết định tự động bị cấm?
5. Người bị ảnh hưởng có thể phản đối quyết định hay không, và doanh nghiệp có thể tạm dừng hệ thống một cách an toàn không?

Bài học rộng hơn từ cẩm nang là quản trị AI có trách nhiệm không phải một chính sách ban hành một lần rồi để đó. Hội đồng cần đủ hiểu biết để giám sát chiến lược, đủ bằng chứng để đánh giá giá trị và đủ thẩm quyền để đặt giới hạn khi rủi ro lớn hơn lợi ích.