Xanh, vàng, đỏ: Cách đặt ranh giới rõ ràng cho AI trong doanh nghiệp

Tòa án Singapore đưa ra một điểm khởi đầu hữu ích cho quản trị AI: phân loại việc sử dụng theo mức độ trách nhiệm được giao cho hệ thống, thay vì chỉ tuyên bố chung rằng AI “được phép” hoặc “có người giám sát”. Hướng dẫn của tòa án cho phép dùng AI tạo sinh để hỗ trợ chuẩn bị tài liệu nộp tòa, nhưng người sử dụng vẫn phải chịu trách nhiệm bảo đảm nội dung chính xác và được kiểm chứng độc lập. Doanh nghiệp có thể tham khảo nguyên tắc này, song cần xây dựng quy định phù hợp với nhiệm vụ và rủi ro của mình; đây không phải yêu cầu mà tòa án áp đặt lên doanh nghiệp. 36

Phân định theo nhiệm vụ, không chỉ theo công cụ

Cùng một công cụ AI có thể phù hợp để soạn bản nháp ít rủi ro nhưng không phù hợp để đưa ra quyết định ảnh hưởng đến một người. Tòa án Singapore mô tả cách tiếp cận “đèn giao thông”: xanh dành cho những việc như dịch thuật, tóm lược để giúp người dùng hiểu thông tin mà không quyết định vụ việc; vàng là những trường hợp cần thận trọng hơn; đỏ là những việc tòa án không cân nhắc giao cho AI. 638

Doanh nghiệp có thể chuyển cách phân loại này thành khung chính sách thực tế. Các ví dụ dưới đây chỉ là điểm khởi đầu, không phải quy chuẩn áp dụng cho mọi nơi: hãy đánh giá nhiệm vụ cụ thể, loại thông tin được sử dụng và hậu quả nếu xảy ra sai sót.

Xanh: Hỗ trợ công việc thường lệ

Cho phép các công cụ AI đã được phê duyệt hỗ trợ những việc ít rủi ro như định dạng, dịch thuật, sắp xếp thông tin hoặc tạo bản nháp đầu tiên. Chính sách cần nêu rõ công cụ nào được dùng, nhân viên có thể nhập loại thông tin nào và kết quả có cần kiểm tra trước khi sử dụng hay không. Đồng thời, cần nói rõ bản nháp do AI tạo ra tự nó không phải quyết định hay quan điểm chính thức của doanh nghiệp.

Vàng: Chuẩn bị thông tin, không tự quyết định

Với công việc có hệ quả đáng kể, AI có thể giúp sắp xếp chứng cứ, tóm tắt hồ sơ hoặc phác thảo các phương án. Hãy yêu cầu một người rà soát được chỉ định kiểm tra các nhận định quan trọng dựa trên hồ sơ gốc, cân nhắc bối cảnh liên quan và phê duyệt trước khi kết quả tác động đến một cá nhân.

“Kiểm chứng độc lập” nghĩa là quay lại xem chứng cứ hoặc hồ sơ có thẩm quyền làm căn cứ — chứ không phải hỏi một hệ thống AI thứ hai xem AI thứ nhất có đúng không. Hướng dẫn của tòa án Singapore cũng đặt trách nhiệm lên người sử dụng tòa án trong việc bảo đảm tài liệu trình tòa được kiểm chứng độc lập, chính xác, đúng sự thật và phù hợp. 3

Đỏ: Để con người nắm quyền quyết định

Doanh nghiệp có thể xếp các quyết định liên quan đến những vấn đề như việc làm, an toàn hoặc quyền tiếp cận dịch vụ thiết yếu vào nhóm chỉ con người được quyết định. Trong những trường hợp này, AI có thể hỗ trợ khâu chuẩn bị nhưng không nên tự ra quyết định cuối cùng hoặc tự động kích hoạt quyết định. Người chịu trách nhiệm cần xem xét trường hợp cụ thể, có quyền bác bỏ đề xuất của hệ thống và giải thích được quyết định.

Đây là biện pháp bảo vệ được khuyến nghị cho doanh nghiệp, không phải khẳng định rằng tòa án Singapore yêu cầu mọi doanh nghiệp phải áp dụng đúng quy tắc này. Tư pháp Singapore cho biết công cụ AI có thể hỗ trợ thẩm phán đọc và xử lý tài liệu; hiện tại, tòa chưa triển khai AI để cân nhắc chứng cứ, áp dụng luật vào tình tiết vụ việc hoặc thực hiện quyền quyết định theo thẩm quyền. 40

Công khai quy định, nêu rõ việc cụ thể

Một chính sách công khai sẽ hữu ích hơn nếu mô tả những nhiệm vụ thực tế thay vì chỉ tuyên bố chung về “AI có trách nhiệm”. Với mỗi trường hợp sử dụng được phê duyệt, hãy công bố phần giải thích ngắn trả lời các câu hỏi:

• AI được phép làm gì trong nhiệm vụ này — và đâu là giới hạn?
• Nhân viên được phép cung cấp loại thông tin nào cho công cụ?
• Ai kiểm tra kết quả, và cần đối chiếu với nguồn nào?
• Ai chịu trách nhiệm về quyết định cuối cùng?
• Nhân viên hoặc người bị ảnh hưởng có thể nêu quan ngại hay yêu cầu sửa lỗi bằng cách nào?

Trong nội bộ, hãy lưu hồ sơ ở mức phù hợp về công cụ và nhiệm vụ đã dùng, nguồn được đối chiếu và người phê duyệt. Người rà soát cần có đủ thời gian và thẩm quyền để không đồng ý với kết quả AI; nếu không, bước “con người kiểm tra” rất dễ chỉ còn là thủ tục.

Định kỳ đánh giá lại và bảo vệ năng lực phán đoán

Đừng xem màu phân loại là nhãn cố định. Hãy thử nghiệm công cụ cụ thể trong đúng quy trình dự kiến sử dụng, theo dõi lỗi và điều chỉnh biện pháp kiểm soát hoặc tạm dừng nếu cần. Cũng không nên mặc định rằng một nhận định chung về mô hình AI sẽ đúng với mọi nhiệm vụ.

Đồng thời, cần duy trì cơ hội để nhân viên thực hành những công việc mà AI đang hỗ trợ. Chánh án Singapore từng nêu lo ngại rằng AI có thể làm thay đổi các nhiệm vụ pháp lý thường lệ vốn giúp luật sư trẻ xây dựng kỹ năng nền tảng. 2335 Bài học rộng hơn với doanh nghiệp là nhân viên cần đủ trải nghiệm để hiểu công việc, nhận ra sai sót và tự đưa ra nhận định trước khi có thể rà soát đầu ra AI một cách thực chất.

Một nguyên tắc đơn giản để áp dụng

Khung đèn giao thông chỉ hữu ích khi mỗi màu dẫn đến cách làm khác nhau trên thực tế: AI được phép làm gì, con người phải kiểm chứng điều gì, ai chịu trách nhiệm và quyết định có thể được khiếu nại ra sao. Hãy công khai ranh giới theo từng nhiệm vụ, xem xét lại khi công cụ hoặc quy trình thay đổi, và giữ những quyết định có hệ quả đáng kể trong tay những người đủ năng lực và thẩm quyền.