Muốn AI chậm lại có ý nghĩa, cần những gì — và Singapore có thể đóng vai trò ra sao?

Một đề xuất làm chậm AI có ý nghĩa nên kiểm soát nhịp phát triển các hệ thống tiên tiến nhất, chứ không đóng băng việc ứng dụng AI trên toàn nền kinh tế. Những lời kêu gọi gần đây từ các lãnh đạo ngành đã đưa kiểm định độc lập và phối hợp lên bàn thảo luận. Nhưng để biến các đề xuất đó thành biện pháp bảo vệ đáng tin cậy, lời hứa tự nguyện là chưa đủ: việc đánh giá cần độc lập, kết quả phải ảnh hưởng đến quyết định phát hành, còn quy định cần tương xứng với mức độ rủi ro.

Singapore có một số nền tảng hữu ích cho công việc này, gồm khung quản trị AI tác nhân, công cụ kiểm thử AI Verify và chương trình công nhận đơn vị kiểm thử AI bên thứ ba. Thách thức tiếp theo là kết nối các công cụ ấy với những quyết định rõ ràng, dựa trên bằng chứng về chính các hệ thống đang được đưa vào sử dụng. 4

Lời kêu gọi làm chậm AI nói lên điều gì — và chưa khẳng định điều gì?

Các đề xuất gần đây tập trung vào tốc độ phát triển AI tiên phong — những hệ thống có năng lực cao nhất, trong bối cảnh biện pháp an toàn của nhà phát triển và hoạt động giám sát bên ngoài có thể khó theo kịp sự tiến bộ về năng lực. Những phương án được đề cập gồm cho phép chuyên gia đánh giá bên ngoài tiếp cận liên tục với các công ty phát triển AI tiên phong, phối hợp xây dựng tiêu chuẩn an toàn và thúc đẩy hợp tác quốc tế rộng hơn.

Các đề xuất này cho thấy sự quan tâm đang tăng lên, chứ chưa tạo thành chính sách thống nhất hay thỏa thuận ràng buộc giữa các công ty AI. Báo cáo An toàn AI Quốc tế nhận định các nỗ lực quản lý rủi ro vẫn đang phát triển và phần lớn sáng kiến của doanh nghiệp còn mang tính tự nguyện. Điểm này rất quan trọng: việc một công ty cam kết kiểm thử mô hình không đồng nghĩa với quy định có thể buộc công ty trì hoãn phát hành khi rủi ro nghiêm trọng vẫn chưa được xử lý.

Biến việc phát hành thành một cổng kiểm soát dựa trên rủi ro

Một cách tiếp cận thực tế là đặt điều kiện nghiêm ngặt hơn cho hệ thống có năng lực hoặc quyền hạn lớn hơn, thay vì tạm dừng mọi hoạt động sử dụng AI. Công cụ hỗ trợ soạn thảo ít tác động và một tác nhân được phép thực hiện hành động có hệ quả đáng kể không nên mặc nhiên chịu cùng một yêu cầu. Khung AI tác nhân của Singapore đã khuyến nghị đánh giá và giới hạn rủi ro, đồng thời đặt các điểm cần con người phê duyệt trước những hành động quan trọng hoặc nhạy cảm. 46

Với mô hình AI tiên phong và các ứng dụng có tác động lớn, nhà hoạch định chính sách có thể phát triển nguyên tắc đó thành quy trình trước khi phát hành, gồm:

• Đánh giá độc lập trước khi phát hành: Cấp cho đơn vị đánh giá bên ngoài đủ năng lực quyền tiếp cận an toàn với hệ thống và bằng chứng liên quan; kiểm tra những năng lực nguy hiểm và khả năng bị lạm dụng có thể dự đoán. Trong các lời kêu gọi gần đây, việc cho chuyên gia đánh giá tiếp cận liên tục đã được đề xuất như một cách kiểm soát nhịp phát triển AI tiên phong; đây chưa phải yêu cầu phổ quát đang được áp dụng.
• Đặt ngưỡng rõ ràng và có biện pháp tiếp theo: Công bố hoặc quy định rõ những phát hiện nào sẽ dẫn đến yêu cầu bổ sung biện pháp bảo vệ, hạn chế quyền truy cập hoặc trì hoãn phát hành. Nếu không đạt đánh giá, doanh nghiệp cần có phản hồi được ghi nhận; khi rủi ro đủ lớn, phải giữ lại việc phát hành thay vì chỉ chuyển sang một vòng rà soát nội bộ khác. Đây là các biện pháp quản trị được đề xuất, không phải yêu cầu đã có trong khung hiện hành của Singapore. 4
• Điều chỉnh biện pháp theo cách triển khai: Với tác nhân được trao quyền thực hiện hành động quan trọng, có thể cân nhắc giới hạn quyền truy cập, yêu cầu con người phê duyệt ở các bước then chốt, theo dõi hoạt động và quy định trách nhiệm rõ ràng. Khung của Singapore ủng hộ việc giới hạn rủi ro và duy trì giám sát thực chất của con người; biện pháp cụ thể cần phù hợp với hệ thống và mục đích sử dụng. 48
• Đánh giá lại khi hệ thống thay đổi đáng kể: Kiểm tra lại những thay đổi lớn về mô hình, công cụ mà hệ thống sử dụng hoặc bối cảnh triển khai, thay vì xem một lần kiểm thử trước đây là bảo đảm lâu dài. Đây là đề xuất nhằm giữ cho hoạt động đánh giá còn phù hợp khi hệ thống đi vào sử dụng thay đổi.

Các ứng dụng rủi ro thấp nên có lộ trình triển khai rõ ràng và nhẹ hơn. Quy định dựa trên rủi ro có thể tạo điều kiện cho doanh nghiệp ứng dụng AI mà không biến một kết quả kiểm thử đạt yêu cầu thành bằng chứng rằng hệ thống an toàn trong mọi hoàn cảnh. Đạo luật AI của Liên minh châu Âu là một ví dụ về cách tổ chức quy định dựa trên rủi ro của từng mục đích sử dụng AI.

Quy định nên minh bạch, kiểm thử nên độc lập

Phối hợp quốc tế có thể giúp các hoạt động đánh giá dễ so sánh hơn và giảm động lực tìm đến nơi có giám sát lỏng lẻo nhất. Các chính phủ có thể cùng xây dựng phương pháp kiểm thử tương thích, cơ chế chia sẻ thông tin sự cố và yêu cầu tối thiểu đối với hệ thống rủi ro cao nhất; sau đó, các đơn vị đánh giá độc lập có thể đối chiếu bằng chứng với những yêu cầu ấy. Các đề xuất gần đây về làm chậm AI cũng kêu gọi phối hợp giữa doanh nghiệp và giữa các quốc gia.

Phân định trách nhiệm là điều cốt yếu. Cơ quan công quyền cần đặt ra ngưỡng có thể thực thi và xác định hậu quả khi vượt ngưỡng. Doanh nghiệp có thể đóng góp hiểu biết kỹ thuật, nhưng không nên là bên duy nhất tự quyết xem hệ thống của mình có đạt chuẩn hay không. Đơn vị kiểm thử độc lập cần có phương pháp minh bạch và công khai xung đột lợi ích. Đây là những nguyên tắc thiết kế cho một cơ chế giám sát được đề xuất, chứ chưa phải đặc điểm đã được xác lập trong các lời kêu gọi từ ngành.

Singapore có thể phát triển từ những nền tảng nào?

Khung Quản trị AI Mẫu dành cho AI tác nhân của Singapore cung cấp hướng dẫn cho các tổ chức triển khai tác nhân AI, trong đó có đánh giá rủi ro, trách nhiệm giải trình của con người và các biện pháp kiểm soát. Đây là hướng dẫn về triển khai có trách nhiệm, chứ tự thân chưa phải một cổng phát hành có tính bắt buộc. 468

AI Verify cung cấp công cụ kiểm thử, còn Chương trình Công nhận Đơn vị Kiểm thử AI ghi nhận các đơn vị kiểm thử bên thứ ba có năng lực kỹ thuật và khả năng vận hành phù hợp. Kết hợp lại, các sáng kiến này có thể hỗ trợ việc đánh giá nhất quán hơn trong các ứng dụng kinh doanh và tài chính. Singapore cũng có thể khuyến khích xây dựng bộ tiêu chí bảo đảm chung và mẫu hợp đồng nêu rõ nhà cung cấp mô hình, đơn vị tích hợp hệ thống, bên triển khai và đơn vị kiểm thử cần chứng minh điều gì. Đây là những bước đi tiềm năng, chưa phải chính sách đã được xác lập trong các khung nói trên.

Một mục tiêu hữu ích là công nhận xuyên biên giới bằng chứng và phương pháp kiểm thử, thay vì khẳng định một chứng nhận quốc gia có thể bảo đảm an toàn cho mọi hệ thống và mọi cách sử dụng. Khung hướng dẫn và công cụ kiểm thử có thể giúp bằng chứng được trình bày có cấu trúc hơn; nhưng cơ quan quản lý và tổ chức triển khai vẫn cần đánh giá xem bằng chứng ấy có phản ánh đúng bối cảnh sử dụng và rủi ro thực tế hay không.

Đánh giá an toàn AI, độ tin cậy phần mềm và an ninh mạng cùng nhau

Kiểm thử đầu ra của mô hình chỉ là một phần trong việc đánh giá tác nhân AI. Đánh giá đầy đủ cũng cần xem xét hệ thống phần mềm bao quanh nó và mức độ an toàn của các công cụ, quyền truy cập mà hệ thống có thể sử dụng. Đây là những câu hỏi liên quan nhưng khác nhau: AI có thể tạo ra hành vi gây hại nào; ứng dụng hoàn chỉnh hoạt động ra sao khi có sự cố hoặc thay đổi; và kẻ tấn công có thể xâm nhập hay điều hướng hệ thống sang mục đích khác hay không?

Đánh giá kết hợp như vậy là một phần mở rộng được khuyến nghị cho hoạt động bảo đảm, không có nghĩa mọi công cụ hiện có đều đã bao quát đủ cả ba lĩnh vực. Tài liệu về Bộ công cụ AI Verify mô tả các kiểm thử kỹ thuật dành cho hệ thống máy học truyền thống, gồm tính công bằng, khả năng giải thích và độ vững chắc. Vì vậy, cần nói rõ những kiểm thử đầu-cuối nào còn cần cho các ứng dụng AI tác nhân, thay vì mặc định rằng kết quả ở cấp mô hình chứng nhận được toàn bộ hệ thống.

Phép thử cho một đề xuất làm chậm AI thực chất

Việc làm chậm AI chỉ có ý nghĩa khi bằng chứng độc lập có thể làm thay đổi bước tiếp theo: một hệ thống rủi ro cao có thể bị trì hoãn, hạn chế hoặc yêu cầu khắc phục nếu biện pháp bảo vệ chưa đủ, trong khi các ứng dụng thông thường, ít rủi ro vẫn có lộ trình triển khai tương xứng. Khung hướng dẫn và chương trình kiểm thử của Singapore tạo cơ sở để xây dựng cơ chế bảo đảm như vậy; nhưng ngưỡng phát hành, cách thực thi và phạm vi đánh giá vẫn cần được quy định rõ.