Bộ trưởng Phát triển Kỹ thuật số và Thông tin Josephine Teo đã công bố chương trình tại một sự kiện quốc tế về an toàn AI vào tháng 5/2026.
Một số mốc triển khai dự kiến:
Nhu cầu kiểm thử an toàn AI đang tăng nhanh khi doanh nghiệp triển khai các mô hình AI vào hệ thống thực tế. Tuy nhiên, chất lượng của các đơn vị kiểm thử AI trên thị trường rất khác nhau.
Một số công ty chuyên thực hiện “red teaming” hoặc thử jailbreak – tức cố tình tìm cách phá vỡ cơ chế bảo vệ của AI để phát hiện lỗ hổng. Nhưng nếu không có chuẩn chung, rất khó đánh giá liệu một đơn vị kiểm thử có thực sự đủ năng lực hay không.
AI TAP được tạo ra nhằm:
Chương trình cũng bổ sung cho nhiều sáng kiến AI khác của Singapore, như:
Các doanh nghiệp muốn được chứng nhận trong chương trình AI TAP sẽ trải qua hai nhóm đánh giá chính.
Các tổ chức kiểm thử phải chứng minh rằng phương pháp đánh giá của họ tuân theo hướng dẫn và chuẩn kỹ thuật cho việc kiểm thử AI.
Ví dụ, họ cần cho thấy năng lực trong:
Ngoài ra, họ phải chứng minh có quy trình kiểm thử có cấu trúc, bộ dữ liệu kiểm thử phù hợp và phương pháp đánh giá rõ ràng.
Không chỉ kiểm tra kỹ thuật, AI TAP còn đánh giá bản thân doanh nghiệp xin chứng nhận.
Các yếu tố có thể được xem xét gồm:
Cách đánh giá hai lớp này nhằm đảm bảo rằng các đơn vị được chứng nhận vừa có năng lực kỹ thuật vừa đáng tin cậy về tổ chức.
AI TAP chưa công bố danh sách kiểm thử chính thức, nhưng các dự án đảm bảo AI của Singapore đã chỉ ra nhiều nhóm rủi ro phổ biến trong hệ thống AI.
Các rủi ro thường được kiểm tra gồm:
Một số thử nghiệm trước đây cho thấy các guardrail có thể hoạt động tốt bằng tiếng Anh nhưng thất bại ở ngôn ngữ khác, và các hệ thống RAG đôi khi làm tăng nguy cơ rò rỉ thông tin nhạy cảm.
Các công ty kiểm thử AI thường kết hợp nhiều kỹ thuật khác nhau, bao gồm tự động hóa và đánh giá thủ công.
Một số phương pháp phổ biến gồm:
Các kỹ thuật này cho phép tester đánh giá cả hiệu năng của hệ thống AI và độ bền vững của các cơ chế bảo vệ.
Một vấn đề lớn trong quản trị AI hiện nay là ai sẽ kiểm tra những người kiểm tra AI. Khi các tổ chức thuê đơn vị bên ngoài để đánh giá hệ thống, họ cần đảm bảo rằng kết quả kiểm thử đáng tin cậy.
AI TAP giải quyết vấn đề này bằng cách chứng nhận chính các công ty kiểm thử.
Nếu chương trình hoạt động hiệu quả, nó có thể mang lại nhiều tác động:
Vì được xem là chương trình đầu tiên kiểu này tại châu Á, AI TAP cũng có thể trở thành mô hình tham khảo cho các quốc gia khác khi xây dựng hệ thống đảm bảo an toàn AI.
Dù mục tiêu và cấu trúc chung đã được công bố, một số chi tiết vận hành của AI TAP vẫn chưa được tiết lộ đầy đủ, chẳng hạn:
Những yếu tố này dự kiến sẽ rõ ràng hơn khi chương trình chính thức mở đơn đăng ký và các công ty kiểm thử đầu tiên tham gia.
Khi AI ngày càng trở thành hạ tầng quan trọng của nền kinh tế số, việc kiểm thử độ an toàn của các hệ thống này trở nên thiết yếu.
Cách tiếp cận của Singapore khá đặc biệt: thay vì chỉ kiểm tra hệ thống AI, họ chứng nhận chính các đơn vị kiểm thử. Nếu mô hình này thành công, nó có thể trở thành một lớp bảo đảm quan trọng trong hệ sinh thái quản trị AI toàn cầu.
Comments
0 comments