Muốn có chuẩn an toàn AI toàn cầu, phải để bên độc lập kiểm chứng

Một nhà phát triển tuyên bố hệ thống AI của mình “an toàn” chưa đủ để công chúng hay các nước khác tin tưởng. Câu hỏi quan trọng hơn là: ai được kiểm tra tuyên bố đó, kiểm tra bằng cách nào và điều gì xảy ra nếu hệ thống không đạt yêu cầu?

Bộ trưởng Phát triển Kỹ thuật số và Thông tin Singapore Josephine Teo đã so sánh AI với hàng không dân dụng: nhiều lớp bảo vệ giúp người dân yên tâm sử dụng máy bay thường xuyên, và AI cũng cần một cách tiếp cận như vậy khi ngày càng được ứng dụng rộng rãi. 36 Từ góc nhìn đó, một cơ chế an toàn AI toàn cầu nên kết hợp tiêu chuẩn chung, kiểm định độc lập và quyền thực thi thực chất của từng quốc gia.

Bài học hàng không: hợp tác từng bước

Quy tắc hàng không quốc tế không xuất hiện cùng lúc. Luật quốc gia và các thỏa thuận song phương có trước Công ước Paris năm 1919; Công ước Chicago năm 1944 đặt nền tảng cho khuôn khổ mới, còn Tổ chức Hàng không Dân dụng Quốc tế (ICAO) chính thức ra đời năm 1947. 313935 Với AI, bài học không phải là bê nguyên quy định hàng không sang một lĩnh vực khác, mà là khởi đầu bằng các thỏa thuận khả thi rồi mở rộng khi các nước đã có cách làm chung.

Theo một mô hình có thể xây dựng, một tổ chức quốc tế sẽ điều phối tiêu chuẩn tối thiểu, công nhận năng lực của đơn vị kiểm định và đối chiếu dữ liệu sự cố. Cơ quan quản lý trong nước vẫn phải có quyền thanh tra, yêu cầu sửa đổi, hạn chế triển khai và xử phạt. Chứng nhận quốc tế không thể thay thế việc thực thi ở cấp quốc gia.

An toàn cũng không kết thúc vào ngày sản phẩm ra mắt. Hệ thống cần được kiểm tra trước khi triển khai, theo dõi trong quá trình vận hành và đánh giá lại sau những thay đổi quan trọng. Mọi chấp thuận nên gắn với phiên bản cụ thể và bối cảnh sử dụng đã được kiểm tra, kèm phương án quay về phiên bản trước hoặc ngừng sử dụng khi cần.

Kiểm định độc lập phải nhìn được vào bằng chứng

Một nhãn “đã kiểm định” hay điểm số công bố trên bộ bài kiểm tra chưa đủ. Đơn vị đánh giá được công nhận cần quyền tiếp cận an toàn tới mô hình, cấu hình triển khai, tài liệu liên quan và hồ sơ các lỗi nghiêm trọng. Phương pháp cùng kết quả phải được ghi chép đủ rõ để một đơn vị đủ năng lực khác có thể chất vấn hoặc kiểm tra lại; đồng thời, quy trình tiếp cận phải bảo vệ dữ liệu cá nhân, bí mật kinh doanh và thông tin nhạy cảm về an ninh.

Với hệ thống rủi ro cao, nhà phát triển có thể phải nộp hồ sơ lập luận về an toàn: hệ thống được phép làm gì, đã được thử nghiệm ra sao, biện pháp bảo vệ nào có bằng chứng hiệu quả, rủi ro nào còn tồn tại và sự cố sẽ được xử lý thế nào. Nếu bằng chứng không đủ, cơ quan quản lý phải có khả năng yêu cầu khắc phục hoặc giới hạn việc triển khai. Mục tiêu là kiểm chứng việc đáp ứng các yêu cầu đã xác định, không phải hứa rằng AI tuyệt đối không thể gây hại.

Cách trả tiền cho việc kiểm định cũng ảnh hưởng đến tính độc lập. Các nhà phát triển lớn có thể đóng góp vào quỹ chung hoặc nộp phí do cơ quan quản lý điều phối, thay vì trực tiếp chọn và chi trả cho bên đánh giá mình. Điều tra độc lập những sự cố nghiêm trọng và cả các vụ suýt xảy ra sự cố nên đặt trọng tâm vào ngăn tái diễn. Cơ chế khuyến khích báo cáo trung thực không đồng nghĩa với miễn trách nhiệm cho hành vi che giấu hay sai phạm.

Singapore có thể đóng vai trò gì?

Bà Teo chủ trương xây dựng biện pháp bảo vệ song song với việc ứng dụng AI. Các thông tin được dẫn cũng nêu bộ công cụ AI Verify và Viện An toàn AI của Singapore là nền tảng cho hoạt động thử nghiệm, đánh giá của nước này. 13 Singapore có thể là nơi tổ chức đánh giá chung hoặc trao đổi kỹ thuật bảo mật trong một mạng lưới phòng kiểm định được công nhận.

Tuy nhiên, đặt một cơ sở tại Singapore không tự động khiến Mỹ và Trung Quốc cùng tin tưởng. Niềm tin đó còn phụ thuộc vào cơ chế quản trị minh bạch, quy tắc tiếp cận an toàn, khả năng khiếu nại độc lập và việc cả hai nước thực sự tham gia. Một mạng lưới phân tán cũng sẽ tránh phụ thuộc vào một địa điểm duy nhất.

Bắt đầu từ rủi ro chung, không chờ đồng thuận về giảm tốc AI

Bất đồng về tốc độ phát triển AI vẫn rất lớn. Theo Reuters, Dario Amodei, Sam Altman và Elon Musk đã kêu gọi phối hợp giảm tốc; Mark Zuckerberg nghiêng về các biện pháp bảo vệ do thị trường dẫn dắt, còn Jensen Huang bác bỏ nhu cầu có thêm quy định mới. 4748 Trung Quốc đã phản đối lời kêu gọi giảm tốc. Tổng thống Mỹ Donald Trump cũng nói ông không kỳ vọng hội nghị thượng đỉnh ngày 24/9 với Chủ tịch Trung Quốc Tập Cận Bình sẽ tạo chuyển biến về các biện pháp kiểm soát AI; tường thuật về cuộc gặp cho thấy kỳ vọng về một đột phá lớn vốn đã thấp. 585049

Các nước không nhất thiết phải giải quyết mọi bất đồng ấy trước khi xử lý những nguy cơ mà bên nào cũng muốn tránh. Theo thông tin về đề xuất của các chuyên gia an ninh Mỹ và Trung Quốc, những điểm khởi đầu gồm giới hạn đối với AI liên quan hệ thống hạt nhân, duy trì quyền kiểm soát của con người với các cuộc tấn công mạng có hậu quả lớn và lập đường dây nóng cho sự cố AI tự động. 20 Từ đó, các nước có thể tiến tới đầu mối liên lạc khẩn cấp, thông báo sự cố nghiêm trọng và trao đổi kỹ thuật có đi có lại. Mỹ và Trung Quốc cần tham gia, nhưng các nước khác cũng phải có tiếng nói khi đặt tiêu chuẩn và được tiếp cận năng lực kiểm định.

Quy định chặt ở nơi rủi ro cao

Kiểm soát vũ khí gợi ra một nguyên tắc hữu ích: ưu tiên những cam kết qua lại đủ hẹp để có thể kiểm chứng. Một hiệp ước AI trong tương lai có thể lập cơ quan thường trực để điều phối và rà soát việc tuân thủ, trong khi phương pháp kiểm định kỹ thuật được cập nhật theo thời gian. Không hiệp ước hạt nhân hay mô hình ICAO nào là khuôn mẫu có thể áp dụng nguyên vẹn cho AI.

Cách giám sát theo mức độ rủi ro của lĩnh vực tài chính gợi ra nguyên tắc thứ hai: đặt nghĩa vụ nghiêm ngặt nhất ở nơi sự cố có thể gây tác động lớn. Nhà phát triển và bên triển khai hệ thống rủi ro cao có thể phải chịu đánh giá độc lập, trách nhiệm của ban lãnh đạo, kế hoạch khôi phục và nghĩa vụ báo cáo kịp thời các lỗi an toàn nghiêm trọng, rò rỉ dữ liệu đáng kể, vụ tấn công mạng hoặc mất cắp mô hình. Doanh nghiệp nhỏ cung cấp dịch vụ rủi ro thấp có thể dùng hạ tầng kiểm thử chung và hồ sơ đơn giản hơn; quy mô nhỏ không phải lý do miễn kiểm soát một hệ thống nguy hiểm.

Một hiệp ước và cơ quan thường trực trước năm 2030 có thể là mục tiêu chính sách tham vọng, không phải dự báo chắc chắn. Thước đo tiến bộ gần hơn là liệu các nước có thống nhất được thế nào là sự cố phải báo cáo, thế nào là đơn vị kiểm định độc lập, những bảo vệ nào cần áp dụng qua lại — và liệu cơ quan quản lý có thể hành động khi bằng chứng an toàn không đạt yêu cầu.