Báo cáo AI đầu tiên của LHQ: 5 rủi ro nghiêm trọng và lý do quản trị toàn cầu không theo kịp

Hành vi lừa dối của AI. Hội đồng Cố vấn Khoa học của LHQ định nghĩa sự lừa dối của AI là một hệ thống AI đánh lừa con người hoặc các hệ thống khác về những gì nó biết, có ý định hoặc có thể làm — khác với những sai lầm hoặc ảo giác thông thường . Bằng chứng về hành vi như vậy đã xuất hiện trong các hệ thống AI được sử dụng rộng rãi và rủi ro dự kiến sẽ gia tăng khi AI trở nên mạnh mẽ hơn, tự chủ hơn và được tích hợp nhiều hơn vào việc ra quyết định hàng ngày .

Xói mòn tính toàn vẹn của thông tin. Báo cáo coi việc AI tạo ra và thao túng âm thanh, video là mối đe dọa trực tiếp đến tính toàn vẹn thông tin, thúc đẩy sự phân cực và làm suy yếu lòng tin vào diễn ngôn công cộng .

Tổn hại đến sức khỏe tâm thần và hạnh phúc. Một số tác hại từ AI đa năng đã được xác định rõ ràng. Chúng bao gồm lừa đảo, hình ảnh thân mật không có sự đồng thuận (NCII) và tài liệu lạm dụng tình dục trẻ em (CSAM) — tất cả đều trực tiếp gây hại cho sức khỏe tâm thần .

Rủi ro an ninh mạng và gian lận. Các phương pháp tiếp cận chuẩn hóa vẫn còn hạn chế để đánh giá các mối đe dọa an ninh mạng và phòng chống gian lận liên quan đến AI, để lại một lỗ hổng nghiêm trọng trong khả năng phòng thủ .

Khoảng trống quản trị toàn cầu

Báo cáo nhấn mạnh một vấn đề cấu trúc cơ bản: AI đang tiến bộ nhanh hơn khoa học và quy định, và hiện không có chức năng thể chế quốc tế có thẩm quyền nào để đánh giá độc lập các rủi ro AI . Hầu hết các quốc gia không có năng lực đánh giá các mô hình AI tiên tiến, làm gia tăng khoảng cách giữa một số ít quốc gia và công ty có năng lực AI với phần còn lại của thế giới .

Khoảng trống này không chỉ là giả thuyết. Báo cáo lưu ý rằng các nhà hoạch định chính sách phải đối mặt với một tình thế khó xử ngày càng tăng: họ cần bằng chứng khoa học để quản trị AI, nhưng khả năng của AI đang vượt xa chính khoa học .

Hội đồng hoạt động như thế nào: 'IPCC cho AI'

Hội đồng được mô phỏng rõ ràng theo Ủy ban Liên chính phủ về Biến đổi Khí hậu (IPCC) và Nền tảng Khoa học-Chính sách Liên chính phủ về Đa dạng Sinh học và Dịch vụ Hệ sinh thái (IPBES) . Mô hình khoa học-chính sách này có nghĩa là các chính phủ giúp xác định các câu hỏi mà hội đồng xem xét, nhưng các nhà khoa học vẫn chịu trách nhiệm hoàn toàn trong việc đánh giá bằng chứng, soạn thảo báo cáo và duy trì tính toàn vẹn của các kết luận khoa học .

Các chi tiết cấu trúc chính:

• Nhiệm vụ: Hội đồng có nhiệm vụ sản xuất một báo cáo khoa học thường niên dựa trên bằng chứng về các cơ hội, rủi ro và tác động của AI. Hội đồng cũng có thể chuẩn bị các báo cáo chuyên đề về các vấn đề quan ngại .
• Giới hạn: Hội đồng đánh giá và tổng hợp khoa học — nó không đặt ra quy tắc, tạo ra các quy định ràng buộc hoặc thực thi các chính sách .
• Thành phần: 40 nhà khoa học và chuyên gia hàng đầu từ nhiều nền tảng khác nhau, hoạt động với tư cách cá nhân .
• Khởi đầu: Hội đồng đã tổ chức hội nghị thượng đỉnh trực tiếp đầu tiên và bắt đầu công việc cho báo cáo đầu tiên trước thời hạn tháng 7 năm 2026 .

Đối thoại Toàn cầu về Quản trị AI sẽ làm gì

Báo cáo thường niên đầu tiên sẽ được trình bày chính thức tại Đối thoại Toàn cầu đầu tiên về Quản trị AI ở Geneva, ngày 6-7 tháng 7 năm 2026 . Đối thoại Toàn cầu được thành lập cùng với hội đồng theo nghị quyết A/RES/79/325 của Đại hội đồng LHQ như một nền tảng liên quan đến các chính phủ và tất cả các bên liên quan để thảo luận về quản trị AI . Nhiệm vụ của nó bao gồm thu hẹp khoảng cách AI, nâng cao năng lực và chuyển từ các chính sách rời rạc sang các khuôn khổ quốc tế mạch lạc hơn .

Tại sao điều này quan trọng

Báo cáo có chủ đích không mang tính quy phạm: nó không đề xuất các chính sách hoặc quy định cụ thể . Sức mạnh của nó nằm ở việc thiết lập một cơ sở bằng chứng đáng tin cậy, độc lập và được quốc tế chấp nhận mà các chính phủ, cơ quan quản lý và công chúng có thể sử dụng để đưa ra quyết định sáng suốt về rủi ro AI . Như Tổng thư ký LHQ António Guterres đã tuyên bố, thế giới khẩn cấp cần "một sự hiểu biết chung, toàn cầu về trí tuệ nhân tạo; dựa trên không phải ý thức hệ, mà là khoa học; không phải tin giả, mà là kiến thức" .