Tòa án Giám sát của Meta ra phán quyết lịch sử: Buộc gỡ video deepfake khiêu dâm do AI tạo ra và yêu cầu đại tu chính sách để bảo vệ người thường

Những thay đổi chính sách quan trọng mà Tòa án yêu cầu Meta áp dụng

Phán quyết của Tòa án không chỉ dừng lại ở vụ việc đơn lẻ mà còn đưa ra một số khuyến nghị mang tính ràng buộc và không ràng buộc nhằm cải tổ cách Meta xử lý nội dung khiêu dâm do AI tạo ra, đặc biệt là đối với những người không phải là nhân vật của công chúng . Những thay đổi chính bao gồm:

Coi hành vi mạo danh bằng AI là 'Không có sự đồng thuận' theo mặc định

Tòa án tuyên bố rõ ràng rằng các hành vi mạo danh bằng AI trong bối cảnh khiêu dâm nên được coi là "không có sự đồng thuận theo mặc định" và khuyến nghị bổ sung những hành vi này vào chính sách Bóc lột Tình dục Người lớn (Adult Sexual Exploitation) của Meta . Điều này chuyển gánh nặng chứng minh từ phía nạn nhân sang nền tảng, yêu cầu nền tảng phải nhận thức được tác hại vốn có của loại nội dung này .

Cho phép người thân tín báo cáo thay cho nạn nhân

Một thay đổi quan trọng về mặt thủ tục là cho phép người dùng chỉ định "tài khoản được kết nối" — như bạn bè hoặc thành viên gia đình đáng tin cậy — những người có thể báo cáo các vi phạm tiềm ẩn (ví dụ: hình ảnh thân mật không có sự đồng thuận) thay cho nạn nhân . Điều này giải quyết một khoảng trống lớn khi nạn nhân có thể không biết về nội dung hoặc không thể tự báo cáo do sang chấn tâm lý hoặc sợ hãi.

Tạo danh mục báo cáo toàn cầu cho hình ảnh khiêu dâm do AI tạo ra

Tòa án kêu gọi Meta tạo một danh mục báo cáo chuyên biệt, mang tính toàn cầu dành cho hình ảnh khiêu dâm không có sự đồng thuận do AI tạo ra, thay vì phân loại nội dung này theo một quy tắc chung về bắt nạt và quấy rối như hiện tại . Điều này sẽ giúp việc báo cáo và theo dõi trở nên dễ dàng hơn.

Cập nhật thuật ngữ từ 'Photoshop khiêu dâm mang tính xúc phạm' sang 'Phương tiện bị thao túng không có sự đồng thuận'

Tòa án đã nhiều lần chỉ trích thuật ngữ lỗi thời của Meta, vốn sử dụng ngôn ngữ như "derogatory sexualized photoshop" (Photoshop khiêu dâm mang tính xúc phạm) . Tòa khuyến nghị cập nhật các quy tắc của Meta để sử dụng các thuật ngữ rõ ràng, chính xác hơn, phản ánh thực tế hiện đại về lạm dụng AI và nhấn mạnh bản chất không có sự đồng thuận của nội dung, thay vì phương pháp tạo ra nội dung đó .

Triển khai hệ thống 'Chứng chỉ Nội dung' (Content Credentials) trên quy mô lớn và cải thiện khả năng phát hiện

Trong một vụ việc liên quan đến nội dung AI khác, Tòa án cũng kêu gọi Meta triển khai các công cụ có thể mở rộng để xác định nội dung do AI tạo ra, bao gồm áp dụng tiêu chuẩn Chứng chỉ Nội dung C2PA — một tiêu chuẩn về nguồn gốc để theo dõi nguồn gốc và các thay đổi của phương tiện . Tòa án cho rằng các hệ thống hiện tại của Meta phụ thuộc quá nhiều vào việc người dùng tự khai báo và thiếu các công cụ phát hiện tự động mạnh mẽ, đặc biệt là đối với video và âm thanh .

Trọng tâm bảo vệ những người không phải là nhân vật của công chúng

Một chủ đề trung tâm của phán quyết là khoảng trống bảo vệ cho những người bình thường, không phải người nổi tiếng. Tòa án nhấn mạnh rằng những người không phải là nhân vật của công chúng khi trở thành mục tiêu của deepfake khiêu dâm sẽ bị tổn thương đặc biệt bởi các hệ thống yêu cầu họ phải tự chứng minh mình không đồng thuận, bởi họ thường thiếu tầm nhìn công chúng hoặc sự hỗ trợ thể chế mà các nhân vật của công chúng có được . Bản thân vụ việc tập trung vào một video mạo danh khiêu dâm do AI tạo ra của một phụ nữ, được một người bạn báo cáo với lý do nội dung này là không có sự đồng thuận và gây tổn hại đến danh dự .

Giải quyết vấn nạn bạo lực trên cơ sở giới

Phán quyết cũng thừa nhận tác hại không cân xứng mà những deepfake này gây ra cho phụ nữ và trẻ em gái. Bằng cách kêu gọi tăng cường phát hiện tự động, thay đổi nghĩa vụ chứng minh và các chính sách rõ ràng hơn, Tòa án nhằm giải quyết bản chất mang tính hệ thống của lạm dụng trực tuyến trên cơ sở giới .

Các bước tiếp theo dành cho Meta

Meta có 60 ngày để phản hồi các khuyến nghị của Tòa án Giám sát . Mặc dù khuyến nghị gỡ bỏ video cụ thể là có tính ràng buộc, các khuyến nghị chính sách rộng hơn không có tính ràng buộc nhưng mang trọng lượng đáng kể về mặt dư luận và danh tiếng . Phán quyết này được xây dựng dựa trên các quyết định trước đó của Tòa án vào năm 2024 và 2025, khi Tòa kết luận rằng các chính sách về deepfake của Meta là "không mạch lạc" và "không đủ rõ ràng" .