Hội đồng nói rõ rằng quyết định đồng ý với lệnh cấm không phải là sự xác nhận cho các hoạt động chung của Meta. Thay vào đó, nó đặt ra "những câu hỏi nghiêm trọng về hiệu quả của các phản ứng của Meta đối với những mối đe dọa như vậy" và các vấn đề về quy trình tố tụng mang tính hệ thống cố hữu trong cơ chế quản lý nền tảng .

Vụ việc: Xác nhận kèm theo cảnh báo

Vụ việc xoay quanh một tài khoản Instagram đã nhắm vào một nhà báo với những lời đe dọa nghiêm trọng và nội dung lạm dụng. Hội đồng Giám sát kết luận rằng Meta đã đúng khi vô hiệu hóa vĩnh viễn tài khoản này vì mức độ nghiêm trọng của các vi phạm . Tuy nhiên, họ ngay lập tức bối cảnh hóa quyết định bằng cách chỉ ra những thất bại mang tính hệ thống của công ty. Thông điệp cốt lõi là mặc dù kết quả là đúng đắn, nhưng quy trình mà Meta thường xuyên sử dụng để cấm tài khoản về cơ bản là sai sót và thiếu minh bạch .

Những thất bại về quy trình tố tụng mang tính hệ thống được xác định

Hội đồng đã xác định một số vấn đề liên quan đến quy trình tố tụng và nhân quyền . Những thất bại này vẽ nên một bức tranh về một hệ thống thực thi thiếu minh bạch và để lại cho người dùng rất ít lựa chọn có ý nghĩa.

• Phản ứng không hiệu quả trước các mối đe dọa: Hội đồng lưu ý rằng Meta đã không xem xét kịp thời các mối đe dọa bạo lực có căn cứ nhắm vào nhà báo, làm dấy lên những lo ngại ngay lập tức về an toàn và quy trình tố tụng .
• Chính sách không rõ ràng và thiếu nhất quán: Quyết định nhấn mạnh rằng các chính sách đình chỉ và vô hiệu hóa tài khoản của Meta thiếu sự rõ ràng. Các vi phạm được áp dụng mà không có đủ sự minh bạch, và người dùng bị bỏ mặc trong bóng tối về cách các quyết định thực thi được đưa ra .
• Không có khung rõ ràng cho các vi phạm 'nghiêm trọng': Hội đồng xác định một lỗ hổng quan trọng trong cơ chế quản lý nội bộ của Meta: sự vắng mặt của một khung định nghĩa rõ ràng để xử lý các vi phạm ở cấp độ tài khoản nghiêm trọng, dẫn đến việc ra quyết định không nhất quán .
• Kháng cáo và hỗ trợ không hiệu quả: Một điểm chỉ trích chính là việc thiếu quyền tiếp cận quy trình tố tụng. Ngay cả các kênh hỗ trợ trả phí, chẳng hạn như Meta Verified, cũng bị chỉ trích vì hầu như không cung cấp bất kỳ dịch vụ hỗ trợ khách hàng hữu ích nào cho chủ tài khoản đang cố gắng kháng cáo lệnh cấm .

Những phát hiện này xác nhận rằng trải nghiệm bị vô hiệu hóa tài khoản đột ngột mà không có giải thích rõ ràng hoặc một con đường kháng cáo hiệu quả không chỉ là một sự bực bội của người dùng mà còn là một lỗi thiết kế mang tính hệ thống.

Năm nguyên tắc hướng dẫn cho quản trị tài khoản

Để giải quyết những thất bại này, Hội đồng Giám sát đã đưa ra một loạt các khuyến nghị chính sách không mang tính ràng buộc. Họ đưa ra năm nguyên tắc mà họ kêu gọi Meta, và rộng hơn là các nền tảng mạng xã hội khác, áp dụng để quản trị tài khoản công bằng hơn .

1. Tôn trọng quyền minh bạch của người dùng: Các nền tảng phải cung cấp thông tin rõ ràng, dễ tiếp cận và chi tiết về các quy tắc quản lý việc đình chỉ hoặc vô hiệu hóa vĩnh viễn tài khoản .
2. Cung cấp quy trình kháng cáo công bằng: Người dùng phải có một cơ hội thực sự để phản đối các hành động thực thi đối với tài khoản của họ và nhận được quy trình tố tụng chính đáng, một quyền hiện đang bị thiếu .
3. Đảm bảo tính tương xứng trong thực thi: Hội đồng kêu gọi một loạt các lựa chọn thực thi theo cấp độ rộng hơn. Cần có một khuôn khổ rõ ràng để các vi phạm nghiêm trọng có thể được đáp ứng với các phản hồi nhất quán và phù hợp, thay vì mặc định dẫn đến một lệnh cấm vĩnh viễn mờ ám .
4. Áp dụng các khung rõ ràng cho các quyết định an toàn: Những người đánh giá của con người cần có các khuôn khổ minh bạch và nhất quán để hướng dẫn các quyết định của họ về nội dung "nghiêm trọng" và cấm tài khoản, cân bằng nhu cầu an toàn với quyền của người dùng .
5. Giải quyết các vấn đề thiết kế hệ thống: Chính thiết kế của các nền tảng mạng xã hội có thể góp phần vào quấy rối và lan truyền các mối đe dọa bạo lực. Hội đồng khuyến nghị Meta chủ động giải quyết những vấn đề cấu trúc cơ bản này .

Những nguyên tắc này tạo thành một kế hoạch chi tiết cho cải cách, trực tiếp thách thức hiện trạng của việc quản lý tài khoản tự động và thiếu minh bạch. Phán quyết, xác nhận lệnh cấm trong khi bác bỏ hệ thống đã tạo ra nó, đại diện cho một sự thúc đẩy quan trọng hướng tới quản trị nền tảng tôn trọng nhân quyền .

Hội đồng nói rõ rằng quyết định đồng ý với lệnh cấm không phải là sự xác nhận cho các hoạt động chung của Meta. Thay vào đó, nó đặt ra "những câu hỏi nghiêm trọng về hiệu quả của các phản ứng của Meta đối với những mối đe dọa như vậy" và các vấn đề về quy trình tố tụng mang tính hệ thống cố hữu trong cơ chế quản lý nền tảng .

Vụ việc: Xác nhận kèm theo cảnh báo

Vụ việc xoay quanh một tài khoản Instagram đã nhắm vào một nhà báo với những lời đe dọa nghiêm trọng và nội dung lạm dụng. Hội đồng Giám sát kết luận rằng Meta đã đúng khi vô hiệu hóa vĩnh viễn tài khoản này vì mức độ nghiêm trọng của các vi phạm . Tuy nhiên, họ ngay lập tức bối cảnh hóa quyết định bằng cách chỉ ra những thất bại mang tính hệ thống của công ty. Thông điệp cốt lõi là mặc dù kết quả là đúng đắn, nhưng quy trình mà Meta thường xuyên sử dụng để cấm tài khoản về cơ bản là sai sót và thiếu minh bạch .

Những thất bại về quy trình tố tụng mang tính hệ thống được xác định

Hội đồng đã xác định một số vấn đề liên quan đến quy trình tố tụng và nhân quyền . Những thất bại này vẽ nên một bức tranh về một hệ thống thực thi thiếu minh bạch và để lại cho người dùng rất ít lựa chọn có ý nghĩa.

• Phản ứng không hiệu quả trước các mối đe dọa: Hội đồng lưu ý rằng Meta đã không xem xét kịp thời các mối đe dọa bạo lực có căn cứ nhắm vào nhà báo, làm dấy lên những lo ngại ngay lập tức về an toàn và quy trình tố tụng .
• Chính sách không rõ ràng và thiếu nhất quán: Quyết định nhấn mạnh rằng các chính sách đình chỉ và vô hiệu hóa tài khoản của Meta thiếu sự rõ ràng. Các vi phạm được áp dụng mà không có đủ sự minh bạch, và người dùng bị bỏ mặc trong bóng tối về cách các quyết định thực thi được đưa ra .
• Không có khung rõ ràng cho các vi phạm 'nghiêm trọng': Hội đồng xác định một lỗ hổng quan trọng trong cơ chế quản lý nội bộ của Meta: sự vắng mặt của một khung định nghĩa rõ ràng để xử lý các vi phạm ở cấp độ tài khoản nghiêm trọng, dẫn đến việc ra quyết định không nhất quán .
• Kháng cáo và hỗ trợ không hiệu quả: Một điểm chỉ trích chính là việc thiếu quyền tiếp cận quy trình tố tụng. Ngay cả các kênh hỗ trợ trả phí, chẳng hạn như Meta Verified, cũng bị chỉ trích vì hầu như không cung cấp bất kỳ dịch vụ hỗ trợ khách hàng hữu ích nào cho chủ tài khoản đang cố gắng kháng cáo lệnh cấm .

Những phát hiện này xác nhận rằng trải nghiệm bị vô hiệu hóa tài khoản đột ngột mà không có giải thích rõ ràng hoặc một con đường kháng cáo hiệu quả không chỉ là một sự bực bội của người dùng mà còn là một lỗi thiết kế mang tính hệ thống.

Năm nguyên tắc hướng dẫn cho quản trị tài khoản

Để giải quyết những thất bại này, Hội đồng Giám sát đã đưa ra một loạt các khuyến nghị chính sách không mang tính ràng buộc. Họ đưa ra năm nguyên tắc mà họ kêu gọi Meta, và rộng hơn là các nền tảng mạng xã hội khác, áp dụng để quản trị tài khoản công bằng hơn .

1. Tôn trọng quyền minh bạch của người dùng: Các nền tảng phải cung cấp thông tin rõ ràng, dễ tiếp cận và chi tiết về các quy tắc quản lý việc đình chỉ hoặc vô hiệu hóa vĩnh viễn tài khoản .
2. Cung cấp quy trình kháng cáo công bằng: Người dùng phải có một cơ hội thực sự để phản đối các hành động thực thi đối với tài khoản của họ và nhận được quy trình tố tụng chính đáng, một quyền hiện đang bị thiếu .
3. Đảm bảo tính tương xứng trong thực thi: Hội đồng kêu gọi một loạt các lựa chọn thực thi theo cấp độ rộng hơn. Cần có một khuôn khổ rõ ràng để các vi phạm nghiêm trọng có thể được đáp ứng với các phản hồi nhất quán và phù hợp, thay vì mặc định dẫn đến một lệnh cấm vĩnh viễn mờ ám .
4. Áp dụng các khung rõ ràng cho các quyết định an toàn: Những người đánh giá của con người cần có các khuôn khổ minh bạch và nhất quán để hướng dẫn các quyết định của họ về nội dung "nghiêm trọng" và cấm tài khoản, cân bằng nhu cầu an toàn với quyền của người dùng .
5. Giải quyết các vấn đề thiết kế hệ thống: Chính thiết kế của các nền tảng mạng xã hội có thể góp phần vào quấy rối và lan truyền các mối đe dọa bạo lực. Hội đồng khuyến nghị Meta chủ động giải quyết những vấn đề cấu trúc cơ bản này .

Những nguyên tắc này tạo thành một kế hoạch chi tiết cho cải cách, trực tiếp thách thức hiện trạng của việc quản lý tài khoản tự động và thiếu minh bạch. Phán quyết, xác nhận lệnh cấm trong khi bác bỏ hệ thống đã tạo ra nó, đại diện cho một sự thúc đẩy quan trọng hướng tới quản trị nền tảng tôn trọng nhân quyền .