TikTok bị cáo buộc ưu tiên mức độ tương tác thay vì một lớp bảo vệ an toàn

Theo Bloomberg, TikTok từng tiến hành một thử nghiệm trong đó khoảng 10% người dùng tại Mỹ—tương đương khoảng 15 triệu người vào thời điểm đó—bị giữ lại ở phiên bản cũ của thuật toán đề xuất. Mục tiêu là kiểm tra xem một cập nhật an toàn, được thiết kế để giảm việc người dùng liên tục nhận các nhóm nội dung độc hại, có khiến ứng dụng kém cuốn hút hoặc giảm mức độ tương tác hay không. 2

Vụ việc gây chú ý vì nhóm đối chứng được cho là có cả trẻ vị thành niên. Trong số đó có Chase Nasca, một thiếu niên 16 tuổi. Theo các bài tường thuật, tài khoản của Nasca sau đó nhận hàng nghìn video về tự sát, buồn bã, tuyệt vọng và cô đơn. Vài tuần sau, Nasca qua đời do tự sát. Những thông tin hiện có không chứng minh TikTok gây ra cái chết của em; tuy nhiên, chúng cho thấy vì sao quyết định trì hoãn một biện pháp bảo vệ đang trở thành tâm điểm của tranh cãi về trách nhiệm nền tảng. 2

TikTok được cho là đã thử nghiệm điều gì?

TikTok từng điều chỉnh hệ thống đề xuất nhằm giảm nguy cơ người dùng bị nhấn chìm trong các nội dung lặp đi lặp lại về những chủ đề có mức độ rủi ro cao. Mục đích là phá vỡ một “vòng xoáy đề xuất” hoặc “bong bóng bộ lọc” có hại, thay vì để bảng tin tiếp tục củng cố cùng một nhóm chủ đề gây tổn hại tinh thần. 2

Thay vì triển khai thay đổi cho toàn bộ người dùng, TikTok được cho là đã giữ khoảng 10% người dùng Mỹ ở lại với thuật toán trước đó để làm nhóm đối chứng. Câu hỏi kinh doanh mà công ty muốn kiểm tra là liệu phiên bản an toàn hơn có làm giảm mức độ tương tác hay “độ bám dính” của ứng dụng hay không. 2

Điểm gây tranh cãi nằm ở chính thiết kế thử nghiệm. Trong một bài kiểm tra sản phẩm thông thường, biến được thử có thể chỉ là một tính năng tùy chọn hoặc thay đổi giao diện. Ở đây, biến số lại là một lớp bảo vệ nhằm hạn chế việc tiếp xúc với nội dung có khả năng gây hại. Câu hỏi đạo đức cốt lõi là: một nền tảng có nên trì hoãn biện pháp bảo vệ đó với một nhóm người dùng được chọn ngẫu nhiên, trong khi rủi ro tiềm ẩn có thể rơi vào những người vốn đã dễ bị tổn thương?

Người dùng trong nhóm đối chứng có thể đã bị ảnh hưởng ra sao?

Những người được xếp vào nhóm dùng hệ thống cũ có thể tiếp tục nhìn thấy nhiều đề xuất lặp lại hơn về tự sát, tự gây thương tích, trầm cảm, buồn bã, cô đơn, rối loạn ăn uống và các chủ đề liên quan. Các bài tường thuật về tài khoản của Nasca cho biết bảng tin của em bị mắc kẹt trong một luồng nội dung gồm hàng nghìn video thuộc những nhóm này. 2

Kết luận thận trọng từ các thông tin hiện có là: thử nghiệm có thể đã khiến một số người dùng không được hưởng biện pháp bảo vệ mà TikTok phát triển để giảm sự tập trung quá mức của nội dung độc hại. Tuy vậy, riêng thử nghiệm này không chứng minh thuật toán gây ra một kết quả sức khỏe tinh thần hay một cái chết cụ thể. Việc phân biệt rõ hai mệnh đề này là cần thiết khi đánh giá cả nội dung đưa tin lẫn trách nhiệm của công ty.

Vì sao các thượng nghị sĩ gọi quyết định này là “đồi bại”?

Các thượng nghị sĩ Marsha Blackburn và Richard Blumenthal cho rằng TikTok đã cố ý giữ một biện pháp an toàn của thuật toán khỏi hàng triệu người Mỹ—trong đó có trẻ em—để xác định liệu việc bảo vệ người dùng có ảnh hưởng đến mức độ tương tác hay không. Hai người gọi quyết định này là “đồi bại” và yêu cầu công ty nhanh chóng giải thích. 1

Mối quan ngại của họ không chỉ xoay quanh kết quả trên một tài khoản. Các câu hỏi tập trung vào quy trình ra quyết định: ai phê duyệt thử nghiệm, những nhân viên và lãnh đạo nào biết về nó, TikTok có đánh giá rủi ro hay không, và vì sao trẻ vị thành niên được phép tham gia nhóm đối chứng. 1

TikTok được yêu cầu giải trình những gì?

Bức thư của hai thượng nghị sĩ nêu 13 câu hỏi. Trong đó có các vấn đề sau:

• Vì sao trẻ em được đưa vào một thử nghiệm trong đó một tính năng an toàn bị trì hoãn.
• Những nhân viên và lãnh đạo nào biết về thử nghiệm.
• Ai phê duyệt thử nghiệm và công ty có hoàn tất đánh giá rủi ro hay không.
• Thử nghiệm cho thấy điều gì về mức độ an toàn và tương tác.
• TikTok có từng tiến hành các thử nghiệm khác tại Mỹ nhằm vô hiệu hóa hoặc trì hoãn tính năng an toàn hay không.
• Công ty có cung cấp toàn bộ tài liệu nội bộ mô tả thử nghiệm, không che sửa nội dung, hay không. 111

Các câu trả lời được yêu cầu có thể giúp xác định quy mô thử nghiệm cũng như mức độ giám sát đối với quyết định này. Chúng cũng có thể cho biết đây là một quyết định sản phẩm đơn lẻ hay một phần của cách làm rộng hơn liên quan đến các tính năng an toàn.

Hai thượng nghị sĩ yêu cầu TikTok phản hồi trước ngày 1 tháng 9. 11

Những điều chưa được chứng minh

Không nên rút ra một số kết luận vượt quá những gì các nguồn hiện có cho phép. Các bài tường thuật không chứng minh TikTok gây ra việc Nasca tự sát; đồng thời, các nguồn được cung cấp cũng không cho biết có bao nhiêu người dùng khác từng trải qua bảng tin tương tự hoặc tác động cuối cùng của thử nghiệm đối với mức độ tương tác là bao nhiêu.

Điều đã được ghi nhận trong các bài đưa tin hẹp hơn nhưng vẫn nghiêm trọng: TikTok được cho là đã tạo một nhóm đối chứng gồm khoảng 15 triệu người dùng Mỹ, giữ nhóm này ở hệ thống đề xuất cũ và để cả trẻ vị thành niên tham gia, trong khi đánh giá liệu một thay đổi an toàn có ảnh hưởng đến mức độ tương tác hay không. 2

Tại thời điểm TechCrunch đưa tin về yêu cầu của các thượng nghị sĩ, TikTok chưa lập tức phản hồi đề nghị bình luận. 15 Vì vậy, tranh cãi hiện xoay quanh một câu hỏi quản trị căn bản đối với các nền tảng dùng thuật toán đề xuất: khi một công ty đã có tính năng nhằm giảm một dạng rủi ro có thể lường trước, liệu việc đo mức độ tương tác có nên quyết định ai được nhận lớp bảo vệ đó hay không?