Cách các Video Lách Kiểm Duyệt

Các video sử dụng phong cách hình ảnh "dễ thương" và "giống Pixar" để ngụy trang nội dung cực đoan, cho phép chúng vượt qua các chính sách kiểm duyệt của TikTok vốn nghiêm cấm nội dung bạo lực cực đoan . Vì các nhân vật là trái cây và rau củ được nhân cách hóa thay vì con người, nội dung này không kích hoạt các hệ thống phát hiện tự động tương tự như được sử dụng cho bạo lực ngoài đời thực .

Các Hệ Tư Tưởng Cực Đoan Được Nhắc Đến

Báo cáo của GNET xác định các mối liên hệ rõ ràng với một số phong trào cực đoan trong các clip này :

• Nhà nước Hồi giáo (IS) — một số clip truyền tải thông điệp ủng hộ IS.
• Chủ nghĩa gia tốc cực hữu — một hệ tư tưởng tân phát xít/da trắng thượng đẳng tìm cách đẩy nhanh sự sụp đổ của xã hội.
• Chủ nghĩa cực đoan bạo lực hư vô — một tiểu văn hóa rộng hơn tôn vinh bạo lực vì mục đích tự thân.
• Một số video cũng ám chỉ đến các nhóm tội phạm cụ thể thông qua các biểu tượng hoặc tín hiệu tường thuật .

Trào Lưu Nội Dung 'Não Thối'

Các video bạo lực là một phần của sự gia tăng rộng rãi hơn của các clip "não thối" (brain rot) — một thuật ngữ mô tả các tác động tâm lý và văn hóa của việc liên tục tiêu thụ các phương tiện truyền thông nhanh, phân mảnh và quá kích thích . Các clip này thường bắt đầu như những câu chuyện kịch tính về tình cảm, sự phản bội và tai tiếng với sự tham gia của các nhân vật thực phẩm được nhân cách hóa, sau đó leo thang thành bạo lực đồ họa rõ ràng liên quan đến "sự cắt xẻo cực độ, tra tấn và bạo lực siêu thực" . Thể loại này cũng được mô tả là "AI slop" — nội dung chất lượng thấp, được sản xuất hàng loạt để tối đa hóa lượt nhấp, lượt xem và mức độ tương tác thuật toán với đầu vào của con người tối thiểu .

Rủi Ro Cực Đoan Hóa Rộng Hơn

Báo cáo nêu rõ rằng "nguy cơ cực đoan hóa" không chỉ nằm ở thông điệp ý thức hệ, mà còn ở "sự bình thường hóa sự tàn nhẫn, sự tê liệt cảm xúc và văn hóa sốc được khuếch đại bằng thuật toán" . Sự chuyển đổi từ hài hước siêu thực vô hại sang AI kinh dị đồ họa phản ánh "sự xói mòn dần dần các ranh giới cảm xúc thông qua việc tiếp xúc liên tục với hình ảnh ngày càng bạo lực và phi nhân tính hóa" . Việc tiếp xúc nhiều lần củng cố "sự say mê bạo lực vì mục đích bạo lực", mà báo cáo gọi là một "bài ca tụng bạo lực" trực tuyến, đang dần chiếm được chỗ đứng trong giới người dùng trẻ .

Bởi vì nội dung rẻ tiền và dễ sản xuất trên quy mô lớn, những người sáng tạo đơn lẻ có thể tràn ngập các nền tảng với hàng trăm video, khuếch đại phạm vi tiếp cận của các chủ đề bạo lực . GNET kết luận rằng những clip này đại diện cho một vectơ mới cho sự cực đoan hóa trực tuyến — một vectơ khai thác các định dạng ngớ ngẩn do AI tạo ra trong khi phần lớn vẫn vô hình trước các hệ thống kiểm duyệt nội dung hiện tại .

Cách các Video Lách Kiểm Duyệt

Các video sử dụng phong cách hình ảnh "dễ thương" và "giống Pixar" để ngụy trang nội dung cực đoan, cho phép chúng vượt qua các chính sách kiểm duyệt của TikTok vốn nghiêm cấm nội dung bạo lực cực đoan . Vì các nhân vật là trái cây và rau củ được nhân cách hóa thay vì con người, nội dung này không kích hoạt các hệ thống phát hiện tự động tương tự như được sử dụng cho bạo lực ngoài đời thực .

Các Hệ Tư Tưởng Cực Đoan Được Nhắc Đến

Báo cáo của GNET xác định các mối liên hệ rõ ràng với một số phong trào cực đoan trong các clip này :

• Nhà nước Hồi giáo (IS) — một số clip truyền tải thông điệp ủng hộ IS.
• Chủ nghĩa gia tốc cực hữu — một hệ tư tưởng tân phát xít/da trắng thượng đẳng tìm cách đẩy nhanh sự sụp đổ của xã hội.
• Chủ nghĩa cực đoan bạo lực hư vô — một tiểu văn hóa rộng hơn tôn vinh bạo lực vì mục đích tự thân.
• Một số video cũng ám chỉ đến các nhóm tội phạm cụ thể thông qua các biểu tượng hoặc tín hiệu tường thuật .

Trào Lưu Nội Dung 'Não Thối'

Các video bạo lực là một phần của sự gia tăng rộng rãi hơn của các clip "não thối" (brain rot) — một thuật ngữ mô tả các tác động tâm lý và văn hóa của việc liên tục tiêu thụ các phương tiện truyền thông nhanh, phân mảnh và quá kích thích . Các clip này thường bắt đầu như những câu chuyện kịch tính về tình cảm, sự phản bội và tai tiếng với sự tham gia của các nhân vật thực phẩm được nhân cách hóa, sau đó leo thang thành bạo lực đồ họa rõ ràng liên quan đến "sự cắt xẻo cực độ, tra tấn và bạo lực siêu thực" . Thể loại này cũng được mô tả là "AI slop" — nội dung chất lượng thấp, được sản xuất hàng loạt để tối đa hóa lượt nhấp, lượt xem và mức độ tương tác thuật toán với đầu vào của con người tối thiểu .

Rủi Ro Cực Đoan Hóa Rộng Hơn

Báo cáo nêu rõ rằng "nguy cơ cực đoan hóa" không chỉ nằm ở thông điệp ý thức hệ, mà còn ở "sự bình thường hóa sự tàn nhẫn, sự tê liệt cảm xúc và văn hóa sốc được khuếch đại bằng thuật toán" . Sự chuyển đổi từ hài hước siêu thực vô hại sang AI kinh dị đồ họa phản ánh "sự xói mòn dần dần các ranh giới cảm xúc thông qua việc tiếp xúc liên tục với hình ảnh ngày càng bạo lực và phi nhân tính hóa" . Việc tiếp xúc nhiều lần củng cố "sự say mê bạo lực vì mục đích bạo lực", mà báo cáo gọi là một "bài ca tụng bạo lực" trực tuyến, đang dần chiếm được chỗ đứng trong giới người dùng trẻ .

Bởi vì nội dung rẻ tiền và dễ sản xuất trên quy mô lớn, những người sáng tạo đơn lẻ có thể tràn ngập các nền tảng với hàng trăm video, khuếch đại phạm vi tiếp cận của các chủ đề bạo lực . GNET kết luận rằng những clip này đại diện cho một vectơ mới cho sự cực đoan hóa trực tuyến — một vectơ khai thác các định dạng ngớ ngẩn do AI tạo ra trong khi phần lớn vẫn vô hình trước các hệ thống kiểm duyệt nội dung hiện tại .