Bagaimana Video-video Ini Lolos dari Moderasi

Video-video ini menggunakan gaya visual yang "lucu" dan "mirip Pixar" yang menyamarkan konten ekstremis, sehingga memungkinkannya untuk lolos dari kebijakan moderasi TikTok yang secara ketat melarang konten kekerasan ekstrem . Karena karakternya adalah buah dan sayur antropomorfis, bukan manusia, konten ini tidak memicu sistem deteksi otomatis yang sama seperti yang digunakan untuk kekerasan di dunia nyata .

Ideologi Ekstremis yang Dirujuk

Laporan GNET mengidentifikasi hubungan eksplisit dengan beberapa gerakan ekstremis dalam klip-klip ini :

• Islamic State (IS) — beberapa klip menyampaikan pesan pro-IS.
• Akselerasionisme sayap kanan ekstrem — ideologi neo-Nazi/supremasi kulit putih yang berupaya mempercepat keruntuhan masyarakat.
• Ekstremisme kekerasan nihilistik — subkultur yang lebih luas yang merayakan kekerasan demi kekerasan itu sendiri.
• Beberapa video juga merujuk pada kelompok kriminal tertentu melalui simbol atau isyarat naratif .

Tren Konten 'Brain Rot'

Video kekerasan ini adalah bagian dari kebangkitan klip "brain rot" yang lebih luas — istilah yang menggambarkan efek psikologis dan budaya dari terus-menerus mengonsumsi media yang cepat, terfragmentasi, dan terlalu merangsang . Klip-klip ini sering dimulai sebagai narasi melodramatis tentang romansa, pengkhianatan, dan skandal yang dibintangi oleh makanan antropomorfis, kemudian meningkat menjadi kekerasan grafis eksplisit yang melibatkan "mutilasi ekstrem, penyiksaan, dan kekerasan hiper-realistis" . Genre ini juga digambarkan sebagai "AI slop" — konten berkualitas rendah yang diproduksi massal untuk memaksimalkan klik, tayangan, dan keterlibatan algoritmik dengan sedikit input manusia .

Risiko Radikalisasi yang Lebih Luas

Laporan tersebut menyatakan bahwa "potensi meradikalisasi" tidak terletak pada pesan ideologis saja, tetapi pada "normalisasi kekejaman, mati rasa emosional, dan budaya kejutan yang diperkuat algoritma" . Transisi dari humor surealis yang tidak berbahaya ke kekerasan berdarah AI grafis mencerminkan "pengikisan bertahap batas emosional melalui paparan terus-menerus terhadap citra kekerasan yang semakin brutal dan tidak manusiawi" . Paparan berulang memperkuat "ketertarikan pada kekerasan demi kekerasan," yang oleh laporan itu disebut sebagai "ode terhadap kekerasan" di dunia maya yang secara progresif menguasai pengguna muda .

Karena konten ini murah dan mudah diproduksi dalam skala besar, satu kreator dapat membanjiri platform dengan ratusan video, memperkuat jangkauan tema kekerasan . GNET menyimpulkan bahwa klip-klip ini mewakili vektor baru untuk radikalisasi online — yang mengeksploitasi format absurd yang dihasilkan AI sementara sebagian besar tidak terlihat oleh sistem moderasi konten saat ini .

Bagaimana Video-video Ini Lolos dari Moderasi

Video-video ini menggunakan gaya visual yang "lucu" dan "mirip Pixar" yang menyamarkan konten ekstremis, sehingga memungkinkannya untuk lolos dari kebijakan moderasi TikTok yang secara ketat melarang konten kekerasan ekstrem . Karena karakternya adalah buah dan sayur antropomorfis, bukan manusia, konten ini tidak memicu sistem deteksi otomatis yang sama seperti yang digunakan untuk kekerasan di dunia nyata .

Ideologi Ekstremis yang Dirujuk

Laporan GNET mengidentifikasi hubungan eksplisit dengan beberapa gerakan ekstremis dalam klip-klip ini :

• Islamic State (IS) — beberapa klip menyampaikan pesan pro-IS.
• Akselerasionisme sayap kanan ekstrem — ideologi neo-Nazi/supremasi kulit putih yang berupaya mempercepat keruntuhan masyarakat.
• Ekstremisme kekerasan nihilistik — subkultur yang lebih luas yang merayakan kekerasan demi kekerasan itu sendiri.
• Beberapa video juga merujuk pada kelompok kriminal tertentu melalui simbol atau isyarat naratif .

Tren Konten 'Brain Rot'

Video kekerasan ini adalah bagian dari kebangkitan klip "brain rot" yang lebih luas — istilah yang menggambarkan efek psikologis dan budaya dari terus-menerus mengonsumsi media yang cepat, terfragmentasi, dan terlalu merangsang . Klip-klip ini sering dimulai sebagai narasi melodramatis tentang romansa, pengkhianatan, dan skandal yang dibintangi oleh makanan antropomorfis, kemudian meningkat menjadi kekerasan grafis eksplisit yang melibatkan "mutilasi ekstrem, penyiksaan, dan kekerasan hiper-realistis" . Genre ini juga digambarkan sebagai "AI slop" — konten berkualitas rendah yang diproduksi massal untuk memaksimalkan klik, tayangan, dan keterlibatan algoritmik dengan sedikit input manusia .

Risiko Radikalisasi yang Lebih Luas

Laporan tersebut menyatakan bahwa "potensi meradikalisasi" tidak terletak pada pesan ideologis saja, tetapi pada "normalisasi kekejaman, mati rasa emosional, dan budaya kejutan yang diperkuat algoritma" . Transisi dari humor surealis yang tidak berbahaya ke kekerasan berdarah AI grafis mencerminkan "pengikisan bertahap batas emosional melalui paparan terus-menerus terhadap citra kekerasan yang semakin brutal dan tidak manusiawi" . Paparan berulang memperkuat "ketertarikan pada kekerasan demi kekerasan," yang oleh laporan itu disebut sebagai "ode terhadap kekerasan" di dunia maya yang secara progresif menguasai pengguna muda .

Karena konten ini murah dan mudah diproduksi dalam skala besar, satu kreator dapat membanjiri platform dengan ratusan video, memperkuat jangkauan tema kekerasan . GNET menyimpulkan bahwa klip-klip ini mewakili vektor baru untuk radikalisasi online — yang mengeksploitasi format absurd yang dihasilkan AI sementara sebagian besar tidak terlihat oleh sistem moderasi konten saat ini .