วิธีที่คลิปเหล่านี้เลี่ยงการตรวจจับ

คลิปเหล่านี้ใช้สไตล์ภาพที่ 'น่ารัก' และ 'คล้าย Pixar' เพื่ออำพรางเนื้อหาที่สุดโต่ง ทำให้สามารถเลี่ยงนโยบายการกลั่นกรองของ TikTok ซึ่งห้ามเนื้อหารุนแรงขั้นรุนแรงอย่างเด็ดขาด เนื่องจากตัวละครเป็นผลไม้และผักที่มีลักษณะเหมือนมนุษย์ เนื้อหาจึงไม่ก่อให้เกิดการตรวจจับจากระบบอัตโนมัติที่ใช้สำหรับความรุนแรงในโลกแห่งความเป็นจริง

แนวคิดสุดโต่งที่ถูกอ้างอิง

รายงานของ GNET ระบุถึงความเชื่อมโยงที่ชัดเจนกับขบวนการหัวรุนแรงหลายกลุ่มภายในคลิปเหล่านี้ :

• กลุ่มรัฐอิสลาม (IS) — คลิปบางตัวสื่อถึงข้อความที่สนับสนุน IS
• แนวคิด 'accelerationism' ฝ่ายขวาจัด — อุดมการณ์ของกลุ่มนีโอ-นาซี/คนผิวขาวเหนือชั้น ที่ต้องการเร่งให้สังคมล่มสลาย
• แนวคิดสุดโต่งแบบ nihilistic — วัฒนธรรมย่อยที่เฉลิมฉลองความรุนแรงเพื่อความรุนแรง
• คลิปบางตัวยังอ้างอิงถึง กลุ่มอาชญากรเฉพาะ ผ่านสัญลักษณ์หรือสัญญาณในเนื้อเรื่อง

กระแส 'Brain Rot'

คลิปความรุนแรงนี้เป็นส่วนหนึ่งของกระแส 'Brain Rot' ที่เพิ่มขึ้น — คำที่ใช้อธิบายผลกระทบทางจิตใจและวัฒนธรรมจากการบริโภคสื่อที่รวดเร็ว แตกเป็นชิ้นเล็กชิ้นน้อย และกระตุ้นมากเกินไปอย่างต่อเนื่อง คลิปเหล่านี้มักเริ่มต้นด้วยเรื่องราวดราม่าเกี่ยวกับความรัก การหักหลัง และเรื่องอื้อฉาวที่นำเสนอโดยอาหารที่มีลักษณะเหมือนมนุษย์ จากนั้นก็จะทวีความรุนแรงขึ้นเป็นความรุนแรงแบบกราฟิกที่ 'โหดเหี้ยม ทรมาน และสมจริงเกินจริง' แนวนี้ยังถูกเรียกว่า 'AI slop' — เนื้อหาคุณภาพต่ำ ผลิตจำนวนมาก ออกแบบมาเพื่อเพิ่มยอดคลิก ยอดดู และการมีส่วนร่วมของอัลกอริทึมโดยใช้แรงงานมนุษย์น้อยที่สุด

ความเสี่ยงในการปลูกฝังแนวคิดรุนแรงในวงกว้าง

รายงานระบุว่า 'ศักยภาพในการปลูกฝังแนวคิดรุนแรง' ไม่ได้อยู่ที่การส่งสารทางอุดมการณ์เท่านั้น แต่อยู่ที่ 'การทำให้ความโหดร้าย อาการชาทางอารมณ์ และวัฒนธรรมช็อกที่ถูกขยายด้วยอัลกอริทึมกลายเป็นเรื่องปกติ' การเปลี่ยนผ่านจากอารมณ์ขันเหนือจริงที่ไม่เป็นอันตรายไปสู่ภาพความรุนแรงเกรด AI สะท้อนถึง 'การกัดเซาะขอบเขตทางอารมณ์อย่างค่อยเป็นค่อยไปผ่านการสัมผัสกับภาพที่รุนแรงและลดทอนความเป็นมนุษย์มากขึ้นเรื่อย ๆ' การสัมผัสซ้ำ ๆ จะตอกย้ำ 'ความหลงใหลในความรุนแรงเพื่อความรุนแรง' ซึ่งรายงานเรียกว่า 'บทสวดสรรเสริญความรุนแรง' ออนไลน์ ที่ค่อย ๆ แผ่ขยายในหมู่ผู้ใช้เด็ก

เนื่องจากเนื้อหามีราคาถูกและผลิตง่ายในปริมาณมาก ผู้สร้างเพียงรายเดียวสามารถท่วมแพลตฟอร์มด้วยคลิปหลายร้อยคลิป ขยายการเข้าถึงของธีมความรุนแรง GNET สรุปว่าคลิปเหล่านี้เป็นช่องทางใหม่สำหรับการปลูกฝังแนวคิดรุนแรงทางออนไลน์ — ช่องทางที่ใช้ประโยชน์จากรูปแบบที่ไร้สาระซึ่งสร้างโดย AI เพื่อทำให้ความรุนแรงขั้นรุนแรงกลายเป็นเรื่องปกติในหมู่เด็กและวัยรุ่น ขณะที่ยังคงมองไม่เห็นโดยระบบการกลั่นกรองเนื้อหาในปัจจุบัน

วิธีที่คลิปเหล่านี้เลี่ยงการตรวจจับ

คลิปเหล่านี้ใช้สไตล์ภาพที่ 'น่ารัก' และ 'คล้าย Pixar' เพื่ออำพรางเนื้อหาที่สุดโต่ง ทำให้สามารถเลี่ยงนโยบายการกลั่นกรองของ TikTok ซึ่งห้ามเนื้อหารุนแรงขั้นรุนแรงอย่างเด็ดขาด เนื่องจากตัวละครเป็นผลไม้และผักที่มีลักษณะเหมือนมนุษย์ เนื้อหาจึงไม่ก่อให้เกิดการตรวจจับจากระบบอัตโนมัติที่ใช้สำหรับความรุนแรงในโลกแห่งความเป็นจริง

แนวคิดสุดโต่งที่ถูกอ้างอิง

รายงานของ GNET ระบุถึงความเชื่อมโยงที่ชัดเจนกับขบวนการหัวรุนแรงหลายกลุ่มภายในคลิปเหล่านี้ :

• กลุ่มรัฐอิสลาม (IS) — คลิปบางตัวสื่อถึงข้อความที่สนับสนุน IS
• แนวคิด 'accelerationism' ฝ่ายขวาจัด — อุดมการณ์ของกลุ่มนีโอ-นาซี/คนผิวขาวเหนือชั้น ที่ต้องการเร่งให้สังคมล่มสลาย
• แนวคิดสุดโต่งแบบ nihilistic — วัฒนธรรมย่อยที่เฉลิมฉลองความรุนแรงเพื่อความรุนแรง
• คลิปบางตัวยังอ้างอิงถึง กลุ่มอาชญากรเฉพาะ ผ่านสัญลักษณ์หรือสัญญาณในเนื้อเรื่อง

กระแส 'Brain Rot'

คลิปความรุนแรงนี้เป็นส่วนหนึ่งของกระแส 'Brain Rot' ที่เพิ่มขึ้น — คำที่ใช้อธิบายผลกระทบทางจิตใจและวัฒนธรรมจากการบริโภคสื่อที่รวดเร็ว แตกเป็นชิ้นเล็กชิ้นน้อย และกระตุ้นมากเกินไปอย่างต่อเนื่อง คลิปเหล่านี้มักเริ่มต้นด้วยเรื่องราวดราม่าเกี่ยวกับความรัก การหักหลัง และเรื่องอื้อฉาวที่นำเสนอโดยอาหารที่มีลักษณะเหมือนมนุษย์ จากนั้นก็จะทวีความรุนแรงขึ้นเป็นความรุนแรงแบบกราฟิกที่ 'โหดเหี้ยม ทรมาน และสมจริงเกินจริง' แนวนี้ยังถูกเรียกว่า 'AI slop' — เนื้อหาคุณภาพต่ำ ผลิตจำนวนมาก ออกแบบมาเพื่อเพิ่มยอดคลิก ยอดดู และการมีส่วนร่วมของอัลกอริทึมโดยใช้แรงงานมนุษย์น้อยที่สุด

ความเสี่ยงในการปลูกฝังแนวคิดรุนแรงในวงกว้าง

รายงานระบุว่า 'ศักยภาพในการปลูกฝังแนวคิดรุนแรง' ไม่ได้อยู่ที่การส่งสารทางอุดมการณ์เท่านั้น แต่อยู่ที่ 'การทำให้ความโหดร้าย อาการชาทางอารมณ์ และวัฒนธรรมช็อกที่ถูกขยายด้วยอัลกอริทึมกลายเป็นเรื่องปกติ' การเปลี่ยนผ่านจากอารมณ์ขันเหนือจริงที่ไม่เป็นอันตรายไปสู่ภาพความรุนแรงเกรด AI สะท้อนถึง 'การกัดเซาะขอบเขตทางอารมณ์อย่างค่อยเป็นค่อยไปผ่านการสัมผัสกับภาพที่รุนแรงและลดทอนความเป็นมนุษย์มากขึ้นเรื่อย ๆ' การสัมผัสซ้ำ ๆ จะตอกย้ำ 'ความหลงใหลในความรุนแรงเพื่อความรุนแรง' ซึ่งรายงานเรียกว่า 'บทสวดสรรเสริญความรุนแรง' ออนไลน์ ที่ค่อย ๆ แผ่ขยายในหมู่ผู้ใช้เด็ก

เนื่องจากเนื้อหามีราคาถูกและผลิตง่ายในปริมาณมาก ผู้สร้างเพียงรายเดียวสามารถท่วมแพลตฟอร์มด้วยคลิปหลายร้อยคลิป ขยายการเข้าถึงของธีมความรุนแรง GNET สรุปว่าคลิปเหล่านี้เป็นช่องทางใหม่สำหรับการปลูกฝังแนวคิดรุนแรงทางออนไลน์ — ช่องทางที่ใช้ประโยชน์จากรูปแบบที่ไร้สาระซึ่งสร้างโดย AI เพื่อทำให้ความรุนแรงขั้นรุนแรงกลายเป็นเรื่องปกติในหมู่เด็กและวัยรุ่น ขณะที่ยังคงมองไม่เห็นโดยระบบการกลั่นกรองเนื้อหาในปัจจุบัน