这些视频采用“可爱的”、“皮克斯风格”的视觉风格来掩盖极端主义内容,从而绕过TikTok严格禁止极端暴力内容的审核政策。由于角色是拟人化的水果和蔬菜而非人类,这些内容不会触发用于检测现实世界暴力的自动检测系统。
GNET报告指出,这些剪辑中明确关联了若干极端主义运动:
这些暴力视频是更广泛的“脑腐”(brain rot)剪辑兴起的一部分——这个词描述了持续消费快速、碎片化、过度刺激的媒体所产生的心理和文化影响。这些剪辑通常以拟人化食物为主角,演绎夸张的浪漫、背叛和丑闻叙事,然后升级为涉及“极端肢解、酷刑和超现实主义暴力”的露骨血腥暴力。这一流派也被称为“AI slop”——即低质量、批量生产的内容,旨在以最少的人力投入,最大化点击量、观看量和算法参与度。
报告指出,“激进化潜力”不仅仅在于意识形态信息本身,而在于“残忍行为的常态化、情感麻木以及算法放大的冲击文化”。从无害的超现实幽默到AI血腥画面的转变,反映了“通过持续接触日益暴力和非人化的图像,情感边界逐渐被侵蚀的过程”。反复接触强化了“对暴力本身的迷恋”,报告称这是一种在线“暴力颂歌”,在年轻用户中逐渐占据上风。
由于这些内容制作成本低廉且易于规模化生产,单个创作者可以发布数百条视频,放大暴力主题的覆盖范围。GNET总结道,这些剪辑代表了一种新的在线激进化载体——它利用荒谬的AI生成格式,在当前的内容审核系统下几乎隐形,同时在儿童和青少年中将极端暴力常态化。
这些视频采用“可爱的”、“皮克斯风格”的视觉风格来掩盖极端主义内容,从而绕过TikTok严格禁止极端暴力内容的审核政策。由于角色是拟人化的水果和蔬菜而非人类,这些内容不会触发用于检测现实世界暴力的自动检测系统。
GNET报告指出,这些剪辑中明确关联了若干极端主义运动:
这些暴力视频是更广泛的“脑腐”(brain rot)剪辑兴起的一部分——这个词描述了持续消费快速、碎片化、过度刺激的媒体所产生的心理和文化影响。这些剪辑通常以拟人化食物为主角,演绎夸张的浪漫、背叛和丑闻叙事,然后升级为涉及“极端肢解、酷刑和超现实主义暴力”的露骨血腥暴力。这一流派也被称为“AI slop”——即低质量、批量生产的内容,旨在以最少的人力投入,最大化点击量、观看量和算法参与度。
报告指出,“激进化潜力”不仅仅在于意识形态信息本身,而在于“残忍行为的常态化、情感麻木以及算法放大的冲击文化”。从无害的超现实幽默到AI血腥画面的转变,反映了“通过持续接触日益暴力和非人化的图像,情感边界逐渐被侵蚀的过程”。反复接触强化了“对暴力本身的迷恋”,报告称这是一种在线“暴力颂歌”,在年轻用户中逐渐占据上风。
由于这些内容制作成本低廉且易于规模化生产,单个创作者可以发布数百条视频,放大暴力主题的覆盖范围。GNET总结道,这些剪辑代表了一种新的在线激进化载体——它利用荒谬的AI生成格式,在当前的内容审核系统下几乎隐形,同时在儿童和青少年中将极端暴力常态化。