Jak videa obcházejí moderaci

Videa používají „roztomilý“ a „Pixarovský“ vizuální styl, který maskuje extremistický obsah a umožňuje mu obcházet pravidla TikToku, která přísně zakazují extrémně násilný obsah . Protože postavami jsou antropomorfní ovoce a zelenina, nikoli lidé, nespouštějí stejné automatické detekční systémy jako reálné násilí .

Odkazy na extremistické ideologie

Zpráva GNET identifikuje v těchto klipech přímé odkazy na několik extremistických hnutí :

• Islámský stát (IS) – některé klipy šíří pro-IS poselství.
• Krajně pravicový „akceleracionismus“ – neonacistická/bílá supremacistická ideologie usilující o urychlení kolapsu společnosti.
• Nihilistický násilný extremismus – širší subkultura oslavující násilí pro násilí samotné.
• Některá videa také odkazují na konkrétní zločinecké skupiny prostřednictvím symbolů nebo narativních vodítek .

Trend „brain rot“ (hnisání mozku)

Násilná videa jsou součástí širšího nárůstu „brain rot“ klipů – termínu popisujícího psychologické a kulturní účinky neustálé konzumace rychlých, fragmentovaných a přestimulujících médií . Tyto klipy často začínají jako melodramatické příběhy o lásce, zradě a skandálech s antropomorfním jídlem a poté eskalují do explicitního grafického násilí zahrnujícího „extrémní mrzačení, mučení a hyperrealistické násilí“ . Žánr je také popisován jako „AI slop“ – nekvalitní, masově produkovaný obsah navržený k maximalizaci kliknutí, zhlédnutí a algoritmické angažovanosti s minimálním lidským vstupem .

Širší rizika radikalizace

Zpráva uvádí, že „radikalizační potenciál“ nespočívá pouze v ideologickém poselství, ale v „normalizaci krutosti, emoční otupělosti a algoritmicky zesílené šokové kultuře“ . Přechod od neškodného surrealistického humoru ke grafickému AI gore odráží „postupné stírání emocionálních hranic neustálým vystavením stále násilnějším a dehumanizujícím obrazům“ . Opakované vystavení posiluje „fascinaci násilím pro násilí samotné“, což zpráva nazývá online „ódou na násilí“, která postupně získává půdu mezi mladými uživateli .

Vzhledem k tomu, že obsah je levný a snadno vyrobitelný ve velkém, mohou jednotliví tvůrci zaplavit platformy stovkami videí, čímž zesilují dosah násilných témat . GNET uzavírá, že tyto klipy představují nový vektor online radikalizace – takový, který využívá absurdní, AI generované formáty k normalizaci extrémního násilí mezi dětmi, přičemž zůstává do značné míry neviditelný pro současné systémy moderování obsahu .

Jak videa obcházejí moderaci

Videa používají „roztomilý“ a „Pixarovský“ vizuální styl, který maskuje extremistický obsah a umožňuje mu obcházet pravidla TikToku, která přísně zakazují extrémně násilný obsah . Protože postavami jsou antropomorfní ovoce a zelenina, nikoli lidé, nespouštějí stejné automatické detekční systémy jako reálné násilí .

Odkazy na extremistické ideologie

Zpráva GNET identifikuje v těchto klipech přímé odkazy na několik extremistických hnutí :

• Islámský stát (IS) – některé klipy šíří pro-IS poselství.
• Krajně pravicový „akceleracionismus“ – neonacistická/bílá supremacistická ideologie usilující o urychlení kolapsu společnosti.
• Nihilistický násilný extremismus – širší subkultura oslavující násilí pro násilí samotné.
• Některá videa také odkazují na konkrétní zločinecké skupiny prostřednictvím symbolů nebo narativních vodítek .

Trend „brain rot“ (hnisání mozku)

Násilná videa jsou součástí širšího nárůstu „brain rot“ klipů – termínu popisujícího psychologické a kulturní účinky neustálé konzumace rychlých, fragmentovaných a přestimulujících médií . Tyto klipy často začínají jako melodramatické příběhy o lásce, zradě a skandálech s antropomorfním jídlem a poté eskalují do explicitního grafického násilí zahrnujícího „extrémní mrzačení, mučení a hyperrealistické násilí“ . Žánr je také popisován jako „AI slop“ – nekvalitní, masově produkovaný obsah navržený k maximalizaci kliknutí, zhlédnutí a algoritmické angažovanosti s minimálním lidským vstupem .

Širší rizika radikalizace

Zpráva uvádí, že „radikalizační potenciál“ nespočívá pouze v ideologickém poselství, ale v „normalizaci krutosti, emoční otupělosti a algoritmicky zesílené šokové kultuře“ . Přechod od neškodného surrealistického humoru ke grafickému AI gore odráží „postupné stírání emocionálních hranic neustálým vystavením stále násilnějším a dehumanizujícím obrazům“ . Opakované vystavení posiluje „fascinaci násilím pro násilí samotné“, což zpráva nazývá online „ódou na násilí“, která postupně získává půdu mezi mladými uživateli .

Vzhledem k tomu, že obsah je levný a snadno vyrobitelný ve velkém, mohou jednotliví tvůrci zaplavit platformy stovkami videí, čímž zesilují dosah násilných témat . GNET uzavírá, že tyto klipy představují nový vektor online radikalizace – takový, který využívá absurdní, AI generované formáty k normalizaci extrémního násilí mezi dětmi, přičemž zůstává do značné míry neviditelný pro současné systémy moderování obsahu .