Slik unngår videoene moderering

Videoene bruker en «søt» og «Pixar-aktig» visuell stil som skjuler ekstremistisk innhold, slik at de kan omgå TikToks modereringsregler som strengt forbyr ekstrem vold . Fordi figurene er antropomorfe frukter og grønnsaker i stedet for mennesker, utløser ikke innholdet de samme automatiske deteksjonssystemene som brukes for virkelig vold .

Ekstremistiske ideologier som refereres til

GNET-rapporten identifiserer eksplisitte koblinger til flere ekstremistiske bevegelser i disse klippene :

• Islamsk stat (IS) — noen klipp formidler pro-IS-budskap.
• Ytre høyre-«akselerasjonisme» — en nynazistisk/hvit makt-ideologi som søker å fremskynde samfunnskollaps.
• Nihilistisk voldsekstremisme — en bredere subkultur som feirer vold for voldens egen skyld.
• Noen videoer refererer også til spesifikke kriminelle grupper gjennom symboler eller narrative signaler .

«Hjerneråte»-innholdstrenden

De voldelige videoene er en del av en bredere økning i såkalte «hjerneråte»-klipp – et begrep som beskriver de psykologiske og kulturelle effektene av å konstant konsumere raskt, fragmentert og overstimulerende medieinnhold . Disse klippene begynner ofte som melodramatiske fortellinger om romantikk, svik og skandaler med antropomorf mat, men eskalerer deretter til eksplisitt grafisk vold som involverer «ekstrem lemlestelse, tortur og hyperrealistisk vold» . Sjangeren blir også beskrevet som «AI-sløseri» – lavkvalitets, masseprodusert innhold designet for å maksimere klikk, visninger og algoritmisk engasjement med minimal menneskelig innsats .

Bredere radikaliseringsrisiko

Rapporten slår fast at «radikaliseringspotensialet» ikke bare ligger i ideologiske budskap, men i «normaliseringen av grusomhet, følelsesmessig nummenhet og algoritmisk forsterket sjokkkultur» . Overgangen fra harmløs surrealistisk humor til grafisk AI-vold reflekterer en «gradvis erosjon av følelsesmessige grenser gjennom konstant eksponering for stadig mer voldelige og avhumaniserende bilder» . Gjentatt eksponering forsterker «en fascinasjon for vold for voldens skyld», som rapporten kaller en nettbasert «ode til vold» som gradvis vinner terreng blant unge brukere .

Fordi innholdet er billig og enkelt å produsere i stor skala, kan enkeltpersoner oversvømme plattformer med hundrevis av videoer, noe som forsterker rekkevidden av voldelige temaer . GNET konkluderer med at disse klippene representerer en ny vektor for nettradikalisering – en som utnytter absurde, AI-genererte formater for å normalisere ekstrem vold blant barn og ungdom, samtidig som de forblir stort sett usynlige for dagens modereringssystemer .

Slik unngår videoene moderering

Videoene bruker en «søt» og «Pixar-aktig» visuell stil som skjuler ekstremistisk innhold, slik at de kan omgå TikToks modereringsregler som strengt forbyr ekstrem vold . Fordi figurene er antropomorfe frukter og grønnsaker i stedet for mennesker, utløser ikke innholdet de samme automatiske deteksjonssystemene som brukes for virkelig vold .

Ekstremistiske ideologier som refereres til

GNET-rapporten identifiserer eksplisitte koblinger til flere ekstremistiske bevegelser i disse klippene :

• Islamsk stat (IS) — noen klipp formidler pro-IS-budskap.
• Ytre høyre-«akselerasjonisme» — en nynazistisk/hvit makt-ideologi som søker å fremskynde samfunnskollaps.
• Nihilistisk voldsekstremisme — en bredere subkultur som feirer vold for voldens egen skyld.
• Noen videoer refererer også til spesifikke kriminelle grupper gjennom symboler eller narrative signaler .

«Hjerneråte»-innholdstrenden

De voldelige videoene er en del av en bredere økning i såkalte «hjerneråte»-klipp – et begrep som beskriver de psykologiske og kulturelle effektene av å konstant konsumere raskt, fragmentert og overstimulerende medieinnhold . Disse klippene begynner ofte som melodramatiske fortellinger om romantikk, svik og skandaler med antropomorf mat, men eskalerer deretter til eksplisitt grafisk vold som involverer «ekstrem lemlestelse, tortur og hyperrealistisk vold» . Sjangeren blir også beskrevet som «AI-sløseri» – lavkvalitets, masseprodusert innhold designet for å maksimere klikk, visninger og algoritmisk engasjement med minimal menneskelig innsats .

Bredere radikaliseringsrisiko

Rapporten slår fast at «radikaliseringspotensialet» ikke bare ligger i ideologiske budskap, men i «normaliseringen av grusomhet, følelsesmessig nummenhet og algoritmisk forsterket sjokkkultur» . Overgangen fra harmløs surrealistisk humor til grafisk AI-vold reflekterer en «gradvis erosjon av følelsesmessige grenser gjennom konstant eksponering for stadig mer voldelige og avhumaniserende bilder» . Gjentatt eksponering forsterker «en fascinasjon for vold for voldens skyld», som rapporten kaller en nettbasert «ode til vold» som gradvis vinner terreng blant unge brukere .

Fordi innholdet er billig og enkelt å produsere i stor skala, kan enkeltpersoner oversvømme plattformer med hundrevis av videoer, noe som forsterker rekkevidden av voldelige temaer . GNET konkluderer med at disse klippene representerer en ny vektor for nettradikalisering – en som utnytter absurde, AI-genererte formater for å normalisere ekstrem vold blant barn og ungdom, samtidig som de forblir stort sett usynlige for dagens modereringssystemer .