Come i Video Eludono la Moderazione

I video utilizzano uno stile visivo "carino" e simile ai film Pixar, che maschera il contenuto estremista e permette di bypassare le policy di moderazione di TikTok, che bandiscono rigorosamente i contenuti violenti estremi . Poiché i personaggi sono frutta e verdura antropomorfe e non esseri umani, il contenuto non attiva gli stessi sistemi di rilevamento automatici utilizzati per la violenza reale .

Le Ideologie Estremiste Richiamate

Il report GNET identifica chiari legami con diversi movimenti estremisti all'interno di questi video :

• Stato Islamico (IS) — alcuni clip veicolano messaggi pro-IS.
• "Accelerazionismo" di estrema destra — un'ideologia neonazista/suprematista bianca che mira ad accelerare il collasso della società.
• Estremismo della violenza nichilista — una sottocultura più ampia che celebra la violenza fine a se stessa.
• Alcuni video fanno anche riferimento a specifici gruppi criminali attraverso simboli o indizi narrativi .

Il Trend dei Contenuti 'Brain Rot'

I video violenti fanno parte di una più ampia ondata di clip "brain rot" — un termine che descrive gli effetti psicologici e culturali del consumo costante di media veloci, frammentati e iperstimolanti . Questi clip spesso iniziano come storie melodrammatiche di amore, tradimento e scandalo con protagonisti cibi antropomorfi, per poi degenerare in violenza grafica esplicita che include "mutilazioni estreme, torture e violenza iperrealistica" . Il genere è anche descritto come "AI slop" — contenuti di bassa qualità, prodotti in massa per massimizzare click, visualizzazioni e coinvolgimento algoritmico con il minimo input umano .

Rischi di Radicalizzazione Più Ampi

Il report afferma che il "potenziale radicalizzante" non risiede solo nella messaggistica ideologica, ma nella "normalizzazione della crudeltà, nell'intorpidimento emotivo e nella cultura dello shock amplificata algoritmicamente" . Il passaggio dall'umorismo surreale innocuo al gore AI grafico riflette una "graduale erosione dei confini emotivi attraverso l'esposizione costante a immagini sempre più violente e disumanizzanti" . L'esposizione ripetuta rafforza "un fascino per la violenza fine a se stessa", che il report definisce un'"ode alla violenza" online che guadagna progressivamente terreno tra i giovani utenti .

Poiché il contenuto è economico e facile da produrre su larga scala, singoli creatori possono inondare le piattaforme con centinaia di video, amplificando la portata dei temi violenti . GNET conclude che questi clip rappresentano un nuovo vettore per la radicalizzazione online — uno che sfrutta formati AI assurdi per normalizzare la violenza estrema tra bambini e adolescenti, rimanendo in gran parte invisibile agli attuali sistemi di moderazione dei contenuti .

Come i Video Eludono la Moderazione

I video utilizzano uno stile visivo "carino" e simile ai film Pixar, che maschera il contenuto estremista e permette di bypassare le policy di moderazione di TikTok, che bandiscono rigorosamente i contenuti violenti estremi . Poiché i personaggi sono frutta e verdura antropomorfe e non esseri umani, il contenuto non attiva gli stessi sistemi di rilevamento automatici utilizzati per la violenza reale .

Le Ideologie Estremiste Richiamate

Il report GNET identifica chiari legami con diversi movimenti estremisti all'interno di questi video :

• Stato Islamico (IS) — alcuni clip veicolano messaggi pro-IS.
• "Accelerazionismo" di estrema destra — un'ideologia neonazista/suprematista bianca che mira ad accelerare il collasso della società.
• Estremismo della violenza nichilista — una sottocultura più ampia che celebra la violenza fine a se stessa.
• Alcuni video fanno anche riferimento a specifici gruppi criminali attraverso simboli o indizi narrativi .

Il Trend dei Contenuti 'Brain Rot'

I video violenti fanno parte di una più ampia ondata di clip "brain rot" — un termine che descrive gli effetti psicologici e culturali del consumo costante di media veloci, frammentati e iperstimolanti . Questi clip spesso iniziano come storie melodrammatiche di amore, tradimento e scandalo con protagonisti cibi antropomorfi, per poi degenerare in violenza grafica esplicita che include "mutilazioni estreme, torture e violenza iperrealistica" . Il genere è anche descritto come "AI slop" — contenuti di bassa qualità, prodotti in massa per massimizzare click, visualizzazioni e coinvolgimento algoritmico con il minimo input umano .

Rischi di Radicalizzazione Più Ampi

Il report afferma che il "potenziale radicalizzante" non risiede solo nella messaggistica ideologica, ma nella "normalizzazione della crudeltà, nell'intorpidimento emotivo e nella cultura dello shock amplificata algoritmicamente" . Il passaggio dall'umorismo surreale innocuo al gore AI grafico riflette una "graduale erosione dei confini emotivi attraverso l'esposizione costante a immagini sempre più violente e disumanizzanti" . L'esposizione ripetuta rafforza "un fascino per la violenza fine a se stessa", che il report definisce un'"ode alla violenza" online che guadagna progressivamente terreno tra i giovani utenti .

Poiché il contenuto è economico e facile da produrre su larga scala, singoli creatori possono inondare le piattaforme con centinaia di video, amplificando la portata dei temi violenti . GNET conclude che questi clip rappresentano un nuovo vettore per la radicalizzazione online — uno che sfrutta formati AI assurdi per normalizzare la violenza estrema tra bambini e adolescenti, rimanendo in gran parte invisibile agli attuali sistemi di moderazione dei contenuti .