Hoe de video's moderatie omzeilen

De video's gebruiken een 'schattige' en 'Pixar-achtige' visuele stijl die extremistische inhoud verbergt, waardoor ze de moderatiebeleid van TikTok kunnen omzeilen dat extreem gewelddadige inhoud strikt verbiedt . Omdat de personages antropomorfe fruit- en groenten zijn in plaats van mensen, activeren ze niet dezelfde automatische detectiesystemen die voor echt geweld worden gebruikt .

Extremistische ideologieën waarnaar wordt verwezen

Het GNET-rapport identificeert expliciete verwijzingen naar verschillende extremistische stromingen in deze clips :

• Islamitische Staat (IS) — sommige clips bevatten pro-IS-boodschappen.
• Extreemrechtse 'acceleratie' — een neo-nazi/witte-suprematie-ideologie die probeert de maatschappelijke ineenstorting te bespoedigen.
• Nihilistisch gewelddadig extremisme — een bredere subcultuur die geweld omwille van het geweld viert.
• Sommige video's verwijzen ook naar specifieke criminele groeperingen door middel van symbolen of verhalende aanwijzingen .

De 'hersenrot'-inhoudstrend

De gewelddadige video's maken deel uit van een bredere opkomst van 'hersenrot'-clips — een term die de psychologische en culturele effecten beschrijft van het constant consumeren van snelle, gefragmenteerde, overprikkelende media . Deze clips beginnen vaak als melodramatische verhalen over romantiek, verraad en schandalen met antropomorf voedsel, en escaleren vervolgens naar expliciet grafisch geweld met 'extreme verminking, marteling en hyperrealistisch geweld' . Het genre wordt ook wel 'AI-slop' genoemd — inhoud van lage kwaliteit die in bulk wordt geproduceerd om klikken, weergaven en algoritmische betrokkenheid te maximaliseren met minimale menselijke input .

Bredere radicaliseringsrisico's

Het rapport stelt dat het 'radicaliseringspotentieel' niet alleen ligt in ideologische boodschappen, maar in 'de normalisering van wreedheid, emotionele gevoelloosheid en algoritmisch versterkte shockcultuur' . De overgang van onschuldige, surrealistische humor naar grafisch AI-geweld weerspiegelt een 'geleidelijke erosie van emotionele grenzen door constante blootstelling aan steeds gewelddadiger en ontmenselijkende beelden' . Herhaalde blootstelling versterkt 'een fascinatie voor geweld omwille van het geweld', wat het rapport een online 'ode aan het geweld' noemt die steeds meer terrein wint onder jonge gebruikers .

Omdat de inhoud goedkoop en makkelijk in bulk te produceren is, kunnen individuele makers platforms overspoelen met honderden video's, waardoor het bereik van gewelddadige thema's wordt vergroot . GNET concludeert dat deze clips een nieuwe vector voor online radicalisering vertegenwoordigen — een die misbruik maakt van absurde, AI-gegenereerde formaten terwijl ze grotendeels onzichtbaar blijven voor de huidige contentmoderatiesystemen .

Hoe de video's moderatie omzeilen

De video's gebruiken een 'schattige' en 'Pixar-achtige' visuele stijl die extremistische inhoud verbergt, waardoor ze de moderatiebeleid van TikTok kunnen omzeilen dat extreem gewelddadige inhoud strikt verbiedt . Omdat de personages antropomorfe fruit- en groenten zijn in plaats van mensen, activeren ze niet dezelfde automatische detectiesystemen die voor echt geweld worden gebruikt .

Extremistische ideologieën waarnaar wordt verwezen

Het GNET-rapport identificeert expliciete verwijzingen naar verschillende extremistische stromingen in deze clips :

• Islamitische Staat (IS) — sommige clips bevatten pro-IS-boodschappen.
• Extreemrechtse 'acceleratie' — een neo-nazi/witte-suprematie-ideologie die probeert de maatschappelijke ineenstorting te bespoedigen.
• Nihilistisch gewelddadig extremisme — een bredere subcultuur die geweld omwille van het geweld viert.
• Sommige video's verwijzen ook naar specifieke criminele groeperingen door middel van symbolen of verhalende aanwijzingen .

De 'hersenrot'-inhoudstrend

De gewelddadige video's maken deel uit van een bredere opkomst van 'hersenrot'-clips — een term die de psychologische en culturele effecten beschrijft van het constant consumeren van snelle, gefragmenteerde, overprikkelende media . Deze clips beginnen vaak als melodramatische verhalen over romantiek, verraad en schandalen met antropomorf voedsel, en escaleren vervolgens naar expliciet grafisch geweld met 'extreme verminking, marteling en hyperrealistisch geweld' . Het genre wordt ook wel 'AI-slop' genoemd — inhoud van lage kwaliteit die in bulk wordt geproduceerd om klikken, weergaven en algoritmische betrokkenheid te maximaliseren met minimale menselijke input .

Bredere radicaliseringsrisico's

Het rapport stelt dat het 'radicaliseringspotentieel' niet alleen ligt in ideologische boodschappen, maar in 'de normalisering van wreedheid, emotionele gevoelloosheid en algoritmisch versterkte shockcultuur' . De overgang van onschuldige, surrealistische humor naar grafisch AI-geweld weerspiegelt een 'geleidelijke erosie van emotionele grenzen door constante blootstelling aan steeds gewelddadiger en ontmenselijkende beelden' . Herhaalde blootstelling versterkt 'een fascinatie voor geweld omwille van het geweld', wat het rapport een online 'ode aan het geweld' noemt die steeds meer terrein wint onder jonge gebruikers .

Omdat de inhoud goedkoop en makkelijk in bulk te produceren is, kunnen individuele makers platforms overspoelen met honderden video's, waardoor het bereik van gewelddadige thema's wordt vergroot . GNET concludeert dat deze clips een nieuwe vector voor online radicalisering vertegenwoordigen — een die misbruik maakt van absurde, AI-gegenereerde formaten terwijl ze grotendeels onzichtbaar blijven voor de huidige contentmoderatiesystemen .