AI-fruktvideor på TikTok: Så sprider de extremism bland barn

Extremistiska ideologier som refereras

GNET-rapporten identifierar explicita kopplingar till flera extremistiska rörelser i dessa klipp :

• Islamiska staten (IS) – vissa klipp förmedlar pro-IS-budskap.
• Extrem höger 'accelerationism' – en ny-nazistisk/vit makt-ideologi som syftar till att påskynda samhällets kollaps.
• Nihilistisk vålds extremism – en bredare subkultur som hyllar våld för våldets egen skull.
• Vissa videor refererar också till specifika kriminella grupper genom symboler eller narrativa ledtrådar.

'Brain Rot'-trenden

De våldsamma videorna är en del av en bredare ökning av 'brain rot'-klipp. Termen beskriver de psykologiska och kulturella effekterna av att ständigt konsumera snabb, fragmenterad och överstimulerande media. Dessa klipp börjar ofta som melodramatiska romans-, svek- och skandalberättelser med antropomorfa matvaror, för att sedan eskalera till explicit grafiskt våld med 'extrem stympning, tortyr och hyperrealistiskt våld'. Genren beskrivs också som 'AI-slop' – lågkvalitativt, massproducerat innehåll utformat för att maximera klick, visningar och algoritmiskt engagemang med minimal mänsklig input.

Bredare radikaliseringsrisker

Rapporten konstaterar att den 'radikaliserande potentialen' inte enbart ligger i ideologiska budskap, utan i 'normaliseringen av grymhet, känslomässig avtrubbning och algoritmiskt förstärkt chockkultur'. Övergången från harmlös absurd humor till grafiskt AI-gore speglar en 'gradvis urholkning av känslomässiga gränser genom ständig exponering för alltmer våldsamma och avhumaniserande bilder'. Upprepad exponering förstärker 'en fascination för våld för våldets egen skull', vilket rapporten kallar en digital 'ode till våld' som successivt vinner mark bland unga användare.

Eftersom innehållet är billigt och lätt att producera i stor skala kan enskilda kreatörer översvämma plattformar med hundratals videor, vilket förstärker räckvidden av våldsamma teman. GNET drar slutsatsen att dessa klipp representerar en ny vektor för online-radikalisering – en som utnyttjar absurda, AI-generade format samtidigt som den förblir i stort sett osynlig för nuvarande innehållsmodereringssystem.