Voldelige AI-frugtvideoer på TikTok kan radikalisere børn, advarer ny rapport

Ekstremistiske ideologier, der refereres til

GNET-rapporten identificerer eksplicitte forbindelser til flere ekstremistiske bevægelser i disse klip :

• Islamisk Stat (IS) — nogle klip formidler pro-IS-budskaber.
• Højreekstrem 'accelerationisme' — en neo-nazistisk/hvid overlegenheds-ideologi, der søger at fremskynde samfundets sammenbrud.
• Nihilistisk voldsekstremisme — en bredere subkultur, der hylder vold for voldens skyld.
• Nogle videoer refererer også til specifikke kriminelle grupper gennem symboler eller narrative signaler .

'Brain Rot'-indholdstrenden

De voldelige videoer er en del af en bredere stigning i 'brain rot'-klip — et udtryk, der beskriver de psykologiske og kulturelle virkninger af konstant at forbruge hurtige, fragmenterede og overstimulerende medier . Disse klip starter ofte som melodramatiske romancer med temaer om forræderi og skandale med antropomorfe madvarer, men eskalerer derefter til eksplicit grafisk vold, der involverer 'ekstrem lemlæstelse, tortur og hyperrealistisk vold' . Genren omtales også som 'AI-slop' — indhold af lav kvalitet, masseproduceret for at maksimere klik, visninger og algoritmisk engagement med minimal menneskelig input .

Bredere radikaliseringsrisici

Rapporten fastslår, at 'radikaliseringspotentialet' ikke kun ligger i ideologiske budskaber, men i 'normaliseringen af grusomhed, følelsesmæssig følelsesløshed og algoritmisk forstærket chok-kultur' . Overgangen fra harmløs surrealistisk humor til grafisk AI-gore afspejler en 'gradvis erosion af følelsesmæssige grænser gennem konstant eksponering for stadig mere voldelige og afhumaniserende billeder' . Gentagen eksponering forstærker 'en fascination af vold for voldens skyld', som rapporten kalder en online 'ode til vold', der gradvist vinder indpas blandt unge brugere .

Fordi indholdet er billigt og let at producere i stor skala, kan enkelte skabere oversvømme platforme med hundredvis af videoer, hvilket forstærker rækkevidden af voldelige temaer . GNET konkluderer, at disse klip repræsenterer en ny vektor for online radikalisering — en, der udnytter absurde, AI-genererede formater til at normalisere ekstrem vold blandt børn og unge, mens de forbliver stort set usynlige for nuværende indholdsmodereringssystemer .