TikTokin väkivaltaiset AI-hedelmävideot: ”Aivomätä” sisältö radikalisoi lapsia

Ääriliikkeet ja ideologiat, joihin viitataan

GNET-raportti löytää näistä leikkeistä selviä yhteyksiä useisiin ääriliikkeisiin :

• Islamilainen valtio (IS) — osa videoista välittää IS-myönteistä viestiä.
• Äärioikeistolainen ”accelerationismi” — uusnatsistinen valkoisen ylivallan ideologia, joka pyrkii nopeuttamaan yhteiskunnan romahdusta.
• Nihilistinen väkivaltaekstremismi — laajempi alakulttuuri, joka palvoo väkivaltaa väkivallan itsensä vuoksi.
• Osa videoista viittaa myös tiettyihin rikollisryhmiin symboleiden tai kerronnallisten vihjeiden avulla .

”Aivomätä” (brain rot) -trendi

Väkivaltavideot ovat osa laajempaa ”brain rot” -leikkeiden nousua — termi kuvaa psykologisia ja kulttuurisia vaikutuksia, joita aiheuttaa jatkuva nopean, pirstaleisen ja yliärsyttävän median kulutus . Nämä leikkeet alkavat usein melodramaattisina romanssi-, petos- ja skandaalitarinoina antropomorfisten ruokien tähdittäminä, mutta eskaloituvat sitten avoimeen graafiseen väkivaltaan, johon liittyy ”äärimmäistä silpomista, kidutusta ja hyperrealistista väkivaltaa” . Genreä kutsutaan myös nimellä ”AI slop” — massatuotettua, halpaa sisältöä, joka on suunniteltu maksimoimaan klikit, katselukerrat ja algoritminen sitoutuminen mahdollisimman vähällä ihmisen panoksella .

Laajemmat radikalisoitumisriskit

Raportin mukaan ”radikalisoitumispotentiaali” ei piile pelkästään ideologisessa viestinnässä, vaan ”julmuuden normalisoinnissa, tunnepuudutuksessa ja algoritmisesti vahvistetussa shokkikulttuurissa” . Siirtymä harmittomasta surrealistisesta huumorista graafiseen AI-goreen heijastaa ”tunnerajojen asteittaista kulumista jatkuvan altistuksen kautta yhä väkivaltaisemmalle ja epäinhimillistävälle kuvastolle” . Toistuva altistus vahvistaa ”väkivallan viehätystä väkivallan itsensä vuoksi”, jota raportti kutsuu verkon ”väkivallan oodiksi”, joka vähitellen saa jalansijaa nuorten käyttäjien keskuudessa .

Koska sisältö on halpaa ja helppoa tuottaa suuressa mittakaavassa, yksittäiset tekijät voivat tulvia alustoille sadoilla videoilla, mikä vahvistaa väkivaltaisten teemojen leviämistä . GNET päättelee, että nämä leikkeet edustavat uutta verkkoradikalisoitumisen väylää — sellaista, joka käyttää hyväkseen absurdia, tekoälyn luomaa formaattia ja pysyy suurelta osin näkymättömänä nykyisille sisällön moderointijärjestelmille .