Miten videot ohittavat moderoinnin

Videot käyttävät ”söpöä” ja ”Pixar-henkistä” visuaalista tyyliä, joka naamioi ääriaineksen ja mahdollistaa sen TikTokin moderointipolitiikan ohittamisen — alusta kieltää tiukasti äärimmäisen väkivaltaisen sisällön . Koska hahmot ovat antropomorfisia hedelmiä ja vihanneksia eivätkä ihmisiä, sisältö ei laukaise samoja automaattisia tunnistusjärjestelmiä kuin oikeaan väkivaltaan liittyvä materiaali .

Ääriliikkeet ja ideologiat, joihin viitataan

GNET-raportti löytää näistä leikkeistä selviä yhteyksiä useisiin ääriliikkeisiin :

• Islamilainen valtio (IS) — osa videoista välittää IS-myönteistä viestiä.
• Äärioikeistolainen ”accelerationismi” — uusnatsistinen valkoisen ylivallan ideologia, joka pyrkii nopeuttamaan yhteiskunnan romahdusta.
• Nihilistinen väkivaltaekstremismi — laajempi alakulttuuri, joka palvoo väkivaltaa väkivallan itsensä vuoksi.
• Osa videoista viittaa myös tiettyihin rikollisryhmiin symboleiden tai kerronnallisten vihjeiden avulla .

”Aivomätä” (brain rot) -trendi

Väkivaltavideot ovat osa laajempaa ”brain rot” -leikkeiden nousua — termi kuvaa psykologisia ja kulttuurisia vaikutuksia, joita aiheuttaa jatkuva nopean, pirstaleisen ja yliärsyttävän median kulutus . Nämä leikkeet alkavat usein melodramaattisina romanssi-, petos- ja skandaalitarinoina antropomorfisten ruokien tähdittäminä, mutta eskaloituvat sitten avoimeen graafiseen väkivaltaan, johon liittyy ”äärimmäistä silpomista, kidutusta ja hyperrealistista väkivaltaa” . Genreä kutsutaan myös nimellä ”AI slop” — massatuotettua, halpaa sisältöä, joka on suunniteltu maksimoimaan klikit, katselukerrat ja algoritminen sitoutuminen mahdollisimman vähällä ihmisen panoksella .

Laajemmat radikalisoitumisriskit

Raportin mukaan ”radikalisoitumispotentiaali” ei piile pelkästään ideologisessa viestinnässä, vaan ”julmuuden normalisoinnissa, tunnepuudutuksessa ja algoritmisesti vahvistetussa shokkikulttuurissa” . Siirtymä harmittomasta surrealistisesta huumorista graafiseen AI-goreen heijastaa ”tunnerajojen asteittaista kulumista jatkuvan altistuksen kautta yhä väkivaltaisemmalle ja epäinhimillistävälle kuvastolle” . Toistuva altistus vahvistaa ”väkivallan viehätystä väkivallan itsensä vuoksi”, jota raportti kutsuu verkon ”väkivallan oodiksi”, joka vähitellen saa jalansijaa nuorten käyttäjien keskuudessa .

Koska sisältö on halpaa ja helppoa tuottaa suuressa mittakaavassa, yksittäiset tekijät voivat tulvia alustoille sadoilla videoilla, mikä vahvistaa väkivaltaisten teemojen leviämistä . GNET päättelee, että nämä leikkeet edustavat uutta verkkoradikalisoitumisen väylää — sellaista, joka käyttää hyväkseen absurdia, tekoälyn luomaa formaattia ja pysyy suurelta osin näkymättömänä nykyisille sisällön moderointijärjestelmille .

Miten videot ohittavat moderoinnin

Videot käyttävät ”söpöä” ja ”Pixar-henkistä” visuaalista tyyliä, joka naamioi ääriaineksen ja mahdollistaa sen TikTokin moderointipolitiikan ohittamisen — alusta kieltää tiukasti äärimmäisen väkivaltaisen sisällön . Koska hahmot ovat antropomorfisia hedelmiä ja vihanneksia eivätkä ihmisiä, sisältö ei laukaise samoja automaattisia tunnistusjärjestelmiä kuin oikeaan väkivaltaan liittyvä materiaali .

Ääriliikkeet ja ideologiat, joihin viitataan

GNET-raportti löytää näistä leikkeistä selviä yhteyksiä useisiin ääriliikkeisiin :

• Islamilainen valtio (IS) — osa videoista välittää IS-myönteistä viestiä.
• Äärioikeistolainen ”accelerationismi” — uusnatsistinen valkoisen ylivallan ideologia, joka pyrkii nopeuttamaan yhteiskunnan romahdusta.
• Nihilistinen väkivaltaekstremismi — laajempi alakulttuuri, joka palvoo väkivaltaa väkivallan itsensä vuoksi.
• Osa videoista viittaa myös tiettyihin rikollisryhmiin symboleiden tai kerronnallisten vihjeiden avulla .

”Aivomätä” (brain rot) -trendi

Väkivaltavideot ovat osa laajempaa ”brain rot” -leikkeiden nousua — termi kuvaa psykologisia ja kulttuurisia vaikutuksia, joita aiheuttaa jatkuva nopean, pirstaleisen ja yliärsyttävän median kulutus . Nämä leikkeet alkavat usein melodramaattisina romanssi-, petos- ja skandaalitarinoina antropomorfisten ruokien tähdittäminä, mutta eskaloituvat sitten avoimeen graafiseen väkivaltaan, johon liittyy ”äärimmäistä silpomista, kidutusta ja hyperrealistista väkivaltaa” . Genreä kutsutaan myös nimellä ”AI slop” — massatuotettua, halpaa sisältöä, joka on suunniteltu maksimoimaan klikit, katselukerrat ja algoritminen sitoutuminen mahdollisimman vähällä ihmisen panoksella .

Laajemmat radikalisoitumisriskit

Raportin mukaan ”radikalisoitumispotentiaali” ei piile pelkästään ideologisessa viestinnässä, vaan ”julmuuden normalisoinnissa, tunnepuudutuksessa ja algoritmisesti vahvistetussa shokkikulttuurissa” . Siirtymä harmittomasta surrealistisesta huumorista graafiseen AI-goreen heijastaa ”tunnerajojen asteittaista kulumista jatkuvan altistuksen kautta yhä väkivaltaisemmalle ja epäinhimillistävälle kuvastolle” . Toistuva altistus vahvistaa ”väkivallan viehätystä väkivallan itsensä vuoksi”, jota raportti kutsuu verkon ”väkivallan oodiksi”, joka vähitellen saa jalansijaa nuorten käyttäjien keskuudessa .

Koska sisältö on halpaa ja helppoa tuottaa suuressa mittakaavassa, yksittäiset tekijät voivat tulvia alustoille sadoilla videoilla, mikä vahvistaa väkivaltaisten teemojen leviämistä . GNET päättelee, että nämä leikkeet edustavat uutta verkkoradikalisoitumisen väylää — sellaista, joka käyttää hyväkseen absurdia, tekoälyn luomaa formaattia ja pysyy suurelta osin näkymättömänä nykyisille sisällön moderointijärjestelmille .