Jak filmy omijają moderację?

Filmy używają „słodkiego”, przypominającego disnejowskie animacje stylu wizualnego, który maskuje ekstremistyczne treści i pozwala ominąć politykę moderacji TikToka, która surowo zabrania treści ze skrajną przemocą . Ponieważ bohaterami są antropomorficzne owoce i warzywa, a nie ludzie, treści te nie uruchamiają tych samych zautomatyzowanych systemów wykrywania, co filmy pokazujące rzeczywistą przemoc .

Przywoływane ideologie ekstremistyczne

Raport GNET identyfikuje w tych klipach wyraźne powiązania z kilkoma ruchami ekstremistycznymi :

• Państwo Islamskie (IS) – niektóre klipy przekazują treści pro-IS.
• Skrajnie prawicowy „akceleracjonizm” – neonazistowska/białonacjonalistyczna ideologia dążąca do przyspieszenia upadku społeczeństwa.
• Nihilistyczny ekstremizm przemocy – szersza subkultura gloryfikująca przemoc dla samej przemocy.
• Niektóre filmy zawierają również odniesienia do konkretnych grup przestępczych poprzez symbole lub sygnały narracyjne .

Trend „zgnilizny mózgu” (brain rot)

Przemocne filmy są częścią szerszego zjawiska klipów „zgnilizny mózgu” – termin ten opisuje psychologiczne i kulturowe skutki nieustannego konsumowania szybkich, pofragmentowanych i nadmiernie stymulujących treści w mediach społecznościowych . Te klipy często zaczynają się jako melodramatyczne historie miłosne, zdrady i skandale z udziałem antropomorficznego jedzenia, a następnie eskalują do wyraźnej, graficznej przemocy, obejmującej „ekstremalne okaleczenia, tortury i hiperrealistyczną przemoc” . Gatunek ten bywa też określany jako „AI slop” – niskiej jakości, masowo produkowane treści mające maksymalizować kliknięcia, wyświetlenia i zaangażowanie algorytmów przy minimalnym udziale człowieka .

Szersze ryzyko radykalizacji

Raport stwierdza, że „potencjał radykalizacji” nie leży wyłącznie w przekazie ideologicznym, ale w „normalizacji okrucieństwa, emocjonalnym znieczuleniu i napędzanej algorytmami kulturze szoku” . Przejście od nieszkodliwego surrealistycznego humoru do graficznej, wygenerowanej przez AI przemocy odzwierciedla „stopniową erozję granic emocjonalnych poprzez ciągłą ekspozycję na coraz bardziej brutalne i odczłowieczające obrazy” . Powtarzająca się ekspozycja wzmacnia „fascynację przemocą dla samej przemocy”, co raport nazywa internetową „odą do przemocy”, która stopniowo zyskuje na popularności wśród młodych użytkowników .

Ponieważ treści te są tanie i łatwe do masowej produkcji, pojedynczy twórcy mogą zalewać platformy setkami filmów, wzmacniając zasięg brutalnych tematów . GNET podsumowuje, że te klipy stanowią nowy wektor radykalizacji online – taki, który wykorzystuje absurdalne formaty wygenerowane przez AI do normalizowania skrajnej przemocy wśród dzieci i młodzieży, pozostając przy tym w dużej mierze niewidocznym dla obecnych systemów moderacji treści .

Jak filmy omijają moderację?

Filmy używają „słodkiego”, przypominającego disnejowskie animacje stylu wizualnego, który maskuje ekstremistyczne treści i pozwala ominąć politykę moderacji TikToka, która surowo zabrania treści ze skrajną przemocą . Ponieważ bohaterami są antropomorficzne owoce i warzywa, a nie ludzie, treści te nie uruchamiają tych samych zautomatyzowanych systemów wykrywania, co filmy pokazujące rzeczywistą przemoc .

Przywoływane ideologie ekstremistyczne

Raport GNET identyfikuje w tych klipach wyraźne powiązania z kilkoma ruchami ekstremistycznymi :

• Państwo Islamskie (IS) – niektóre klipy przekazują treści pro-IS.
• Skrajnie prawicowy „akceleracjonizm” – neonazistowska/białonacjonalistyczna ideologia dążąca do przyspieszenia upadku społeczeństwa.
• Nihilistyczny ekstremizm przemocy – szersza subkultura gloryfikująca przemoc dla samej przemocy.
• Niektóre filmy zawierają również odniesienia do konkretnych grup przestępczych poprzez symbole lub sygnały narracyjne .

Trend „zgnilizny mózgu” (brain rot)

Przemocne filmy są częścią szerszego zjawiska klipów „zgnilizny mózgu” – termin ten opisuje psychologiczne i kulturowe skutki nieustannego konsumowania szybkich, pofragmentowanych i nadmiernie stymulujących treści w mediach społecznościowych . Te klipy często zaczynają się jako melodramatyczne historie miłosne, zdrady i skandale z udziałem antropomorficznego jedzenia, a następnie eskalują do wyraźnej, graficznej przemocy, obejmującej „ekstremalne okaleczenia, tortury i hiperrealistyczną przemoc” . Gatunek ten bywa też określany jako „AI slop” – niskiej jakości, masowo produkowane treści mające maksymalizować kliknięcia, wyświetlenia i zaangażowanie algorytmów przy minimalnym udziale człowieka .

Szersze ryzyko radykalizacji

Raport stwierdza, że „potencjał radykalizacji” nie leży wyłącznie w przekazie ideologicznym, ale w „normalizacji okrucieństwa, emocjonalnym znieczuleniu i napędzanej algorytmami kulturze szoku” . Przejście od nieszkodliwego surrealistycznego humoru do graficznej, wygenerowanej przez AI przemocy odzwierciedla „stopniową erozję granic emocjonalnych poprzez ciągłą ekspozycję na coraz bardziej brutalne i odczłowieczające obrazy” . Powtarzająca się ekspozycja wzmacnia „fascynację przemocą dla samej przemocy”, co raport nazywa internetową „odą do przemocy”, która stopniowo zyskuje na popularności wśród młodych użytkowników .

Ponieważ treści te są tanie i łatwe do masowej produkcji, pojedynczy twórcy mogą zalewać platformy setkami filmów, wzmacniając zasięg brutalnych tematów . GNET podsumowuje, że te klipy stanowią nowy wektor radykalizacji online – taki, który wykorzystuje absurdalne formaty wygenerowane przez AI do normalizowania skrajnej przemocy wśród dzieci i młodzieży, pozostając przy tym w dużej mierze niewidocznym dla obecnych systemów moderacji treści .