Як відео обходять модерацію

Ключова особливість цих відео — «милий» стиль, схожий на анімацію Pixar, який маскує екстремістський зміст . Завдяки тому, що персонажами є антропоморфні фрукти та овочі, а не люди, контент не спрацьовує на автоматичні системи виявлення, налаштовані на реальне насильство . Це дозволяє відео безперешкодно потрапляти в стрічки дітей.

Які саме ідеології поширюються

Звіт GNET виявив у цих роликах прямі посилання на кілька екстремістських рухів :

• «Ісламська держава» (ІДІЛ) — деякі відео несуть про-ІДІЛівські меседжі.
• Ультраправий «акселераціонізм» — неонацистська ідеологія, яка прагне прискорити колапс суспільства.
• Нігілістичний екстремізм насильства — субкультура, що прославляє насильство заради насильства .
• Також зафіксовані посилання на конкретні злочинні угруповання через символи та сюжетні підказки .

Тренд «гниття мозку» та як він працює

Ці жорстокі ролики є частиною ширшого тренду так званого «brain rot» (гниття мозку) — терміну, що описує психологічні наслідки постійного споживання швидкого, фрагментованого та надмірно стимулюючого медіа . Типові відео починаються як мелодраматичні історії про кохання, зради та скандали за участю антропоморфної їжі, а потім різко ескалують до відвертого насильства, включаючи «екстремальні каліцтва, тортури та гіперреалістичне насильство» . Цей жанр також називають «AI slop» — низькоякісний, масово вироблений контент, створений для максимальної кількості переглядів та алгоритмічної залученості з мінімальною участю людини .

Ризики радикалізації

На думку дослідників, «радикалізуючий потенціал» полягає не лише в ідеологічних меседжах, а в «нормалізації жорстокості, емоційному занімінні та алгоритмічно посиленій шоковій культурі» . Перехід від нешкідливого сюрреалістичного гумору до графічного AI-насильства відображає «поступову ерозію емоційних кордонів через постійний вплив дедалі більш жорстоких зображень» . Повторювана експозиція до такого контенту закріплює «захоплення насильством заради насильства» .

Особливу небезпеку становить масштабованість: оскільки створювати такий контент дешево і легко, один творець може завалити платформу сотнями відео, багаторазово посилюючи охоплення жорстоких тем . GNET підсумовує, що ці кліпи є новим вектором онлайн-радикалізації, який експлуатує абсурдні AI-формати, залишаючись практично невидимим для сучасних систем модерації .

Як відео обходять модерацію

Ключова особливість цих відео — «милий» стиль, схожий на анімацію Pixar, який маскує екстремістський зміст . Завдяки тому, що персонажами є антропоморфні фрукти та овочі, а не люди, контент не спрацьовує на автоматичні системи виявлення, налаштовані на реальне насильство . Це дозволяє відео безперешкодно потрапляти в стрічки дітей.

Які саме ідеології поширюються

Звіт GNET виявив у цих роликах прямі посилання на кілька екстремістських рухів :

• «Ісламська держава» (ІДІЛ) — деякі відео несуть про-ІДІЛівські меседжі.
• Ультраправий «акселераціонізм» — неонацистська ідеологія, яка прагне прискорити колапс суспільства.
• Нігілістичний екстремізм насильства — субкультура, що прославляє насильство заради насильства .
• Також зафіксовані посилання на конкретні злочинні угруповання через символи та сюжетні підказки .

Тренд «гниття мозку» та як він працює

Ці жорстокі ролики є частиною ширшого тренду так званого «brain rot» (гниття мозку) — терміну, що описує психологічні наслідки постійного споживання швидкого, фрагментованого та надмірно стимулюючого медіа . Типові відео починаються як мелодраматичні історії про кохання, зради та скандали за участю антропоморфної їжі, а потім різко ескалують до відвертого насильства, включаючи «екстремальні каліцтва, тортури та гіперреалістичне насильство» . Цей жанр також називають «AI slop» — низькоякісний, масово вироблений контент, створений для максимальної кількості переглядів та алгоритмічної залученості з мінімальною участю людини .

Ризики радикалізації

На думку дослідників, «радикалізуючий потенціал» полягає не лише в ідеологічних меседжах, а в «нормалізації жорстокості, емоційному занімінні та алгоритмічно посиленій шоковій культурі» . Перехід від нешкідливого сюрреалістичного гумору до графічного AI-насильства відображає «поступову ерозію емоційних кордонів через постійний вплив дедалі більш жорстоких зображень» . Повторювана експозиція до такого контенту закріплює «захоплення насильством заради насильства» .

Особливу небезпеку становить масштабованість: оскільки створювати такий контент дешево і легко, один творець може завалити платформу сотнями відео, багаторазово посилюючи охоплення жорстоких тем . GNET підсумовує, що ці кліпи є новим вектором онлайн-радикалізації, який експлуатує абсурдні AI-формати, залишаючись практично невидимим для сучасних систем модерації .