Comment ces vidéos contournent-elles la modération ?

Les vidéos utilisent un style visuel « mignon » et « Pixar-like » qui dissimule le contenu extrémiste, leur permettant de contourner les politiques de modération de TikTok qui interdisent strictement les contenus violents extrêmes . Comme les personnages sont des fruits et légumes anthropomorphes et non des humains, le contenu ne déclenche pas les mêmes systèmes de détection automatisée utilisés pour la violence réelle .

Les idéologies extrémistes référencées

Le rapport du GNET identifie des liens explicites avec plusieurs mouvements extrémistes dans ces clips :

• L'État islamique (EI) — certains clips véhiculent des messages pro-EI.
• L'« accélérationnisme » d'extrême droite — une idéologie néo-nazie/suprémaciste blanche qui cherche à précipiter l'effondrement de la société.
• L'extrémisme de la violence nihiliste — une sous-culture plus large qui célèbre la violence pour elle-même.
• Certaines vidéos font également référence à des groupes criminels spécifiques à travers des symboles ou des indices narratifs .

La tendance du contenu « Brain Rot »

Les vidéos violentes font partie d'une augmentation plus large des clips « brain rot » — un terme qui décrit les effets psychologiques et culturels de la consommation constante de médias rapides, fragmentés et surstimulants . Ces clips commencent souvent comme des récits mélodramatiques d'amour, de trahison et de scandale mettant en scène des aliments anthropomorphes, puis dégénèrent en violence graphique explicite impliquant des « mutilations extrêmes, de la torture et une violence hyper-réaliste » . Le genre est également qualifié de « AI slop » — un contenu de faible qualité, produit en masse pour maximiser les clics, les vues et l'engagement algorithmique avec un minimum d'intervention humaine .

Risques plus larges de radicalisation

Le rapport indique que le « potentiel de radicalisation » ne réside pas seulement dans le message idéologique, mais dans « la normalisation de la cruauté, l'engourdissement émotionnel et la culture du choc amplifiée par les algorithmes » . Le passage d'un humour surréaliste inoffensif à des images gores générées par IA reflète une « érosion progressive des limites émotionnelles par une exposition constante à des images de plus en plus violentes et déshumanisantes » . L'exposition répétée renforce « une fascination pour la violence pour la violence », que le rapport appelle une « ode à la violence » en ligne qui gagne progressivement du terrain parmi les jeunes utilisateurs .

Parce que le contenu est bon marché et facile à produire à grande échelle, des créateurs individuels peuvent inonder les plateformes de centaines de vidéos, amplifiant ainsi la portée des thèmes violents . GNET conclut que ces clips représentent un nouveau vecteur de radicalisation en ligne — un vecteur qui exploite des formats absurdes générés par IA tout en restant largement invisible pour les systèmes actuels de modération de contenu .

Comment ces vidéos contournent-elles la modération ?

Les vidéos utilisent un style visuel « mignon » et « Pixar-like » qui dissimule le contenu extrémiste, leur permettant de contourner les politiques de modération de TikTok qui interdisent strictement les contenus violents extrêmes . Comme les personnages sont des fruits et légumes anthropomorphes et non des humains, le contenu ne déclenche pas les mêmes systèmes de détection automatisée utilisés pour la violence réelle .

Les idéologies extrémistes référencées

Le rapport du GNET identifie des liens explicites avec plusieurs mouvements extrémistes dans ces clips :

• L'État islamique (EI) — certains clips véhiculent des messages pro-EI.
• L'« accélérationnisme » d'extrême droite — une idéologie néo-nazie/suprémaciste blanche qui cherche à précipiter l'effondrement de la société.
• L'extrémisme de la violence nihiliste — une sous-culture plus large qui célèbre la violence pour elle-même.
• Certaines vidéos font également référence à des groupes criminels spécifiques à travers des symboles ou des indices narratifs .

La tendance du contenu « Brain Rot »

Les vidéos violentes font partie d'une augmentation plus large des clips « brain rot » — un terme qui décrit les effets psychologiques et culturels de la consommation constante de médias rapides, fragmentés et surstimulants . Ces clips commencent souvent comme des récits mélodramatiques d'amour, de trahison et de scandale mettant en scène des aliments anthropomorphes, puis dégénèrent en violence graphique explicite impliquant des « mutilations extrêmes, de la torture et une violence hyper-réaliste » . Le genre est également qualifié de « AI slop » — un contenu de faible qualité, produit en masse pour maximiser les clics, les vues et l'engagement algorithmique avec un minimum d'intervention humaine .

Risques plus larges de radicalisation

Le rapport indique que le « potentiel de radicalisation » ne réside pas seulement dans le message idéologique, mais dans « la normalisation de la cruauté, l'engourdissement émotionnel et la culture du choc amplifiée par les algorithmes » . Le passage d'un humour surréaliste inoffensif à des images gores générées par IA reflète une « érosion progressive des limites émotionnelles par une exposition constante à des images de plus en plus violentes et déshumanisantes » . L'exposition répétée renforce « une fascination pour la violence pour la violence », que le rapport appelle une « ode à la violence » en ligne qui gagne progressivement du terrain parmi les jeunes utilisateurs .

Parce que le contenu est bon marché et facile à produire à grande échelle, des créateurs individuels peuvent inonder les plateformes de centaines de vidéos, amplifiant ainsi la portée des thèmes violents . GNET conclut que ces clips représentent un nouveau vecteur de radicalisation en ligne — un vecteur qui exploite des formats absurdes générés par IA tout en restant largement invisible pour les systèmes actuels de modération de contenu .