TikTok aurait laissé 15 millions d’Américains sans un dispositif de sécurité pour tester l’engagement

Selon une enquête de Bloomberg, TikTok aurait mené une expérimentation au cours de laquelle environ 10 % de ses utilisateurs aux États-Unis — soit près de 15 millions de personnes à l’époque — sont restés sur une ancienne version de l’algorithme de recommandation. L’objectif était de déterminer si une mise à jour destinée à réduire les regroupements de contenus dangereux rendrait l’application moins attractive, ou moins « addictive » au sens de l’engagement mesuré par la plateforme. 2

Le sujet suscite de vives critiques car le groupe témoin aurait également inclus des mineurs. Parmi eux figurait Chase Nasca, un adolescent de 16 ans dont le compte aurait ensuite reçu des milliers de vidéos consacrées au suicide, à la tristesse, au désespoir et à la solitude, selon les informations rapportées. Chase Nasca est mort par suicide quelques semaines plus tard. Les éléments disponibles ne permettent pas d’affirmer que TikTok a causé sa mort. Ils expliquent toutefois pourquoi la décision de retarder cette protection est devenue le cœur d’un débat sur la responsabilité de l’entreprise. 2

La protection que TikTok aurait testée

En 2021, TikTok aurait modifié son système de recommandation pour éviter que les utilisateurs ne soient submergés par des contenus répétés sur des sujets particulièrement sensibles. Le but était de casser une spirale de recommandations — parfois décrite comme une « bulle de filtres » — dans laquelle l’utilisateur voit toujours davantage de vidéos correspondant à un thème préoccupant. 2

Plutôt que de déployer immédiatement cette modification pour tout le monde, TikTok aurait conservé un groupe témoin représentant 10 % des utilisateurs américains sur l’ancien algorithme. La question commerciale était de savoir si la version plus sûre risquait de faire baisser l’engagement et le temps passé sur l’application. 2

Ce choix est important sur le plan éthique. Dans un test produit classique, la fonctionnalité étudiée peut être secondaire ou purement esthétique. Ici, la variable concernait une protection conçue pour limiter l’exposition à des contenus potentiellement dangereux. La question centrale est donc la suivante : une plateforme peut-elle retarder une mesure de sécurité pour un groupe d’utilisateurs tirés au sort lorsque certains d’entre eux sont susceptibles d’être vulnérables ?

Une exposition répétée à des contenus à risque

Les utilisateurs restés sur l’ancien système pouvaient être davantage exposés à des recommandations répétitives liées au suicide, à l’automutilation, à la dépression, à la tristesse, à la solitude ou encore aux troubles alimentaires. D’après les informations rapportées sur le compte de Chase Nasca, son fil s’est retrouvé saturé de milliers de vidéos relevant de ces catégories. 2

La conclusion doit néanmoins rester prudente. L’expérimentation pourrait avoir privé certains utilisateurs d’une protection que TikTok avait développée pour limiter les regroupements de contenus dangereux. Elle ne prouve pas, à elle seule, que l’algorithme a provoqué un problème de santé mentale précis ou un décès. Cette distinction est essentielle pour évaluer à la fois les faits rapportés et la responsabilité éventuelle de l’entreprise.

Pourquoi deux sénateurs parlent d’une décision « dépravée »

Les sénateurs américains Marsha Blackburn et Richard Blumenthal affirment que TikTok a sciemment refusé d’appliquer une mesure de sécurité algorithmique à des millions d’Américains, y compris des enfants, afin de vérifier si cette protection nuirait à l’engagement. Ils ont qualifié cette décision de « dépravée » et demandé à l’entreprise de répondre rapidement. 1

Leur inquiétude ne porte pas uniquement sur le cas d’un utilisateur. Les élus cherchent surtout à comprendre comment le test a été conçu et validé : qui l’a autorisé, quels salariés et dirigeants en avaient connaissance, une évaluation des risques a-t-elle été réalisée, et pourquoi des mineurs ont-ils été inclus dans le groupe témoin ? 1

Les 13 questions adressées à TikTok

La lettre envoyée à l’entreprise demande notamment :

• pourquoi des enfants ont été inclus dans un test qui maintenait une protection désactivée ;
• quels salariés et dirigeants étaient informés de l’expérimentation ;
• qui l’a approuvée et si une évaluation des risques a été menée ;
• quels ont été ses résultats en matière de sécurité et d’engagement ;
• si TikTok a réalisé d’autres expérimentations aux États-Unis en désactivant ou en retardant des fonctions de sécurité ;
• si l’entreprise transmettra le document interne complet et non expurgé décrivant le test. 111

Les sénateurs ont donné à TikTok jusqu’au 1er septembre pour répondre. 11 Leurs demandes visent à déterminer l’ampleur exacte de l’expérimentation et le niveau de contrôle exercé en interne. Elles pourraient aussi montrer s’il s’agissait d’une décision isolée liée au produit ou d’une pratique plus large concernant les dispositifs de sécurité.

Ce que les éléments disponibles ne permettent pas d’affirmer

Les informations publiées n’établissent pas que TikTok a causé le suicide de Chase Nasca. Elles ne précisent pas non plus combien d’autres utilisateurs ont reçu des fils comparables ni quel a été l’effet final du test sur l’engagement.

Le fait documenté est plus limité, mais reste lourd de conséquences : TikTok aurait constitué un groupe témoin d’environ 15 millions d’utilisateurs américains, maintenu ces personnes sur une ancienne version de son système de recommandation et inclus des mineurs tout en évaluant l’effet d’une mesure de sécurité sur l’engagement. 2

Au moment du reportage de TechCrunch sur la demande des sénateurs, TikTok n’avait pas répondu immédiatement à la sollicitation de la publication. 15 Les explications réclamées ramènent donc le débat à une question fondamentale de gouvernance des plateformes : lorsqu’une entreprise dispose d’une fonction destinée à réduire un risque prévisible, la mesure de l’engagement doit-elle déterminer qui bénéficie de cette protection ?