TikTok habría priorizado el engagement sobre una protección de seguridad para millones de usuarios

Bloomberg informó que TikTok realizó un experimento en el que cerca del 10 % de sus usuarios en Estados Unidos —aproximadamente 15 millones de personas en ese momento— permaneció con una versión anterior del algoritmo de recomendaciones. La compañía quería comprobar si una actualización diseñada para reducir las concentraciones de contenido dañino hacía que la aplicación resultara menos atractiva o menos “adictiva” para sus usuarios. 2

El caso ha provocado críticas porque, según el reportaje, el grupo de control también incluía a menores. Entre ellos estaba Chase Nasca, un adolescente de 16 años cuya cuenta recibió posteriormente miles de videos sobre suicidio, tristeza, desesperanza y soledad, de acuerdo con la investigación periodística. Nasca murió por suicidio semanas después.

La información disponible no demuestra que TikTok causara su muerte. Sí explica por qué la decisión de retrasar una medida de seguridad se ha convertido en el centro de una disputa sobre la responsabilidad de la plataforma. 2

Qué probó TikTok

En 2021, TikTok modificó su sistema de recomendaciones para reducir el riesgo de que los usuarios quedaran expuestos una y otra vez a contenidos sobre temas de alto riesgo. El objetivo era interrumpir lo que los informes describen como una espiral de recomendaciones dañinas o una burbuja de filtros, en lugar de permitir que el feed siguiera reforzando los mismos temas angustiosos. 2

Sin embargo, la plataforma no habría implementado el cambio para todos sus usuarios. En su lugar, mantuvo a un grupo de control equivalente al 10 % de los usuarios estadounidenses con el algoritmo anterior para medir si la versión más segura reducía el engagement —la interacción y el tiempo de permanencia en la aplicación—. 2

El diseño es relevante porque no se trataba de probar una función meramente estética u opcional. La variable en disputa era una protección creada para limitar la exposición a contenido potencialmente dañino. La pregunta ética central es si una plataforma debe poder retrasar una salvaguarda de ese tipo para un grupo seleccionado al azar cuando las consecuencias pueden recaer sobre usuarios especialmente vulnerables.

Qué podían ver los usuarios del grupo de control

Las personas asignadas al sistema anterior podían quedar más expuestas a recomendaciones repetitivas sobre suicidio, autolesiones, depresión, tristeza, soledad, trastornos alimentarios y asuntos relacionados. Según el reportaje sobre la cuenta de Nasca, su feed terminó conteniendo miles de videos de esas categorías. 2

La conclusión debe formularse con cautela: el experimento pudo dejar a algunos usuarios sin una protección que TikTok había desarrollado precisamente para reducir la acumulación de contenido dañino. Pero, por sí solo, no prueba que el algoritmo causara un desenlace concreto de salud mental ni una muerte.

Distinguir entre esas afirmaciones es esencial para evaluar tanto la información publicada como la responsabilidad de la empresa.

Por qué dos senadores calificaron la decisión de “depravada”

Los senadores estadounidenses Marsha Blackburn y Richard Blumenthal afirmaron que TikTok retuvo deliberadamente una medida de seguridad algorítmica para millones de personas, incluidos niños, con el fin de determinar si proteger a los usuarios afectaba el engagement de la plataforma. Ambos calificaron la decisión de “depravada” y solicitaron una explicación rápida a la compañía. 1

Su preocupación no se limita a lo ocurrido con una sola cuenta. Las preguntas se centran en el proceso que permitió el experimento: quién lo autorizó, qué empleados y ejecutivos estaban al tanto, si TikTok realizó una evaluación de riesgos y por qué se permitió la participación de menores. 1

Los senadores dieron a TikTok hasta el 1 de septiembre para responder. 11

Las respuestas que exige el Congreso

La carta enviada a la compañía contiene 13 preguntas. Entre los asuntos que plantea están los siguientes:

• Por qué se incluyó a niños en una prueba que retuvo una función de seguridad.
• Qué empleados y ejecutivos conocían la existencia del experimento.
• Quién aprobó la prueba y si se completó una evaluación de riesgos.
• Qué resultados obtuvo el experimento sobre seguridad y engagement.
• Si TikTok realizó en Estados Unidos otras pruebas que desactivaran o retrasaran funciones de seguridad.
• Si la compañía entregará el documento interno completo y sin tachaduras que describe el experimento. 111

Las respuestas podrían establecer el alcance de la prueba y el nivel de supervisión aplicado. También ayudarían a determinar si se trató de una decisión aislada de producto o de una práctica más amplia relacionada con funciones de seguridad.

Lo que aún no está demostrado

La información disponible no permite afirmar que TikTok causara el suicidio de Chase Nasca. Tampoco muestra, a partir de las fuentes proporcionadas, cuántos usuarios más recibieron feeds comparables ni cuál fue el efecto final medido sobre el engagement.

Lo documentado es más limitado, pero sigue siendo significativo: TikTok habría creado un grupo de control de unos 15 millones de usuarios en Estados Unidos, lo habría mantenido con un sistema de recomendaciones anterior y habría incluido a menores mientras evaluaba si una modificación de seguridad afectaba el uso de la aplicación. 2

Cuando TechCrunch informó sobre la exigencia de los senadores, TikTok todavía no había respondido de inmediato a su solicitud de comentarios. 15

El caso plantea una pregunta básica de gobernanza para las plataformas basadas en recomendaciones: si una empresa dispone de una función destinada a reducir un daño previsible, ¿debe decidir un experimento de engagement quién recibe esa protección?