TikTok teria priorizado engajamento ao adiar proteção contra conteúdo nocivo

A Bloomberg informou que o TikTok realizou um experimento no qual cerca de 10% dos usuários nos Estados Unidos — aproximadamente 15 milhões de pessoas na época — permaneceram em uma versão antiga do algoritmo de recomendação. A empresa queria avaliar se uma atualização criada para reduzir ciclos de conteúdo nocivo tornaria o aplicativo menos envolvente, ou menos “viciante” no sentido de retenção de usuários. 2

O caso provocou críticas porque o grupo de controle teria incluído menores de idade. Entre eles estava Chase Nasca, de 16 anos, cuja conta recebeu posteriormente milhares de vídeos sobre suicídio, tristeza, desesperança e solidão, segundo a reportagem. Nasca morreu por suicídio semanas depois. As informações disponíveis não comprovam que o TikTok tenha causado sua morte; elas mostram, porém, por que a decisão de não aplicar uma proteção passou a ser o centro de uma disputa sobre responsabilidade e governança da plataforma. 2

O que o TikTok teria testado

Em 2021, o TikTok modificou seu sistema de recomendações para reduzir o risco de que usuários fossem inundados por vídeos sobre assuntos de alto risco. A intenção era interromper o que as reportagens descrevem como uma espiral de recomendações nocivas — ou uma bolha algorítmica — em vez de permitir que o feed reforçasse continuamente os mesmos temas angustiantes. 2

A empresa, no entanto, não teria implementado a mudança para todos os usuários. Em vez disso, manteve um grupo de controle com 10% dos usuários americanos usando o algoritmo anterior. A pergunta de negócio era se a versão considerada mais segura reduziria o engajamento e o tempo de permanência no aplicativo. 2

Esse detalhe é importante. Testes convencionais de produto podem avaliar recursos opcionais ou mudanças meramente visuais. Neste caso, a variável em disputa era uma proteção destinada a limitar a exposição a conteúdos potencialmente nocivos. A questão ética central é se uma plataforma deve poder adiar uma salvaguarda para um grupo escolhido aleatoriamente quando os possíveis efeitos recaem sobre pessoas que podem já estar vulneráveis.

Como o grupo de controle ficou exposto

Os usuários submetidos ao sistema antigo poderiam continuar mais expostos a recomendações repetitivas envolvendo suicídio, automutilação, depressão, tristeza, solidão, transtornos alimentares e temas semelhantes. Segundo a reportagem sobre a conta de Nasca, o feed dele ficou preso em uma sequência com milhares de vídeos dessas categorias. 2

A conclusão precisa ser cuidadosa: o experimento pode ter deixado alguns usuários sem uma proteção que o TikTok havia desenvolvido justamente para reduzir a concentração de conteúdo nocivo. Isso, por si só, não prova que o algoritmo tenha causado um resultado específico de saúde mental ou uma morte. Diferenciar essas afirmações é essencial para avaliar tanto as reportagens quanto a responsabilidade da empresa.

Por que senadores chamaram a decisão de “depravada”

Os senadores Marsha Blackburn e Richard Blumenthal afirmaram que o TikTok reteve conscientemente uma medida de segurança algorítmica de milhões de americanos — incluindo crianças — para descobrir se proteger os usuários afetaria o engajamento. Eles classificaram a decisão como “depravada” e pediram uma explicação rápida à empresa. 1

A preocupação dos parlamentares não se limita ao que aconteceu com uma única conta. As perguntas miram o processo de decisão por trás do teste: quem o autorizou, quais funcionários e executivos sabiam da iniciativa, se o TikTok realizou uma avaliação de risco e por que menores puderam fazer parte do grupo de controle. 1

O que os senadores querem saber

A carta enviada ao TikTok contém 13 perguntas e dá à empresa prazo até 1º de setembro para responder. Entre os pontos levantados estão:

• Por que crianças foram incluídas em um teste que deixou de aplicar um recurso de segurança.
• Quais funcionários e executivos tinham conhecimento do experimento.
• Quem aprovou o teste e se uma avaliação de risco foi realizada.
• O que o experimento revelou sobre segurança e engajamento.
• Se o TikTok conduziu outros testes nos Estados Unidos que desativaram ou atrasaram recursos de segurança.
• Se a empresa fornecerá a versão completa e sem trechos ocultados do documento interno que descreve o teste. 111

As respostas podem ajudar a dimensionar o experimento e esclarecer o nível de supervisão aplicado. Também podem indicar se o teste foi uma decisão isolada de produto ou parte de uma prática mais ampla envolvendo recursos relacionados à segurança.

O que ainda não está comprovado

As informações disponíveis não permitem afirmar que o TikTok causou o suicídio de Nasca. Também não mostram quantos outros usuários tiveram feeds semelhantes nem qual foi o efeito final medido do experimento sobre o engajamento.

O que está documentado nas reportagens fornecidas é mais restrito, mas ainda relevante: o TikTok teria criado um grupo de controle com cerca de 15 milhões de usuários nos Estados Unidos, mantido essas pessoas em um sistema antigo de recomendações e incluído menores enquanto avaliava se uma mudança de segurança afetava o engajamento. 2

Até a publicação da reportagem da TechCrunch sobre a cobrança dos senadores, o TikTok não havia respondido imediatamente ao pedido de comentário. 15 As explicações exigidas colocam em pauta uma questão básica para plataformas baseadas em recomendação: quando uma empresa tem um recurso criado para reduzir um dano previsível, o teste de engajamento deve decidir quem recebe essa proteção?