TikTok被曝将用户安全置于互动率测试之后

据彭博社报道，TikTok曾进行一项涉及美国用户的推荐算法实验：约10%的美国用户——按当时规模计算约1500万人——被保留在旧版算法上，而没有使用一项旨在减少有害内容聚集的安全更新。TikTok希望借此判断，较为安全的推荐方式是否会让应用变得“不那么有吸引力”，也就是降低用户互动率或“黏性”。2

这项报道之所以引发强烈质疑，在于对照组据称包括未成年人。其中一名用户是16岁的蔡斯·纳斯卡（Chase Nasca）。报道说，他的账号后来收到数千条关于自杀、悲伤、绝望和孤独的视频；数周后，纳斯卡自杀身亡。2

现有报道并不能证明TikTok导致了他的死亡。但这起个案说明，平台为何将一项被设计用于降低潜在伤害的安全措施暂不提供给随机用户，已经成为责任追究的核心争议。

TikTok测试的究竟是什么

TikTok曾调整推荐系统，试图降低用户被同一类高风险主题内容反复包围的可能性。简单来说，这项机制不是单纯屏蔽某一条视频，而是试图打断一种不断自我强化的推荐循环：用户看到相关内容后，系统继续推送类似内容，最终形成危险的“信息茧房”或推荐螺旋。2

但据报道，TikTok没有立即向所有用户推出这一改变，而是让约10%的美国用户继续使用旧算法，作为实验中的对照组。公司要回答的商业问题是：如果推荐系统更注重安全，用户是否会减少观看、互动或停留。2

问题在于，这并不是一次测试普通界面设计或可选功能的产品实验。被暂缓提供的变量，是一项用于限制用户接触潜在有害内容的保护措施。由此产生的伦理问题是：当平台已经开发出一项安全机制时，是否仍应为了衡量互动率，而让随机用户——尤其是可能处于脆弱状态的用户——继续暴露在缺少保护的环境中？

对照组用户可能经历了什么

使用旧版推荐系统的用户，可能更容易反复看到与自杀、自残、抑郁、悲伤、孤独、进食障碍等相关的内容。关于纳斯卡账号的报道指出，他的信息流陷入了包含数千条此类视频的内容环境。2

基于目前材料，较为谨慎的结论是：这项实验可能让部分用户失去了TikTok已经开发、原本用于减少有害内容聚集的保护措施。但仅凭这项实验本身，不能证明算法造成了某一具体心理健康结果，也不能证明它导致了某人的死亡。区分“用户接触了什么内容”和“平台造成了什么后果”，对于判断报道事实及公司责任都至关重要。

为什么参议员称其为“堕落的实验”

美国参议员玛莎·布莱克本和理查德·布卢门撒尔表示，TikTok明知故意不向数百万美国用户——包括儿童——提供一项算法安全措施，只为判断保护用户是否会影响平台互动率。他们将这一决定称为“堕落”，并要求公司尽快作出解释。1

两人的关注点并不只在某一个账号的遭遇，而是指向这项测试背后的决策流程：是谁批准了实验，哪些员工和高管知情，TikTok是否进行过风险评估，以及为什么未成年人能够进入对照组。1

参议员要求TikTok回答什么

参议员致TikTok的信件提出了13个问题，并要求公司在9月1日前作出回应。11主要问题包括：

• 为什么未成年人会被纳入一项暂不提供安全功能的测试；
• 哪些员工和高管知悉这项实验；
• 谁批准了测试，测试前是否完成风险评估；
• 实验对用户安全和互动率分别产生了什么结果；
• TikTok是否在美国进行过其他关闭或延迟安全功能的实验；
• 公司是否会提供描述该测试的完整、未经删节的内部文件。111

这些问题既在追问实验的实际范围，也在追问公司内部的监督和问责机制。TikTok的回复还可能帮助外界判断，这究竟是一次孤立的产品决策，还是更广泛的安全功能测试做法的一部分。

目前仍无法证明的事情

根据现有材料，不能得出TikTok导致纳斯卡自杀的结论；报道也没有说明还有多少用户经历了类似的信息流，或这项实验最终对互动率产生了多大影响。

目前能够确认的范围更窄，但依然十分重要：TikTok据报道建立了一个约1500万美国用户组成的对照组，让这些用户继续使用旧版推荐系统，并在评估安全更新是否影响互动率时将未成年人纳入其中。2

据TechCrunch报道，在参议员提出要求时，TikTok尚未立即回应媒体的置评请求。15这场争议最终指向推荐平台治理中的一个基本问题：当企业拥有一项旨在减少可预见伤害的功能时，是否应该由互动率测试决定哪些用户能够获得这项保护？