TikTok被指為測試用戶黏性，向1,500萬名美國用戶暫緩安全功能

彭博報道指，TikTok曾進行一項推薦演算法測試，將約一成美國用戶——當時約1,500萬人——留在舊版本系統，藉此觀察一項安全更新會否令用戶減少使用，亦即影響App的「黏性」。2

爭議在於，這個作為對照組的用戶群據報包括未成年人。其中一人是16歲的Chase Nasca。報道指，他的帳戶後來收到數以千計與自殺、悲傷、絕望及孤獨有關的影片；Nasca數星期後自殺身亡。2

現有報道並未證實TikTok導致他的死亡，但事件凸顯一個嚴重的問責問題：當平台已經研發出用來降低有害內容集中出現的保護措施，是否仍應為測試互動率而暫緩向部分用戶提供？

TikTok據報測試了甚麼？

TikTok在2021年調整推薦系統，目標是減低用戶被一連串相同高風險主題內容淹沒的機會，例如自殺、自殘、抑鬱、悲傷、孤獨及飲食失調等。2

這類情況可以理解為一種有害的推薦循環：用戶觀看某類令人不安的內容後，系統持續推送相近影片，令資訊流愈來愈集中在同一個令人困擾的主題，形成近似「過濾氣泡」的效果。2

不過，TikTok據報沒有即時向所有人推出較安全的版本，而是讓約10%的美國用戶繼續使用舊演算法，作為對照組，測試新安全措施會否令平台的互動率或「黏性」下降。2

對照組用戶可能面對甚麼？

由於仍使用舊系統，對照組用戶可能較容易反覆收到與自殺、自殘、抑鬱、悲傷、孤獨、飲食失調及相關主題有關的推薦內容。就Nasca的帳戶而言，報道指其資訊流曾被大量這類影片「困住」。2

較為審慎的結論是：這項測試可能令部分用戶無法獲得TikTok原本用來減少有害內容聚集的保護。可是，單憑目前資料，不能證明演算法直接導致某一宗心理健康事故或死亡。分清楚「增加接觸風險」與「直接造成結果」這兩項不同說法，對理解報道及評估公司責任都十分重要。

為何參議員斥做法「墮落」？

美國參議員Marsha Blackburn及Richard Blumenthal表示，TikTok明知故犯地向數以百萬計的美國用戶——包括兒童——暫緩提供一項演算法安全措施，只為了解保護用戶會否影響平台互動率。他們形容有關決定「墮落」，並要求公司盡快作出解釋。1

兩人的關注不只是Nasca個案的結果，而是測試本身如何獲批准及監督。他們要求TikTok交代：誰人授權測試、哪些員工及高層知情、公司有否進行風險評估，以及為何未成年人會被納入對照組。1

TikTok要回答甚麼？

兩名參議員向TikTok提出的信件共列出13條問題，重點包括：

• 為何一項暫緩安全功能的測試會包括兒童；
• 哪些員工及高層知悉這項測試；
• 誰人批准測試，公司有否先完成風險評估；
• 測試對安全及用戶互動率得出甚麼結果；
• TikTok在美國是否曾進行其他關閉或延遲安全功能的測試；
• 公司會否提供描述這項測試的完整、未經刪節內部文件。111

參議員要求的答案，除了有助確認測試規模，也可揭示公司當時採取了甚麼監督措施。更重要的是，這些資料或能釐清事件究竟只是一次產品決定，還是反映平台處理安全功能的一套更廣泛做法。

目前仍未能證實的事

現有資料不能證明TikTok導致Nasca自殺，也未有交代有多少其他用戶遇到類似資訊流，或測試最終對用戶互動率造成多大影響。

目前較確定的報道內容是：TikTok據報建立了一個約佔美國用戶10%、即約1,500萬人的對照組，讓他們繼續使用舊推薦系統；而未成年人亦在這個群組之內。2

TechCrunch報道參議員提出要求時，TikTok尚未即時回覆置評請求。15 事件最終指向推薦平台的一個基本管治問題：當公司已經有一項旨在減少可預見傷害的安全功能，究竟應否以互動率測試，決定哪些用戶可以獲得這項保護？