TikTok 被指把互動率測試置於安全防護之前，1,500 萬美國用戶未獲更新

彭博報道指，TikTok 曾進行一項涉及約 10% 美國用戶的推薦演算法實驗，比例換算後約為 1,500 萬人。公司沒有把一項旨在減少有害內容聚集的安全更新全面推出，而是讓這批用戶繼續使用舊版演算法，以觀察更安全的版本會否降低使用率或平台的「黏性」。2

事件之所以引發強烈批評，在於這個對照組據報包括未成年人。16 歲的 Chase Nasca 便是其中一人；報道指，他的帳戶後來收到數以千計涉及自殺、悲傷、絕望和孤獨的影片。Nasca 幾週後輕生身亡。不過，現有報道沒有證明 TikTok 導致他的死亡；已知資料反映的是，平台選擇暫不提供一項安全防護，因而引發嚴重的問責爭議。2

TikTok 測試了什麼？

TikTok 據報在 2021 年調整推薦系統，目的是降低用戶被大量推送高風險主題內容的機會，打破不斷重複相同困擾內容的推薦循環，也就是常說的「過濾泡泡」。2

但公司沒有立即向所有人推出新版本，而是把約 10% 美國用戶留在舊版系統，作為實驗的對照組。核心商業問題是：如果減少有害內容的推薦聚集，會否同時令用戶觀看時間或互動率下降。2

這個安排的關鍵，在於測試的並非一般外觀功能或可有可無的產品選項，而是一項原本用來降低潛在傷害的保護措施。爭議因此集中在一個倫理問題：當平台已經開發出可減少可預見風險的安全功能，是否仍應為隨機抽選的一批用戶延後提供，尤其當對象可能包括處於脆弱狀態的人？

對照組用戶可能面對什麼？

仍使用舊版推薦系統的用戶，可能更容易反覆看到與自殺、自殘、抑鬱、悲傷、孤獨、飲食失調及相關主題有關的內容。關於 Nasca 帳戶的報道稱，他的資訊流陷入包含數以千計這類影片的推薦環境。2

較審慎的結論是：這項實驗可能令部分用戶無法獲得 TikTok 開發、用以減少有害內容聚集的防護。但單憑現有資料，不能證明演算法造成某一特定心理健康結果或死亡。分清楚「未提供安全功能」與「直接造成死亡」這兩項不同指控，對理解報道和評估公司責任都十分重要。

為何參議員斥責決定「墮落」？

美國參議員 Marsha Blackburn 和 Richard Blumenthal 表示，TikTok 明知故犯地向數以百萬計的美國用戶——包括兒童——暫不提供演算法安全措施，只為確認保護用戶會否影響平台互動率。他們以「墮落」（depraved）形容這項決定，並要求公司盡快交代。1

兩人的關注並不只針對一個帳戶的結果。參議員要求追問的是整個測試的決策流程，包括誰批准實驗、哪些員工和高層知情、公司有否進行風險評估，以及為何未成年人可以被納入對照組。1

TikTok 被要求回答的 13 項問題

參議員的信件提出 13 項問題，主要包括：

• 為何兒童會被納入一項暫不提供安全功能的測試；
• 哪些員工和高層知悉這項實驗；
• 誰批准測試，以及公司有否完成風險評估；
• 實驗對安全性和用戶互動率得出什麼結果；
• TikTok 是否曾在美國進行其他停用或延後安全功能的實驗；
• 公司是否會提供描述該測試的完整、未刪節內部文件。111

參議員要求的回覆，將有助釐清實驗規模、監督程度，以及這是否只是一次孤立的產品決策，還是涉及安全功能的更廣泛做法。據報，TikTok 須在 9 月 1 日前回應。11

目前仍未能證實的事情

根據現有資料，不能下結論說 TikTok 導致 Nasca 輕生，也無法確定有多少其他用戶看到類似資訊流，或得知這項實驗最終對互動率造成了多大影響。

目前已被報道的事實較為有限，但仍然重大：TikTok 據報建立了一個約有 1,500 萬名美國用戶的對照組，讓他們繼續使用舊版推薦系統；在評估安全更新會否影響互動率時，對照組包括未成年人。2

TechCrunch 報道參議員要求 TikTok 回應時，公司尚未即時回覆置評要求。15 因此，事件最終指向推薦平台治理的一個基本問題：當公司擁有一項旨在減少可預見傷害的功能時，是否應由互動率測試決定哪些用戶可以獲得這項保護？