TikTok залишив 15 мільйонів користувачів у США без функції безпеки, щоб перевірити залученість

За даними Bloomberg, TikTok провів експеримент, у межах якого близько 10% користувачів у США — на той час приблизно 15 мільйонів людей — залишилися на старій версії алгоритму рекомендацій. Компанія перевіряла, чи не зробить оновлення безпеки, покликане зменшити скупчення шкідливого контенту, застосунок менш привабливим для користувачів — тобто чи не знизить його «липкість». 2

Ситуація викликала особливу критику, оскільки до контрольної групи, за повідомленнями, входили неповнолітні. Серед них був 16-річний Чейс Наска. Згідно з журналістським розслідуванням, його акаунт згодом отримав тисячі відео про самогубство, смуток, безнадію та самотність. Через кілька тижнів Наска помер унаслідок самогубства. Доступні матеріали не доводять, що TikTok спричинив його смерть. Водночас вони пояснюють, чому рішення не поширювати захисний механізм стало центром суперечки про відповідальність платформи. 2

Що саме тестував TikTok

У 2021 році TikTok змінив систему рекомендацій, щоб зменшити ризик, що користувачі опинятимуться під потоком повторюваного контенту на небезпечні теми. Йшлося про те, щоб розірвати шкідливу рекомендаційну спіраль — ситуацію, коли стрічка дедалі частіше підсовує відео про один і той самий тривожний предмет, — замість постійного посилення таких тем. 2

Однак оновлення, за повідомленнями, не запустили для всіх одразу. TikTok залишив 10% американської аудиторії на попередньому алгоритмі, сформувавши контрольну групу. Бізнес-питання полягало в тому, чи не зменшить безпечніша версія залученість користувачів. 2

Ця деталь має принципове значення. У звичайному продуктовому тестуванні можуть порівнювати необов’язкову або косметичну функцію. У цьому випадку змінною був захист, призначений обмежувати контакт із потенційно небезпечним контентом. Тож постає етичне питання: чи може платформа навмисно відкладати впровадження такого механізму для випадково обраної групи, якщо потенційний ризик припадає на людей, які вже можуть бути вразливими?

Як могла виглядати стрічка користувачів із контрольної групи

Люди, яким дістався старий алгоритм, могли частіше бачити повторювані рекомендації про самогубство, самоушкодження, депресію, смуток, самотність, розлади харчової поведінки та суміжні теми. У матеріалі про акаунт Наски йдеться, що його стрічка опинилася в своєрідній інформаційній бульбашці з тисячами відео таких категорій. 2

Обережний висновок із наявних даних такий: експеримент міг залишити частину користувачів без захисту, який TikTok розробив для зменшення концентрації шкідливого контенту. Але сам по собі він не доводить, що алгоритм спричинив конкретні проблеми з психічним здоров’ям або смерть. Розмежування цих тверджень важливе і для оцінки журналістських матеріалів, і для визначення відповідальності компанії.

Чому сенатори назвали рішення «розбещеним»

Сенатори США Марша Блекберн і Річард Блюменталь заявили, що TikTok свідомо не надав мільйонам американців, зокрема дітям, алгоритмічний захист, щоб перевірити, чи вплине безпечніша стрічка на залученість. Вони назвали це рішення «розбещеним» і попросили компанію якнайшвидше надати пояснення. 1

Їх турбує не лише історія одного акаунта. Запит сенаторів стосується процесу ухвалення рішення: хто схвалив тест, які співробітники та керівники знали про нього, чи проводила компанія оцінку ризиків і чому до контрольної групи дозволили включити неповнолітніх. 1

На які запитання має відповісти TikTok

У листі сенаторів міститься 13 запитань. Серед них:

• чому до тесту, під час якого користувачів позбавили функції безпеки, включили дітей;
• які співробітники та керівники знали про експеримент;
• хто його схвалив і чи проводилася оцінка ризиків;
• які результати тест дав щодо безпеки та залученості;
• чи проводив TikTok інші експерименти у США, де функції безпеки вимикали або впроваджували із затримкою;
• чи надасть компанія повний документ про тест без вилучень і редагування. 111

Сенатори також встановили для TikTok дедлайн відповіді — 1 вересня. 11 Отримані пояснення мають показати масштаб експерименту та рівень нагляду за ним. Вони також можуть допомогти з’ясувати, чи був цей тест окремим продуктовим рішенням, чи частиною ширшої практики роботи з функціями безпеки.

Що залишається недоведеним

На підставі доступних матеріалів не можна стверджувати, що TikTok спричинив самогубство Наски. Також із наданих джерел невідомо, скільки інших користувачів отримували подібні стрічки і яким був остаточний виміряний вплив експерименту на залученість.

Водночас документована частина історії є достатньо конкретною: TikTok, за повідомленнями, створив контрольну групу приблизно з 15 мільйонів користувачів у США, залишив її на старій системі рекомендацій і включив до неї неповнолітніх, перевіряючи, чи впливає захисне оновлення на залученість. 2

На момент публікації TechCrunch TikTok не одразу відповів на запит видання про коментар. 15 Тому головне питання, яке тепер постає перед платформами з рекомендаційними алгоритмами, стосується управління ризиками: якщо компанія вже має функцію, покликану зменшити передбачувану шкоду, чи повинна комерційна перевірка залученості визначати, хто саме отримає цей захист?