TikTok testował zaangażowanie kosztem ochrony użytkowników? Senatorowie żądają wyjaśnień

Według ustaleń „Bloomberga” TikTok przeprowadził eksperyment, w ramach którego około 10 proc. użytkowników w USA — w tamtym czasie mniej więcej 15 mln osób — pozostało przy starszej wersji algorytmu rekomendacji. Platforma sprawdzała, czy aktualizacja zaprojektowana z myślą o ograniczeniu skupisk szkodliwych treści nie sprawi, że aplikacja będzie mniej angażująca, czyli mniej „lepka”. 2

Sprawa budzi szczególne kontrowersje, ponieważ w grupie kontrolnej miały znaleźć się także osoby niepełnoletnie. Należał do niej 16-letni Chase Nasca. Zgodnie z opisem zawartym w publikacji jego konto otrzymywało później tysiące filmów dotyczących samobójstwa, smutku, beznadziei i samotności. Kilka tygodni później Nasca zmarł śmiercią samobójczą. Dostępne materiały nie dowodzą, że TikTok doprowadził do jego śmierci. Pokazują jednak, dlaczego decyzja o niewdrożeniu zabezpieczenia stała się przedmiotem sporu o odpowiedzialność platformy. 2

Co miał testować TikTok

W 2021 roku TikTok zmienił system rekomendacji, aby ograniczyć ryzyko, że użytkownicy zostaną przytłoczeni powtarzającymi się treściami dotyczącymi tematów wysokiego ryzyka. Chodziło o przerwanie szkodliwej spirali rekomendacji — sytuacji, w której algorytm nieustannie wzmacnia ten sam niepokojący motyw — zamiast pozwalać, by kolejne materiały coraz mocniej zawężały zawartość kanału użytkownika. 2

Platforma nie miała jednak wdrożyć zmiany wszystkim. Zamiast tego około 10 proc. użytkowników w USA miało pozostać przy wcześniejszym algorytmie i tworzyć grupę kontrolną. Pytanie biznesowe brzmiało: czy bezpieczniejsza wersja wpłynie negatywnie na zaangażowanie użytkowników? 2

To istotna różnica w porównaniu ze zwykłym testem produktu, w którym sprawdza się na przykład opcjonalną funkcję albo zmianę wyglądu aplikacji. W tym przypadku testowana zmienna dotyczyła ochrony mającej ograniczać kontakt z potencjalnie szkodliwymi treściami. Najważniejsze pytanie etyczne brzmi więc: czy platforma powinna móc celowo opóźniać wdrożenie takiego zabezpieczenia dla losowo wybranej grupy, jeśli potencjalne konsekwencje mogą dotknąć osoby szczególnie podatne na zagrożenia?

Na jakie treści mogli być narażeni użytkownicy

Osoby przypisane do starszego systemu mogły mieć większy kontakt z powtarzającymi się rekomendacjami dotyczącymi samobójstwa, samookaleczeń, depresji, smutku, samotności, zaburzeń odżywiania i podobnych tematów. Według relacji dotyczących konta Nascy jego kanał miał zostać zdominowany przez tysiące filmów z tych kategorii. 2

Najostrożniejszy wniosek jest taki, że eksperyment mógł pozostawić część użytkowników bez ochrony opracowanej przez TikToka właśnie po to, by ograniczyć kumulowanie się szkodliwych treści. Sam eksperyment nie dowodzi jednak, że algorytm wywołał konkretny problem ze zdrowiem psychicznym ani że doprowadził do czyjejś śmierci. Rozróżnienie tych twierdzeń ma kluczowe znaczenie przy ocenie zarówno doniesień, jak i odpowiedzialności firmy.

Dlaczego senatorowie nazwali decyzję „zdeprawowaną”

Senatorowie Marsha Blackburn i Richard Blumenthal stwierdzili, że TikTok świadomie wstrzymał algorytmiczne zabezpieczenie dla milionów Amerykanów — w tym dzieci — aby sprawdzić, czy ochrona użytkowników wpłynie na ich zaangażowanie. Określili tę decyzję jako „zdeprawowaną” i zażądali od firmy szybkich wyjaśnień. 1

Ich pytania dotyczą nie tylko skutków działania jednego konta. Senatorowie chcą ustalić, jak wyglądał proces decyzyjny: kto zatwierdził eksperyment, którzy pracownicy i członkowie kierownictwa o nim wiedzieli, czy przeprowadzono ocenę ryzyka oraz dlaczego do grupy kontrolnej dopuszczono osoby niepełnoletnie. 1

TikTok ma odpowiedzieć na 13 pytań

W piśmie senatorów znalazło się 13 pytań. Dotyczą one między innymi następujących kwestii:

• dlaczego dzieci zostały objęte testem, w którym wstrzymano funkcję bezpieczeństwa;
• którzy pracownicy i członkowie kierownictwa wiedzieli o eksperymencie;
• kto go zatwierdził i czy przed jego rozpoczęciem przeprowadzono ocenę ryzyka;
• jakie były wyniki testu dotyczące bezpieczeństwa i zaangażowania;
• czy TikTok prowadził w USA inne eksperymenty, które wyłączały lub opóźniały funkcje bezpieczeństwa;
• czy firma udostępni kompletny, nieocenzurowany dokument wewnętrzny opisujący test. 111

Senatorowie wyznaczyli TikTokowi termin odpowiedzi na 1 września. 11 Chcą w ten sposób ustalić zarówno skalę eksperymentu, jak i poziom nadzoru, jaki nad nim sprawowano. Odpowiedzi mogą również pokazać, czy był to odosobniony wybór zespołu produktowego, czy element szerszej praktyki dotyczącej funkcji związanych z bezpieczeństwem.

Czego dostępne materiały nie potwierdzają

Na podstawie przedstawionych informacji nie należy wyciągać kilku dalej idących wniosków. Doniesienia nie dowodzą, że TikTok spowodował samobójstwo Nascy. Nie wiadomo też, ilu innych użytkowników otrzymywało podobnie skonstruowane kanały ani jaki dokładnie wpływ eksperyment miał ostatecznie na poziom zaangażowania.

Udokumentowany obraz jest węższy, ale nadal poważny: TikTok miał utworzyć grupę kontrolną obejmującą około 15 mln użytkowników w USA, pozostawić ją przy starszym systemie rekomendacji i uwzględnić w niej osoby niepełnoletnie podczas sprawdzania, czy zmiana bezpieczeństwa wpływa na zaangażowanie. 2

W chwili publikacji informacji przez TechCrunch TikTok nie odpowiedział od razu na prośbę o komentarz. 15 Sprawa sprowadza się więc do podstawowego pytania o zarządzanie platformami rekomendacyjnymi: jeśli firma posiada funkcję mającą ograniczać przewidywalne szkody, czy to testy zaangażowania powinny decydować o tym, kto otrzyma taką ochronę?