TikTok skal ha satt engasjement foran en viktig sikkerhetsfunksjon

Bloomberg har meldt at TikTok gjennomførte et eksperiment der rundt ti prosent av brukerne i USA – på det tidspunktet omtrent 15 millioner mennesker – ble værende på en eldre versjon av anbefalingsalgoritmen. Selskapet ville undersøke om en sikkerhetsoppdatering, laget for å redusere klynger av skadelig innhold, gjorde appen mindre engasjerende eller mindre «klebrig». 2

Opplysningene har vakt sterke reaksjoner fordi kontrollgruppen skal ha inkludert mindreårige. Blant brukerne var 16 år gamle Chase Nasca. Ifølge omtalen mottok kontoen hans senere tusenvis av videoer om selvmord, tristhet, håpløshet og ensomhet. Nasca døde av selvmord noen uker senere. Det tilgjengelige materialet fastslår ikke at TikTok forårsaket dødsfallet hans. Det viser imidlertid hvorfor beslutningen om å holde sikkerhetsfunksjonen tilbake har blitt et sentralt spørsmål i debatten om plattformens ansvar. 2

Hva TikTok skal ha testet

TikTok hadde endret anbefalingssystemet for å redusere risikoen for at brukere ble overveldet av gjentatte videoer om høyrisikotemaer. Målet var å bryte en skadelig anbefalingsspiral – eller en algoritmisk filterboble – i stedet for at innholdet i strømmen fortsatte å forsterke de samme belastende temaene. 2

Oppdateringen ble ifølge rapporteringen ikke rullet ut til alle. I stedet lot TikTok en kontrollgruppe på ti prosent av brukerne i USA bruke den gamle algoritmen. Det forretningsmessige spørsmålet var om den tryggere versjonen ville føre til lavere bruk og engasjement. 2

Dette er avgjørende for vurderingen av eksperimentet. I en vanlig produkttest kan man prøve ut en valgfri eller kosmetisk funksjon. Her var den omstridte forskjellen et tiltak som skulle beskytte brukere mot potensielt skadelig innhold. Det etiske hovedspørsmålet er derfor om en plattform bør kunne utsette en slik beskyttelse for en tilfeldig utvalgt gruppe når konsekvensene kan ramme mennesker som allerede er sårbare.

Hva brukerne i kontrollgruppen kan ha blitt utsatt for

Brukere som ble værende på det eldre systemet, kan ha fått større eksponering for gjentatte anbefalinger om selvmord, selvskading, depresjon, tristhet, ensomhet, spiseforstyrrelser og beslektede temaer. I omtalen av Nascas konto ble det beskrevet en strøm som hadde blitt fanget i tusenvis av videoer i disse kategoriene. 2

Det er viktig å trekke en presis konklusjon: Eksperimentet kan ha etterlatt enkelte brukere uten en beskyttelse TikTok hadde utviklet for å redusere opphopning av skadelig innhold. Materialet beviser ikke i seg selv at algoritmen forårsaket et bestemt psykisk helseutfall eller et dødsfall. Dette skillet er avgjørende når både rapporteringen og selskapets ansvar skal vurderes.

Hvorfor senatorene kaller beslutningen «fordervet»

Senatorene Marsha Blackburn og Richard Blumenthal har sagt at TikTok bevisst holdt tilbake et algoritmisk sikkerhetstiltak fra millioner av amerikanere – inkludert barn – for å undersøke om beskyttelsen påvirket engasjementet på plattformen. De har omtalt beslutningen som «fordervet» og bedt om en rask forklaring fra selskapet. 1

Bekymringen deres gjelder ikke bare innholdet på én konto. Spørsmålene handler også om hvordan testen ble godkjent og fulgt opp: Hvem ga klarsignal? Hvilke ansatte og ledere kjente til den? Gjennomførte TikTok en risikovurdering? Og hvorfor kunne mindreårige inngå i kontrollgruppen? 1

Dette må TikTok forklare

Brevet fra senatorene inneholder 13 spørsmål. Blant temaene er:

• Hvorfor barn ble inkludert i en test der en sikkerhetsfunksjon ble holdt tilbake.
• Hvilke ansatte og ledere som kjente til eksperimentet.
• Hvem som godkjente testen, og om det ble gjennomført en risikovurdering.
• Hva eksperimentet viste om sikkerhet og brukerengasjement.
• Om TikTok har gjennomført andre eksperimenter i USA der sikkerhetsfunksjoner ble deaktivert eller forsinket.
• Om selskapet vil utlevere hele, uredigerte dokumentet som beskriver testen. 111

Senatorene har bedt TikTok svare innen 1. september. 11 Svarene kan bidra til å avklare både hvor omfattende eksperimentet var og hvilket tilsyn som ble ført. De kan også vise om testen var en enkeltstående produktbeslutning eller del av en bredere praksis knyttet til sikkerhetsfunksjoner.

Det som fortsatt ikke er bevist

Det er flere konklusjoner man ikke kan trekke fra materialet som foreligger. Rapporteringen fastslår ikke at TikTok forårsaket Nascas selvmord. Den viser heller ikke, ut fra de oppgitte kildene, hvor mange andre brukere som fikk tilsvarende videostrømmer, eller hva den endelige målte effekten på engasjementet faktisk var.

Det som er dokumentert i den tilgjengelige omtalen, er smalere – men fortsatt alvorlig: TikTok skal ha opprettet en kontrollgruppe på rundt 15 millioner brukere i USA, latt denne gruppen bruke et eldre anbefalingssystem og inkludert mindreårige mens selskapet undersøkte om en sikkerhetsendring påvirket engasjementet. 2

Da TechCrunch omtalte senatorenes krav, hadde TikTok ikke umiddelbart svart på en forespørsel om kommentar. 15 Saken handler dermed om et grunnleggende styringsspørsmål for plattformer som anbefaler innhold: Når et selskap har utviklet en funksjon for å redusere en forutsigbar risiko, bør hensynet til engasjement avgjøre hvem som får beskyttelsen?