Eksperimen TikTok Picu Sorotan: Fitur Keselamatan Diduga Ditahan demi Engagement

Laporan Bloomberg mengungkap bahwa TikTok diduga menjalankan eksperimen terhadap sekitar 10% pengguna di Amerika Serikat—setara dengan kira-kira 15 juta orang pada saat itu. Kelompok kontrol tersebut tetap menggunakan versi lama algoritma rekomendasi, sementara TikTok menguji apakah pembaruan keselamatan akan membuat aplikasi terasa kurang menarik atau mengurangi waktu keterlibatan pengguna (engagement). 2

Sorotan terhadap eksperimen ini semakin tajam karena kelompok kontrol tersebut dilaporkan mencakup pengguna di bawah umur. Salah satunya adalah Chase Nasca, remaja berusia 16 tahun yang, menurut laporan, kemudian menerima ribuan video tentang bunuh diri, kesedihan, keputusasaan, dan kesepian. Nasca meninggal karena bunuh diri beberapa minggu kemudian. Laporan yang tersedia tidak membuktikan bahwa TikTok menyebabkan kematiannya. Namun, kasus ini menjelaskan mengapa keputusan menahan fitur keselamatan kini menjadi pusat perdebatan soal pertanggungjawaban platform. 2

Fitur apa yang sedang diuji TikTok?

TikTok sebelumnya mengubah sistem rekomendasinya untuk mengurangi risiko pengguna dibanjiri konten berulang tentang topik berisiko tinggi. Tujuannya adalah memutus apa yang digambarkan dalam laporan sebagai lingkaran rekomendasi berbahaya atau gelembung filter—situasi ketika algoritma terus menyajikan tema yang sama dan semakin memperkuat paparan pengguna terhadapnya. 2

Alih-alih menerapkan perubahan itu kepada seluruh pengguna, TikTok dilaporkan mempertahankan sekitar 10% pengguna AS pada algoritma sebelumnya sebagai kelompok kontrol. Pertanyaan bisnis yang hendak dijawab adalah apakah versi yang lebih aman tersebut akan menurunkan engagement atau “daya lekat” aplikasi. 2

Perbedaan ini penting. Dalam uji produk biasa, variabel yang diuji bisa berupa fitur kosmetik atau pilihan tambahan. Dalam kasus ini, variabel yang diperdebatkan adalah perlindungan yang dirancang untuk membatasi paparan terhadap konten yang berpotensi membahayakan. Karena itu, muncul pertanyaan etis: bolehkah platform menunda perlindungan semacam itu bagi kelompok pengguna yang dipilih secara acak, terutama ketika sebagian dari mereka mungkin berada dalam kondisi rentan?

Paparan apa yang dialami kelompok kontrol?

Pengguna yang masih memakai sistem lama berpotensi lebih sering menerima rekomendasi berulang mengenai bunuh diri, menyakiti diri sendiri, depresi, kesedihan, kesepian, gangguan makan, serta topik terkait. Menurut laporan tentang akun Nasca, berandanya terjebak dalam rangkaian berisi ribuan video dari kategori tersebut. 2

Kesimpulan yang paling hati-hati adalah bahwa eksperimen itu mungkin membuat sebagian pengguna tidak memperoleh perlindungan yang telah dikembangkan TikTok untuk mengurangi pengelompokan konten berbahaya. Namun, eksperimen tersebut tidak dengan sendirinya membuktikan bahwa algoritma menyebabkan hasil kesehatan mental tertentu atau kematian seseorang. Pembedaan ini penting ketika menilai laporan maupun tanggung jawab perusahaan.

Mengapa keputusan ini disebut “bejat”?

Senator Marsha Blackburn dan Richard Blumenthal mengatakan TikTok secara sadar menahan sebuah langkah keselamatan algoritmik dari jutaan warga Amerika—termasuk anak-anak—untuk mengetahui apakah perlindungan pengguna akan memengaruhi engagement. Keduanya menyebut keputusan itu “bejat” dan meminta penjelasan segera dari perusahaan. 1

Perhatian mereka tidak hanya tertuju pada apa yang terjadi pada satu akun. Pertanyaan para senator menyasar proses pengambilan keputusan di balik eksperimen tersebut: siapa yang mengizinkannya, karyawan dan eksekutif mana yang mengetahuinya, apakah TikTok melakukan penilaian risiko, serta mengapa pengguna di bawah umur dapat masuk ke kelompok kontrol. 1

13 pertanyaan yang harus dijawab TikTok

Surat para senator berisi 13 pertanyaan dan meminta TikTok menjelaskan beberapa hal berikut:

• Mengapa anak-anak dilibatkan dalam uji coba yang menahan sebuah fitur keselamatan.
• Karyawan dan eksekutif mana saja yang mengetahui eksperimen tersebut.
• Siapa yang menyetujui uji coba dan apakah penilaian risiko telah dilakukan.
• Apa hasil eksperimen terhadap keselamatan dan engagement pengguna.
• Apakah TikTok pernah menjalankan eksperimen lain di AS yang menonaktifkan atau menunda fitur keselamatan.
• Apakah perusahaan akan menyerahkan dokumen internal lengkap yang tidak disunting terkait eksperimen tersebut. 111

Para senator memberikan batas waktu hingga 1 September untuk memperoleh jawaban. 11 Respons itu diharapkan dapat mengungkap cakupan eksperimen sekaligus tingkat pengawasan yang diterapkan. Jawaban TikTok juga bisa menunjukkan apakah uji tersebut merupakan keputusan produk yang berdiri sendiri atau bagian dari praktik yang lebih luas terkait fitur keselamatan.

Apa yang belum terbukti?

Sejumlah kesimpulan tidak dapat ditarik dari materi yang tersedia. Laporan tersebut tidak membuktikan bahwa TikTok menyebabkan Nasca meninggal karena bunuh diri. Sumber yang disediakan juga belum menunjukkan berapa banyak pengguna lain yang mengalami pola rekomendasi serupa atau berapa hasil akhir eksperimen terhadap engagement.

Fakta yang terdokumentasi lebih terbatas, tetapi tetap penting: TikTok dilaporkan membuat kelompok kontrol yang mencakup sekitar 15 juta pengguna AS, mempertahankan mereka pada sistem rekomendasi lama, dan memasukkan pengguna di bawah umur ketika mengevaluasi apakah perubahan keselamatan akan berdampak pada engagement. 2

Pada saat TechCrunch melaporkan tuntutan para senator, TikTok belum segera menanggapi permintaan komentar. 15 Karena itu, inti persoalannya kini menyentuh pertanyaan tata kelola yang lebih luas bagi platform berbasis rekomendasi: ketika perusahaan memiliki fitur yang dirancang untuk mengurangi risiko bahaya yang dapat diperkirakan, apakah pengujian engagement boleh menentukan siapa yang mendapatkan perlindungan tersebut?