Eksperimen TikTok Didakwa Meletakkan Interaksi Mengatasi Keselamatan Pengguna

Bloomberg melaporkan TikTok pernah menjalankan eksperimen yang mengekalkan kira-kira 10% pengguna di Amerika Syarikat—sekitar 15 juta orang pada ketika itu—pada versi lama algoritma cadangan. Syarikat itu mahu menguji sama ada kemas kini keselamatan yang direka untuk mengurangkan kelompok kandungan berbahaya akan menyebabkan aplikasi kurang menarik atau kurang “melekat” kepada pengguna. 2

Laporan itu mencetuskan perhatian kerana kumpulan kawalan berkenaan didakwa turut merangkumi golongan bawah umur. Salah seorangnya ialah Chase Nasca, remaja berusia 16 tahun yang menurut laporan menerima ribuan video tentang bunuh diri, kesedihan, rasa putus harapan dan kesunyian melalui akaunnya. Nasca meninggal dunia akibat bunuh diri beberapa minggu kemudian.

Bagaimanapun, laporan yang tersedia tidak membuktikan bahawa TikTok menyebabkan kematiannya. Apa yang ditunjukkan ialah sebab keputusan untuk menangguhkan satu ciri keselamatan kini menjadi tumpuan pertikaian mengenai tanggungjawab dan tadbir urus platform. 2

Apakah yang diuji TikTok?

TikTok sebelum itu mengubah sistem cadangannya bagi mengurangkan risiko pengguna dihujani kandungan berulang tentang topik berisiko tinggi. Matlamatnya adalah untuk memutuskan apa yang digambarkan dalam laporan sebagai lingkaran cadangan berbahaya atau “gelembung penapis”—keadaan apabila suapan pengguna terus mengukuhkan tema yang sama dan semakin menyedihkan. 2

Namun, perubahan itu dilaporkan tidak diberikan kepada semua pengguna. TikTok mengekalkan kumpulan kawalan yang terdiri daripada 10% pengguna AS pada algoritma lama bagi mengukur sama ada versi yang lebih selamat akan menjejaskan interaksi pengguna. 2

Perincian ini penting. Dalam ujian produk biasa, perkara yang diuji mungkin sekadar ciri tambahan atau perubahan kosmetik. Dalam kes ini, pemboleh ubah yang dipertikaikan ialah perlindungan yang bertujuan mengehadkan pendedahan kepada kandungan yang berpotensi memudaratkan.

Persoalan utamanya: adakah platform patut dibenarkan menangguhkan perlindungan sedemikian untuk sekumpulan pengguna yang dipilih secara rawak apabila risiko paling besar mungkin ditanggung oleh mereka yang sudah terdedah atau rentan?

Kesan yang dilaporkan terhadap pengguna dalam kumpulan kawalan

Pengguna yang masih menggunakan sistem lama mungkin lebih terdedah kepada cadangan berulang berkaitan bunuh diri, mencederakan diri, kemurungan, kesedihan, kesunyian, gangguan pemakanan dan topik seumpamanya. Laporan mengenai akaun Nasca menyatakan bahawa suapannya terperangkap dalam ribuan video daripada kategori tersebut. 2

Kesimpulan yang wajar dibuat perlu kekal berhati-hati: eksperimen itu mungkin menyebabkan sesetengah pengguna tidak menerima perlindungan yang telah dibangunkan TikTok untuk mengurangkan pengelompokan kandungan berbahaya. Namun, eksperimen itu sendiri tidak membuktikan bahawa algoritma menyebabkan hasil kesihatan mental atau kematian tertentu.

Perbezaan antara dua dakwaan ini penting ketika menilai laporan tersebut dan tahap tanggungjawab syarikat.

Mengapa senator AS menyifatkannya sebagai “keji”?

Senator Marsha Blackburn dan Senator Richard Blumenthal mendakwa TikTok sengaja menahan langkah keselamatan algoritma daripada jutaan rakyat Amerika—termasuk kanak-kanak—untuk menentukan sama ada perlindungan pengguna akan memberi kesan kepada interaksi di platform. Mereka menyifatkan keputusan itu sebagai “keji” dan meminta syarikat berkenaan memberikan penjelasan segera. 1

Kebimbangan mereka bukan hanya berkaitan satu akaun. Soalan para senator turut menyentuh proses membuat keputusan di sebalik ujian itu: siapa yang meluluskannya, kakitangan dan eksekutif mana yang mengetahuinya, sama ada penilaian risiko pernah dijalankan, serta mengapa golongan bawah umur dibenarkan berada dalam kumpulan kawalan. 1

13 soalan yang perlu dijawab TikTok

Surat para senator mengandungi 13 soalan dan memberi TikTok tempoh sehingga 1 September untuk menjawab. Antara perkara yang dibangkitkan ialah:

• Mengapa kanak-kanak dimasukkan dalam ujian yang menahan satu ciri keselamatan.
• Kakitangan dan eksekutif mana yang mengetahui tentang eksperimen tersebut.
• Siapa yang meluluskan ujian itu dan sama ada penilaian risiko telah disiapkan.
• Apakah dapatan eksperimen berhubung keselamatan dan interaksi pengguna.
• Sama ada TikTok pernah menjalankan eksperimen lain di AS yang melumpuhkan atau menangguhkan ciri keselamatan.
• Sama ada syarikat akan menyerahkan dokumen dalaman lengkap dan tanpa suntingan yang menerangkan ujian tersebut. 111

Jawapan yang diminta boleh membantu menentukan skop eksperimen itu serta tahap pengawasan yang dikenakan. Ia juga mungkin menjelaskan sama ada ujian berkenaan hanyalah keputusan produk yang terpencil atau sebahagian daripada amalan lebih luas melibatkan ciri keselamatan.

Apa yang masih belum terbukti?

Berdasarkan bahan yang tersedia, beberapa kesimpulan tidak wajar dibuat. Laporan itu tidak membuktikan bahawa TikTok menyebabkan Nasca membunuh diri. Sumber yang diberikan juga tidak menyatakan berapa ramai pengguna lain menerima suapan yang serupa atau apakah kesan akhir eksperimen tersebut terhadap kadar interaksi.

Apa yang didokumentasikan adalah lebih terhad, tetapi tetap serius: TikTok dilaporkan mewujudkan kumpulan kawalan kira-kira 15 juta pengguna AS, mengekalkan kumpulan itu pada sistem cadangan lama dan memasukkan golongan bawah umur ketika menilai sama ada perubahan keselamatan akan menjejaskan interaksi. 2

Menurut laporan TechCrunch, TikTok tidak segera memberikan komen ketika diminta menjawab isu tersebut. 15 Penjelasan yang diminta para senator akhirnya kembali kepada satu persoalan asas tentang platform yang bergantung pada sistem cadangan: apabila syarikat sudah mempunyai ciri untuk mengurangkan kemudaratan yang boleh dijangka, patutkah ujian interaksi menentukan siapa yang menerima perlindungan itu?