TikTok’un güvenlik testi: Etkileşim uğruna milyonlarca kullanıcı korumasız mı bırakıldı?

Bloomberg’in haberine göre TikTok, 2021’de öneri algoritmasında yaptığı ve kullanıcıların zararlı içeriklerle aşırı biçimde karşılaşmasını azaltmayı amaçlayan değişikliği herkese aynı anda uygulamadı. Şirket bunun yerine, uygulamanın kullanıcıları ne kadar süre tuttuğunu ve etkileşimi azaltıp azaltmayacağını görmek için ABD’deki kullanıcıların yaklaşık yüzde 10’unu eski algoritmada bıraktı. Bu oran, o dönemde yaklaşık 15 milyon kişiye karşılık geliyordu. 2

Tartışmanın en hassas noktası, bu kontrol grubunda reşit olmayan kullanıcıların da bulunması. Bloomberg’in aktardığına göre grupta yer alan 16 yaşındaki Chase Nasca’nın hesabında daha sonra intihar, üzüntü, umutsuzluk ve yalnızlık temalı binlerce video görüldü. Nasca birkaç hafta sonra intihar ederek hayatını kaybetti. Mevcut haberler TikTok’un ölümüne neden olduğunu kanıtlamıyor; ancak güvenlik önleminin bazı kullanıcılardan bilerek esirgenmiş olabileceği iddiasının neden ciddi bir hesap verebilirlik tartışması yarattığını gösteriyor. 2

TikTok’un test ettiği güvenlik önlemi neydi?

TikTok’un değiştirdiği öneri sistemi, kullanıcıların yüksek riskli konularla ilgili videoları art arda görerek bir tür algoritmik kısır döngüye girmesini azaltmayı hedefliyordu. Başka bir deyişle amaç, “Sizin İçin” akışının aynı rahatsız edici temaları sürekli yeniden üretmesini engellemekti. 2

Şirket, bu değişikliği bütün kullanıcılara sunmak yerine ABD’deki kullanıcıların yüzde 10’unu kontrol grubu olarak ayırdı ve bu kişileri önceki algoritmada tuttu. Testin temel ticari sorusu, daha güvenli sürümün uygulamayı daha az “bağımlılık yaratıcı” veya daha az ilgi çekici hale getirip getirmeyeceğiydi. 2

Bu ayrım önemli. Sıradan bir ürün testinde değerlendirilen özellik, görsel bir tasarım değişikliği ya da isteğe bağlı bir işlev olabilir. Buradaki tartışmalı unsur ise potansiyel olarak zararlı içeriklere maruz kalmayı sınırlamak için geliştirilen bir korumaydı. Dolayısıyla temel etik soru şu: Bir platform, özellikle savunmasız olabilecek kullanıcıları da kapsayan rastgele bir gruba güvenlik önlemini sunmayı, etkileşim sonuçlarını ölçmek için erteleyebilir mi?

Kontrol grubundaki kullanıcılar neyle karşılaşmış olabilir?

Eski algoritmaya atanan kullanıcılar; intihar, kendine zarar verme, depresyon, üzüntü, yalnızlık, yeme bozuklukları ve benzeri konulardaki tekrar eden önerilere daha fazla maruz kalmış olabilir. Nasca’nın hesabına ilişkin haberlerde, akışının bu kategorilerdeki binlerce videodan oluşan bir içerik döngüsüne sıkıştığı belirtildi. 2

Eldeki kanıtların izin verdiği dikkatli sonuç şu: Deney, bazı kullanıcıları TikTok’un zararlı içerik kümelenmesini azaltmak için geliştirdiği bir korumadan mahrum bırakmış olabilir. Ancak bu durum, algoritmanın belirli bir ruh sağlığı sonucuna ya da bir ölüme doğrudan neden olduğunu tek başına kanıtlamaz. Şirketin sorumluluğunu değerlendirirken bu iki iddiayı birbirinden ayırmak gerekiyor.

Senatörler kararı neden “ahlaksız” buluyor?

ABD’li senatörler Marsha Blackburn ve Richard Blumenthal, TikTok’un milyonlarca Amerikalıdan (çocuklar dahil) algoritmik bir güvenlik önlemini bilerek sakladığını ve bunun kullanıcıları korumanın etkileşimi azaltıp azaltmayacağını görmek için yapıldığını söyledi. Senatörler kararı “ahlaksız” olarak nitelendirerek şirketten hızlı bir açıklama talep etti. 1

Senatörlerin itirazı yalnızca tek bir hesabın akışında görülenlerle sınırlı değil. Sorular, testin nasıl onaylandığına ve ne kadar gözetim altında yürütüldüğüne odaklanıyor: Deneyi kim yetkilendirdi? Hangi çalışanlar ve yöneticiler bundan haberdardı? TikTok bir risk değerlendirmesi yaptı mı? Reşit olmayan kullanıcılar neden kontrol grubuna dahil edildi? 1

TikTok’tan istenen 13 yanıt

Senatörlerin mektubunda 13 soru yer alıyor. Öne çıkan başlıklar şöyle:

• Güvenlik özelliğinin uygulanmadığı bir teste çocukların neden dahil edildiği.
• Deneyden hangi çalışanların ve yöneticilerin haberdar olduğu.
• Testi kimin onayladığı ve öncesinde risk değerlendirmesi yapılıp yapılmadığı.
• Deneyin güvenlik ve etkileşim açısından hangi sonuçları ortaya koyduğu.
• TikTok’un ABD’de güvenlik özelliklerini devre dışı bırakan veya kullanıma sunulmasını geciktiren başka deneyler yapıp yapmadığı.
• Testi anlatan şirket içi belgenin eksiksiz ve sansürsüz bir kopyasının paylaşılması. 111

Mektup, TikTok’tan 1 Eylül’e kadar yanıt bekliyor. 11 İstenen bilgiler, bunun tek seferlik bir ürün kararı mı yoksa güvenlik özellikleriyle ilgili daha geniş bir uygulamanın parçası mı olduğunu aydınlatabilir.

Şu an için kanıtlanmayanlar

Mevcut kaynaklara dayanarak bazı sonuçlara kesin biçimde varılamaz. Haberler, TikTok’un Chase Nasca’nın intiharına neden olduğunu ortaya koymuyor. Ayrıca kaç kullanıcının benzer akışlarla karşılaştığı ve testin etkileşim üzerindeki nihai ölçülebilir etkisinin ne olduğu da sağlanan kaynaklarda açıklanmıyor.

Belgelenen daha sınırlı ancak yine de önemli iddia şu: TikTok, yaklaşık 15 milyon ABD kullanıcısını eski öneri sisteminde tutan bir kontrol grubu oluşturdu ve güvenlik güncellemesinin etkileşimi etkileyip etkilemeyeceğini değerlendirirken bu gruba reşit olmayan kullanıcıları da dahil etti. 2

TechCrunch’ın senatörlerin talebine ilişkin haberinin yayımlandığı sırada TikTok, yorum talebine hemen yanıt vermemişti. 15 Tartışmanın merkezinde, öneri platformları için giderek daha önemli hale gelen bir yönetişim sorusu bulunuyor: Bir şirket öngörülebilir bir zararı azaltmayı amaçlayan bir özelliğe sahipse, bu korumadan kimlerin yararlanacağını etkileşim testleri belirlemeli mi?