TikTok ถูกกล่าวหาว่าแลกฟีเจอร์ความปลอดภัยกับการทดสอบ Engagement

รายงานของ Bloomberg ระบุว่า TikTok เคยทดลองระบบแนะนำวิดีโอโดยให้ผู้ใช้ในสหรัฐฯ ประมาณ 10% หรือราว 15 ล้านคนในเวลานั้น ยังคงใช้ระบบอัลกอริทึมรุ่นเก่า ขณะที่ผู้ใช้อื่นได้รับการอัปเดตด้านความปลอดภัย บริษัทต้องการดูว่าการเปลี่ยนแปลงที่ช่วยลดการรวมกลุ่มของคอนเทนต์อันตรายจะทำให้แอป “น่าติดตาม” หรือมี Engagement ลดลงหรือไม่ 2

ประเด็นที่ทำให้เรื่องนี้ถูกจับตาอย่างหนักคือ กลุ่มควบคุมดังกล่าว reportedly รวมผู้เยาว์ด้วย หนึ่งในนั้นคือ Chase Nasca เด็กชายวัย 16 ปี ซึ่งรายงานระบุว่าบัญชีของเขาได้รับวิดีโอหลายพันรายการเกี่ยวกับการฆ่าตัวตาย ความเศร้า ความสิ้นหวัง และความโดดเดี่ยว ก่อนที่เขาจะเสียชีวิตจากการฆ่าตัวตายในอีกไม่กี่สัปดาห์ต่อมา 2

อย่างไรก็ตาม ข้อมูลที่มีอยู่ ยังไม่ยืนยันว่า TikTok เป็นสาเหตุของการเสียชีวิตของ Nasca สิ่งที่รายงานแสดงให้เห็นคือ เหตุใดการตัดสินใจชะลอหรือไม่มอบฟีเจอร์ความปลอดภัยให้ผู้ใช้บางกลุ่ม จึงกลายเป็นข้อพิพาทสำคัญเรื่องความรับผิดชอบของแพลตฟอร์ม

TikTok ทดสอบอะไร

ในปี 2021 TikTok ปรับระบบแนะนำเพื่อช่วยลดความเสี่ยงที่ผู้ใช้จะถูกป้อนคอนเทนต์เกี่ยวกับประเด็นอ่อนไหวหรือมีความเสี่ยงสูงซ้ำแล้วซ้ำเล่า เป้าหมายคือการตัดวงจรการแนะนำแบบไหลต่อเนื่อง หรือที่อาจเรียกได้ว่าเป็น “ฟองสบู่คอนเทนต์อันตราย” แทนที่จะปล่อยให้ฟีดตอกย้ำหัวข้อเดิม ๆ ที่อาจส่งผลกระทบต่อผู้ใช้บางคน 2

แต่ TikTok ไม่ได้เปิดใช้การเปลี่ยนแปลงนี้กับทุกคน รายงานระบุว่าบริษัทคงผู้ใช้สหรัฐฯ ราว 10% ไว้บนอัลกอริทึมเดิมในฐานะกลุ่มควบคุม เพื่อวัดว่าระบบที่ปลอดภัยกว่าจะทำให้ Engagement ลดลงหรือไม่ 2

ความแตกต่างอยู่ที่การทดลองนี้ไม่ได้ทดสอบเพียงฟีเจอร์ตกแต่งหรือทางเลือกใช้งานทั่วไป แต่เป็นการทดสอบกับมาตรการที่ออกแบบมาเพื่อจำกัดการได้รับคอนเทนต์ซึ่งอาจเป็นอันตราย คำถามด้านจริยธรรมจึงตามมาว่า แพลตฟอร์มควรมีสิทธิ์ชะลอมาตรการป้องกันดังกล่าวกับผู้ใช้ที่ถูกสุ่มเลือกหรือไม่ โดยเฉพาะเมื่อกลุ่มนั้นอาจรวมผู้ที่มีความเปราะบางอยู่แล้ว

ผู้ใช้ในกลุ่มควบคุมได้รับอะไรบ้าง

ผู้ใช้ที่ยังอยู่บนระบบเก่าอาจได้รับการแนะนำวิดีโอซ้ำ ๆ เกี่ยวกับการฆ่าตัวตาย การทำร้ายตัวเอง ภาวะซึมเศร้า ความเศร้า ความโดดเดี่ยว ความผิดปกติด้านการกิน และหัวข้อใกล้เคียงกันมากกว่าเดิม รายงานเกี่ยวกับบัญชีของ Nasca ระบุว่า ฟีดของเขากลายเป็นชุดวิดีโอหลายพันรายการในหมวดหมู่เหล่านี้ 2

ข้อสรุปที่รอบคอบที่สุดคือ การทดลองนี้อาจทำให้ผู้ใช้บางคนไม่ได้รับมาตรการป้องกันที่ TikTok พัฒนาขึ้นเพื่อลดการกระจุกตัวของคอนเทนต์อันตราย แต่หลักฐานดังกล่าวไม่สามารถพิสูจน์ได้ด้วยตัวเองว่าอัลกอริทึมเป็นสาเหตุของผลลัพธ์ด้านสุขภาพจิตหรือการเสียชีวิตของบุคคลใด การแยกสองประเด็นนี้ออกจากกันเป็นสิ่งสำคัญต่อการประเมินทั้งรายงานข่าวและความรับผิดชอบของบริษัท

เหตุใดวุฒิสมาชิกจึงเรียกการตัดสินใจนี้ว่า “เลวร้ายอย่างยิ่ง”

วุฒิสมาชิกสหรัฐฯ Marsha Blackburn และ Richard Blumenthal ระบุว่า TikTok จงใจไม่เปิดใช้มาตรการความปลอดภัยด้านอัลกอริทึมกับชาวอเมริกันหลายล้านคน รวมถึงเด็ก ๆ เพื่อดูว่าการปกป้องผู้ใช้จะกระทบต่อ Engagement ของแพลตฟอร์มหรือไม่ ทั้งสองเรียกการตัดสินใจนี้ว่า “depraved” หรือ “เลวร้ายอย่างยิ่ง” และขอให้บริษัทชี้แจงโดยเร็ว 1

ความกังวลของพวกเขาไม่ได้จำกัดอยู่ที่กรณีของผู้ใช้เพียงรายเดียว แต่พุ่งไปที่กระบวนการตัดสินใจเบื้องหลังการทดลอง ได้แก่ ใครเป็นผู้อนุมัติ พนักงานและผู้บริหารคนใดรับรู้เรื่องนี้ บริษัทประเมินความเสี่ยงไว้หรือไม่ และเหตุใดผู้เยาว์จึงถูกนำไปรวมอยู่ในกลุ่มควบคุม 1

13 คำถามที่ TikTok ต้องตอบ

จดหมายของวุฒิสมาชิกทั้งสองมีคำถามทั้งหมด 13 ข้อ โดยประเด็นสำคัญ ได้แก่

• เหตุใดเด็กจึงถูกนำเข้าร่วมการทดลองที่เป็นการระงับฟีเจอร์ความปลอดภัย
• พนักงานและผู้บริหารคนใดรับรู้เกี่ยวกับการทดลองนี้
• ใครเป็นผู้อนุมัติ และมีการประเมินความเสี่ยงก่อนเริ่มการทดลองหรือไม่
• การทดลองพบอะไรเกี่ยวกับความปลอดภัยและ Engagement
• TikTok เคยทำการทดลองอื่นในสหรัฐฯ ที่ปิดใช้งานหรือชะลอฟีเจอร์ความปลอดภัยหรือไม่
• บริษัทจะส่งเอกสารภายในฉบับเต็มที่ไม่มีการปกปิดข้อมูลเกี่ยวกับการทดลองหรือไม่ 111

วุฒิสมาชิกกำหนดให้ TikTok ตอบกลับภายในวันที่ 1 กันยายน คำตอบเหล่านี้อาจช่วยระบุได้ว่าการทดลองมีขอบเขตเพียงใด ใครกำกับดูแล และเป็นการตัดสินใจเฉพาะครั้งหรือเป็นส่วนหนึ่งของแนวทางที่กว้างกว่านั้นเกี่ยวกับฟีเจอร์ความปลอดภัย 11

สิ่งที่ยังพิสูจน์ไม่ได้

จากข้อมูลที่มีอยู่ ยังไม่ควรสรุปว่า TikTok ทำให้ Nasca เสียชีวิตจากการฆ่าตัวตาย และแหล่งข้อมูลที่ให้มาก็ไม่ได้ระบุว่ามีผู้ใช้อีกกี่คนที่ได้รับฟีดในลักษณะใกล้เคียงกัน หรือการทดลองส่งผลต่อ Engagement ในท้ายที่สุดมากน้อยเพียงใด

สิ่งที่มีการรายงานอย่างชัดเจนและมีนัยสำคัญคือ TikTok ถูกกล่าวหาว่าจัดผู้ใช้สหรัฐฯ ราว 15 ล้านคนไว้ในกลุ่มควบคุม ให้ใช้ระบบแนะนำรุ่นเก่า และรวมผู้เยาว์ไว้ด้วย ระหว่างประเมินว่าการเปลี่ยนแปลงด้านความปลอดภัยจะกระทบต่อ Engagement หรือไม่ 2

ในเวลาที่ TechCrunch รายงานเรื่องการเรียกร้องคำชี้แจง TikTok ยังไม่ได้ตอบคำขอความคิดเห็นในทันที 15 ดังนั้น แก่นของเรื่องจึงอยู่ที่คำถามด้านธรรมาภิบาลของแพลตฟอร์มแนะนำคอนเทนต์: เมื่อบริษัทมีฟีเจอร์ที่ออกแบบมาเพื่อลดความเสี่ยงที่คาดการณ์ได้ บริษัทควรใช้การทดสอบ Engagement เป็นเหตุผลในการตัดสินว่าใครจะได้รับการปกป้องหรือไม่