تجربة أمان مثيرة للجدل على تيك توك وضعت التفاعل في مواجهة حماية المستخدمين

أفادت بلومبرغ بأن تيك توك أجرى تجربة أبقى خلالها نحو 10% من مستخدميه في الولايات المتحدة—أي ما يقارب 15 مليون شخص في ذلك الوقت—على نسخة أقدم من خوارزمية التوصيات. وكانت الشركة تختبر ما إذا كان تحديث أمني، صُمم للحد من تجمّعات المحتوى الضار، سيجعل التطبيق أقل جذباً للمستخدمين أو أقل قدرة على إبقائهم داخله، فيما يُعرف أحياناً بـ«التفاعل» أو الالتصاقية. 2

أثارت التجربة انتقادات واسعة لأن مجموعة المقارنة، أو المجموعة الضابطة، شملت قاصرين وفقاً للتقرير. وكان من أفرادها تشيس ناسكا، البالغ من العمر 16 عاماً، والذي تلقى حسابه لاحقاً آلاف المقاطع عن الانتحار والحزن واليأس والوحدة، بحسب ما أوردته التقارير. وتوفي ناسكا منتحراً بعد أسابيع. ولا تثبت المعلومات المتاحة أن تيك توك تسبب في وفاته، لكنها توضح سبب تحول قرار حجب إجراء أمني إلى محور نزاع بشأن مسؤولية الشركة ومساءلتها. 2

ما الذي اختبره تيك توك؟

كان تيك توك قد عدّل نظام التوصيات لتقليل احتمال إغراق المستخدمين بسلسلة متكررة من المحتوى المرتبط بموضوعات عالية الخطورة. وكان الهدف هو كسر ما وصفته التقارير بدوامة توصيات ضارة أو «فقاعة ترشيح» خوارزمية، بدلاً من استمرار الصفحة في تعزيز الموضوعات المقلقة نفسها كلما أبدى المستخدم اهتماماً بها. 2

لكن الشركة، وفقاً للتقرير، لم تطبق التعديل على الجميع؛ إذ أبقت مجموعة ضابطة تضم 10% من المستخدمين الأميركيين على الخوارزمية السابقة. وكان السؤال التجاري المعلن هو: هل سيؤدي الإصدار الأكثر أماناً إلى تراجع التفاعل؟ 2

وتكمن حساسية تصميم التجربة في أن اختبارات المنتجات المعتادة قد تتعلق بميزة اختيارية أو تغيير شكلي. أما هنا، فالعنصر محل الاختبار كان إجراء حماية يهدف إلى الحد من التعرض لمحتوى قد يكون ضاراً. لذلك يبرز سؤال أخلاقي أساسي: هل يحق لمنصة ما تأخير إجراء وقائي لمجموعة عشوائية من المستخدمين إذا كان الضرر المحتمل قد يقع على أشخاص معرضين للخطر أصلاً؟

كيف تأثر مستخدمو المجموعة الضابطة؟

كان المستخدمون الذين وُضعوا على النظام الأقدم أكثر عرضة، بحسب التقارير، لتوصيات متكررة تتناول الانتحار وإيذاء النفس والاكتئاب والحزن والوحدة واضطرابات الأكل وموضوعات ذات صلة. وقالت التقارير المتعلقة بحساب ناسكا إن خلاصته أصبحت عالقة في موجة تضم آلاف المقاطع التي تندرج ضمن هذه الفئات. 2

وتسمح الأدلة المتاحة باستنتاج حذر: ربما تركت التجربة بعض المستخدمين من دون الحماية التي طوّرها تيك توك لتقليل تكدّس المحتوى الضار. لكنها لا تثبت، بمفردها، أن الخوارزمية تسببت في نتيجة نفسية محددة أو في وفاة شخص بعينه. ويظل التمييز بين هذه الادعاءات ضرورياً عند تقييم التقارير ومسؤولية الشركة.

لماذا وصف عضوا مجلس الشيوخ القرار بأنه «منحط»؟

قالت السيناتورة مارشا بلاكبيرن والسيناتور ريتشارد بلومنثال إن تيك توك حجب عن قصد إجراء أمان خوارزمياً عن ملايين الأميركيين، بمن فيهم أطفال، لمعرفة ما إذا كانت حماية المستخدمين ستؤثر في التفاعل. ووصفا القرار بأنه «منحط»، وطالبا الشركة بتقديم تفسير سريع. 1

ولا تقتصر مخاوفهما على ما حدث في حساب واحد. فأسئلتهما تستهدف آلية اتخاذ القرار وراء التجربة: من أجازها؟ ومن الموظفون والمديرون الذين كانوا على علم بها؟ وهل أجرت الشركة تقييماً للمخاطر؟ ولماذا سُمح بإدراج قاصرين في المجموعة الضابطة؟ 1

ما الذي طُلب من تيك توك توضيحه؟

تتضمن رسالة عضوي مجلس الشيوخ 13 سؤالاً، من أبرزها:

• لماذا أُدرج الأطفال في اختبار حُجبت فيه ميزة أمان؟
• أي الموظفين والمديرين التنفيذيين كانوا على علم بالتجربة؟
• من وافق على الاختبار، وهل أُجري تقييم للمخاطر قبل بدئه؟
• ماذا أظهرت التجربة بشأن الأمان والتفاعل؟
• هل أجرت تيك توك تجارب أخرى في الولايات المتحدة عطّلت ميزات أمان أو أخّرت طرحها؟
• هل ستقدم الشركة الوثيقة الداخلية الكاملة وغير المنقحة التي تصف الاختبار؟ 111

وتهدف هذه المطالب إلى تحديد نطاق التجربة ومستوى الرقابة الذي خضعت له. كما قد تكشف الإجابات ما إذا كان الاختبار قراراً منفرداً في تطوير المنتج، أم جزءاً من ممارسة أوسع تتعلق بميزات الأمان.

ما الذي لم يثبت حتى الآن؟

لا ينبغي استخلاص عدة نتائج من المواد المتاحة. فالتقارير لا تثبت أن تيك توك تسبب في انتحار ناسكا، كما لا توضح المصادر المقدمة عدد المستخدمين الآخرين الذين واجهوا خلاصات مشابهة أو النتيجة النهائية للتجربة من حيث أثرها على التفاعل.

أما ما توثقه التقارير المقدمة فهو أضيق نطاقاً، لكنه لا يزال بالغ الأهمية: تيك توك أنشأ، بحسب ما ورد، مجموعة ضابطة ضمت نحو 15 مليون مستخدم في الولايات المتحدة، وأبقاها على نظام توصيات أقدم، مع إدراج قاصرين، أثناء تقييم ما إذا كان تغيير أمني سيؤثر في التفاعل. 2

وحتى وقت تقرير TechCrunch عن مطالبة عضوي مجلس الشيوخ، لم تكن تيك توك قد ردت فوراً على طلب للتعليق. 15 لذلك تتمحور المطالب حول سؤال حوكمة جوهري يواجه منصات التوصيات: عندما تطوّر الشركة ميزة تهدف إلى تقليل ضرر متوقع، فهل ينبغي أن تحدد اختبارات التفاعل من يحصل على هذه الحماية؟