טיקטוק השאירה כ־15 מיליון משתמשים בארה״ב עם אלגוריתם ישן — כדי לבדוק אם בטיחות פוגעת במעורבות

מה טיקטוק בדקה?

לפי דיווח של בלומברג, טיקטוק ערכה ניסוי במערכת ההמלצות שלה: כ־10% ממשתמשי החברה בארה״ב — כ־15 מיליון בני אדם באותה תקופה — נשארו עם האלגוריתם הישן, בעוד שמשתמשים אחרים קיבלו עדכון שנועד לצמצם הצפה של תכנים מזיקים. 2

השאלה העסקית שטיקטוק ביקשה לבדוק הייתה אם מנגנון הבטיחות החדש יהפוך את האפליקציה לפחות «דביקה» — כלומר, אם משתמשים יבלו בה פחות זמן או יחזרו אליה בתדירות נמוכה יותר. 2

העדכון נועד למנוע מצב שבו הפיד ממשיך להציג שוב ושוב תכנים סביב נושא מסוכן או מצ distress, ובכך יוצר מעין בועת המלצות מזיקה. בין הנושאים שעלו בדיווחים: התאבדות, פגיעה עצמית, דיכאון, עצב, בדידות, הפרעות אכילה ותכנים קשורים. 2

מי נכלל בקבוצת הביקורת?

הדיווח עורר ביקורת מיוחדת משום שקבוצת הביקורת כללה גם קטינים. אחד המשתמשים שהוזכר בדיווח היה צ׳ייס נאסקה, בן 16, שלפי הדיווחים קיבל בחשבונו אלפי סרטונים על התאבדות, עצב, חוסר תקווה ובדידות. נאסקה מת בהתאבדות כמה שבועות לאחר מכן. 2

עם זאת, החומרים הזמינים אינם מוכיחים שטיקטוק גרמה למותו. הממצא המצומצם והמבוסס יותר הוא שהניסוי, לפי הדיווח, הותיר חלק מהמשתמשים ללא אמצעי הגנה שטיקטוק פיתחה כדי לצמצם הצטברות של תכנים מזיקים. ההבחנה הזו חשובה: חשיפה לאלגוריתם בעייתי אינה כשלעצמה הוכחה לסיבתיות במקרה מוות מסוים.

מדוע הסנאטורים מכנים את ההחלטה «מושחתת מוסרית»?

הסנאטורים האמריקאים מרשה בלקברן וריצ׳רד בלומנטל טענו שטיקטוק ידעה שהיא מונעת אמצעי בטיחות אלגוריתמי ממיליוני משתמשים — כולל ילדים — כדי לבדוק אם ההגנה תפגע במעורבות בפלטפורמה. הם כינו את ההחלטה «depraved», או «מושחתת מוסרית», ודרשו מהחברה הסבר מהיר. 1

הביקורת שלהם אינה מתמקדת רק בחשבון אחד או בתוצאה אחת, אלא בתהליך קבלת ההחלטות: מי אישר את הניסוי, אילו עובדים ומנהלים ידעו עליו, האם בוצעה הערכת סיכונים ומדוע קטינים הורשו להשתתף בקבוצה שלא קיבלה את עדכון הבטיחות. 1

13 השאלות שטיקטוק נדרשה להשיב עליהן

במכתב שנשלח לחברה דרשו הסנאטורים, בין היתר, לדעת:

• מדוע ילדים נכללו בניסוי שבו נמנע ממשתמשים עדכון בטיחות.
• אילו עובדים ומנהלים ידעו על קיום הניסוי.
• מי אישר אותו והאם בוצעה לפניו הערכת סיכונים.
• מה היו תוצאות הניסוי מבחינת בטיחות ומעורבות משתמשים.
• האם טיקטוק ערכה בארה״ב ניסויים נוספים שבהם תכונות בטיחות הושבתו או נדחו.
• האם החברה תמסור את המסמך הפנימי המלא, ללא השחרות, שמתאר את הניסוי. 111

לפי הדיווחים, לטיקטוק ניתנה עד 1 בספטמבר להשיב על הדרישה. 11 התשובות עשויות להבהיר אם מדובר בהחלטת מוצר נקודתית או בחלק מנוהג רחב יותר של בדיקת תכונות בטיחות באמצעות השהייתן עבור קבוצות משתמשים.

מה עדיין לא הוכח?

הדיווחים שסופקו אינם מוכיחים שטיקטוק גרמה להתאבדותו של נאסקה. הם גם אינם מפרטים כמה משתמשים נוספים נחשפו לפידים דומים או מה הייתה ההשפעה הסופית והמדודה של הניסוי על רמת המעורבות.

מה שכן מתועד הוא שטיקטוק, לפי הדיווח, יצרה קבוצת ביקורת של כ־15 מיליון משתמשים בארה״ב, השאירה אותם עם מערכת המלצות ישנה, וכללה בקבוצה גם קטינים בזמן שבדקה אם עדכון בטיחות משפיע על המעורבות. 2

נכון לדיווח של TechCrunch על דרישת הסנאטורים, טיקטוק לא השיבה מיד לבקשת תגובה. 15 לכן השאלה המרכזית שמרחפת מעל הפרשה היא שאלה של אחריות: כאשר פלטפורמה מפתחת כלי שנועד לצמצם נזק צפוי, האם מותר לה להחליט מי יקבל את ההגנה — רק כדי למדוד כמה זמן יישארו המשתמשים באפליקציה?