מדוע אובר נקנסה ב־825 מיליון אירו בגלל השעיית נהגים באמצעות אלגוריתמים

מדוע "אדם בתהליך" לא הספיק

ההבחנה החשובה היא בין אדם שבוחן מחדש את הראיות ויכול לשנות את התוצאה, לבין בודק שרק מאשר את החלטת המערכת. בפרשה קשורה, בית המשפט לערעורים באמסטרדם קבע כי הבדיקות האנושיות שאובר הציגה היו סמליות בלבד, ודחה את ההסתמכות על מודל של "אדם בתהליך" (human in the loop).

הפסיקה הזו מסבירה את המשמעות המשפטית של הקנס הנוכחי: מעורבות אנושית צריכה להיות מסוגלת להשפיע על התוצאה. היא אינה יכולה להיות שלב פורמלי בלבד שמשאיר את החלטת האלגוריתם על כנה. נוסף על כך, הנהגים צריכים לקבל מספיק מידע על ההחלטה כדי שיוכלו לערער עליה באופן משמעותי.

מה הנהגים לא ידעו, לפי הרשות

הרשות ההולנדית קבעה כי אובר לא יידעה את הנהגים שנפגעו במידה מספקת על כך שתהליכים אוטומטיים משמשים להפקת החלטות על השעיה או השבתה, כך עולה מדיווחים שהתבססו על החלטת הרגולטור. פער המידע היה משמעותי: בלי לדעת כיצד התקבלה ההחלטה ומה עמד בבסיסה, הנהגים לא יכלו להבין מדוע איבדו את הגישה לחשבון או כיצד לערער על כך.

מכאן נובעות שתי בעיות ציות קשורות:

• בעיית קבלת ההחלטות: עיבוד אוטומטי עלול להביא לתוצאות משמעותיות בלי התערבות אנושית מספקת.
• בעיית השקיפות: הנהגים לא קיבלו מידע מספיק על התהליך האוטומטי ועל השפעתו עליהם.

לכן הפרשה עוסקת גם בתוצאה וגם בדרך שבה התקבלה. חברה עשויה להידרש להסביר לא רק איזו פעולה נקטה, אלא גם כיצד אדם יכול לקבל בדיקה אמיתית כאשר מערכת אוטומטית מאיימת על הכנסתו.

מדוע הרשות ההולנדית טיפלה בתלונה מצרפת

התלונה המקורית הוגשה בצרפת, אך הרשות ההולנדית טיפלה בפרשה חוצת־הגבולות משום שהמטה האירופי של אובר נמצא בהולנד. במסגרת מנגנון ה־one-stop shop של ה־GDPR, הרשות במדינה שבה נמצא הממסד המרכזי של החברה באיחוד האירופי מובילה בדרך כלל חקירות חוצות־גבולות, בעוד שרשויות במדינות אחרות שבהן יש נפגעים עשויות להשתתף בהליך.

המנגנון נועד למנוע מצב שבו תאגיד בינלאומי יתמודד עם חקירות מובילות ונפרדות בכל מדינה באיחוד שבה ניכרות השפעות פעילותו. הוא גם מסביר כיצד תלונה של נהגים בצרפת יכולה להסתיים בהחלטה של הרגולטור ההולנדי.

כיצד אובר הגיבה

אובר מסרה כי תערער על ההחלטה וכינתה אותה ואת הקנס "בלתי מידתיים". החברה טענה כי היא מציעה בדיקה אנושית וזכות לערער על השעיות. עוד מסרה כי השעיות שנבעו מחשד להונאה היו זמניות, והכחישה שחשבונות הושבתו לצמיתות אך ורק באמצעות אוטומציה.

אובר הוסיפה כי כיום היא אינה מקבלת החלטות על השבתה לצמיתות על סמך מערכות אוטומטיות בלבד. אלה הן טענות החברה; הקנס מתייחס להתנהלות שנבחנה בתקופה הרלוונטית, בעיקר בין 2020 ל־2022.

מה הפרשה מלמדת על ניהול עובדים באמצעות אלגוריתמים

ההחלטה ממחישה מדוע ניהול אלגוריתמי הופך באירופה לסוגיה מרכזית של פרטיות ושל זכויות עובדים. המערכות שנבחנו לא רק המליצו על פרסומות או מיינו מידע שגרתי על לקוחות. הן יכלו לקבוע אם עובד ימשיך לקבל גישה לפלטפורמה שממנה הופקה הכנסתו.

הלקח הרחב יותר הוא שמדיניות של "בדיקה אנושית" כנראה לא תספיק אם הבודקים אינם יכולים לבחון את העובדות באופן עצמאי, לשמוע את גרסת האדם שנפגע ולהפוך את החלטת המערכת. חברות שמשתמשות באוטומציה לגיוס עובדים לפלטפורמה, לזיהוי הונאות, להגבלת חשבונות או להשבתתם צריכות להביא בחשבון שקיפות ואפשרות לערער — בדיוק בנקודה שבה המערכת משפיעה על יכולתו של אדם לעבוד.

הפרשה מצטרפת להיסטוריה הרחבה יותר של אובר מול אכיפת ה־GDPR בהולנד. ב־2024 קנסה הרשות ההולנדית את אובר בנפרד ב־290 מיליון אירו, על העברת מידע אישי של נהגים אירופים לארצות הברית ללא הגנות מתאימות. הקנס של 1.2 מיליארד אירו נגד מטא, לעומת זאת, עסק בהעברת נתונים של משתמשי פייסבוק אירופים לארה״ב — ולא בניהול עובדים או נהגים.

בשלב זה, סכום הקנס בסך 825 מיליון אירו עדיין כפוף לערעור של אובר. אבל המסר העקרוני כבר ברור: לפי ה־GDPR, ניהול אוטומטי אינו יכול להפוך לקופסה שחורה כאשר החלטותיו עלולות לשלול מאדם את האפשרות לעבוד.