荷蘭資料保護局(Autoriteit Persoonsgegevens,簡稱AP)對Uber處以8.25億歐元罰款,約合9.66億美元,理由是Uber在2020年至2022年間,利用自動化系統處理部分歐洲司機的帳戶暫停與停用決定,卻沒有充分告知司機相關作法,也未提供足夠的人工作業監督。
1
2
Uber否認部分調查結論,並認為罰款金額不成比例,表示將提出上訴。
1
荷蘭監管機構認定了什麼?
根據AP的決定,Uber曾透過自動化系統,暫時停用被懷疑涉及詐欺的司機帳戶;部分司機則可能因乘客評分偏低而遭永久停用。監管機構認為,這些系統能在缺乏有意義人工審查的情況下作出或觸發相關決定,而受影響司機也沒有獲得充分資訊,了解自動化決策如何影響自己的帳戶。
1
4
5
爭議焦點並不只是Uber是否使用軟體偵測潛在詐欺,或以評分評估服務品質。AP真正關注的是:自動化處理可能決定一名司機能否繼續使用平台,進而影響他是否還能靠平台工作和賺取收入。
報道指出,Uber用於偵測詐欺的訊號包括異常長途程,因為這可能被解讀為司機繞路以拉高車資;另外,司機接受自己原本無意承接的行程,也可能被系統視為可疑行為。
5
為何GDPR要求「人看一眼」?
GDPR一般限制企業僅依靠自動化處理,作出會對個人產生法律效果,或造成其他重大影響的決定。荷蘭監管機構將這項保障概括為,在重大決定中享有「人的視角」或人工介入的權利。
對平台司機而言,失去Uber帳戶並不是普通功能被更改。短期停權可能立即中斷收入;永久停用則可能讓司機完全無法透過該平台工作。正是這種對生計的影響,讓AP認為相關處置不能被視為一般營運操作。
4
5
在GDPR允許自動化決策的特定情況下,企業仍可能需要提供幾項保障,包括清楚說明決策流程、讓當事人要求人工介入,以及提供真正有效的申訴機會。人工覆核不能只是形式上的按鈕,而應能重新檢視資料與決定,必要時改變原有結果。
案件如何開始?為何由荷蘭處理?
案件起於法國司機的投訴。Uber前司機Brahim Ben Ali蒐集了約170名受影響司機的證詞,並獲瑞士數位人權組織PersonalData.io協助;現有報道提到的法國申訴人數為171人。
4
13
案件由荷蘭AP處理,與Uber相關的歐洲業務及GDPR跨境監管安排設於荷蘭有關。因此,即使投訴人來自法國,荷蘭監管機構仍能調查這宗涉及不同歐盟國家司機的跨境個案。
1
7
這起事件也說明,個別投訴有時能揭開大型平台演算法的運作方式。司機原本只是想了解帳戶為何被處置,後續調查卻進一步檢視Uber整套自動化決策機制,而不只是某一宗停權個案的結果。
13
8.25億歐元有多大?
這筆8.25億歐元的罰款,被報道為目前歐盟GDPR下第二高的處罰,僅次於Meta遭處以的12億歐元罰款。
1
2
金額也遠高於AP此前對Uber處以的2.9億歐元GDPR罰款。前一宗案件涉及將歐洲司機的個人資料傳送至美國,與這次針對自動化帳戶決策的案件並不相同。
| 個案 |
罰款 |
主要問題 |
| Uber自動化司機決策案 |
8.25億歐元 |
自動暫停及停用帳戶時,未提供足夠資訊或人工監督。 1 2 |
| Uber此前荷蘭GDPR案件 |
2.9億歐元 |
將歐洲司機的個人資料傳送至美國。 |
| Meta GDPR紀錄罰款 |
12億歐元 |
將Facebook用戶資料傳送至美國。 1 10 |
需要注意的是,這筆款項是監管處罰,不會自動轉化為個別司機因停權而損失收入的賠償。
司機有機會獲得賠償嗎?
數位人權倡議者認為,這項裁決可能為司機日後提出集體法律行動、向Uber追討賠償奠定基礎。據路透社引述的報道,PersonalData.io表示正在準備集體訴訟。
13
不過,這類潛在法律行動與AP的行政罰款是兩回事。司機仍須另外證明索賠的法律依據,以及個人或集體損失的範圍;監管機構開出的罰款本身,不代表司機會自動收到任何款項。
7
13
Uber如何回應?
Uber表示強烈不同意這項決定,並認為罰款金額不成比例。公司也質疑部分事實認定及處罰金額,計畫提出上訴。
1
3
Uber另稱,受到質疑的相關政策已在2021年至2022年間停止使用;公司目前的程序包括人工審查及申訴管道。Uber也主張,大多數停權時間很短,永久停用不會在完全沒有人工介入的情況下發生。
1
7
上述內容是Uber的立場;AP的調查結論則針對裁決所審查的歷史作法。最終哪些認定及罰款內容能否成立,仍可能取決於後續上訴結果。
這宗案件對演算法管理意味著什麼?
這宗案件把資料保護執法帶到更熟悉的資料蒐集與儲存問題之外:當企業利用個人資料和自動化剖析,決定一個人能否繼續工作、賺取收入或使用平台上的經濟機會時,GDPR同樣可能介入。
1
4
對科技公司及零工經濟平台而言,詐欺偵測、乘客評分與帳戶處分不能被視為沒有後果的自動化操作。企業需要說明決策如何形成,通知受影響人士,提供真正能重新檢視結果的人工介入,並讓當事人有效提出異議。
監管風險在這類情況下尤其明顯:軟體只要能讓一名工作者暫時或永久失去賺錢能力,平台就不能只安排名義上的人工覆核。人工介入必須有能力重新檢查證據和情況,並在理由充分時推翻或修正系統原本的判斷。