荷兰数据保护局(Autoriteit Persoonsgegevens,简称AP)已对Uber处以8.25亿欧元罚款,约合9.66亿美元。案件涉及该公司在2020年至2022年间,使用自动化系统处理欧洲司机账号暂停和停用的问题。监管机构认为,Uber没有充分告知司机自动化决策如何影响其账号,也没有提供足够的人工监督。
1
2
Uber否认部分调查结论,并认为罚款金额过高,表示将提起上诉。
1
荷兰监管机构认定了什么
根据AP的决定,Uber曾使用自动化系统,暂时暂停被怀疑存在欺诈行为的司机账号;对于乘客评分较低的司机,系统还可能触发永久停用。监管机构认为,这些决定有时可以在缺乏实质性人工审查的情况下作出或被触发,而受影响的司机也没有得到充分说明,无法清楚了解自动化决策在其中扮演的角色。
1
4
5
争议并不在于Uber是否可以使用软件识别潜在欺诈或评估服务质量。AP真正关注的是:自动化处理可能决定一名司机能否继续使用平台,也就可能决定其能否继续通过平台获得收入。
报道提到,Uber用于识别欺诈风险的信号包括行程异常过长——这可能被系统解读为司机绕路抬高费用——以及司机接下订单后却没有实际完成接单意图等情况。
5
为什么账号封禁属于GDPR下的“重大决定”
欧盟《通用数据保护条例》(GDPR)通常限制完全基于自动化处理作出的决定,尤其是那些会产生法律效力,或以其他方式对个人造成重大影响的决定。荷兰监管机构将这一保护概括为:人在关键决定中有权获得“人的视角”。
对平台司机而言,失去Uber账号并不是普通的功能调整。临时停权可能立即中断收入,永久停用则可能让司机无法再通过该平台工作。正因为涉及谋生能力,监管机构才没有把这些措施视为普通的运营操作,而是视为具有重大影响的决定。
4
5
在GDPR允许自动化决定的特定情形下,企业仍可能需要采取相应保障措施,包括清楚说明决策过程、允许当事人要求人工介入,以及提供真正有效的申诉和质疑机会。
投诉如何发起,为什么由荷兰处理
案件源于法国司机的投诉。Uber前司机Brahim Ben Ali收集了约170名受影响司机的陈述,并得到瑞士数字权利组织PersonalData.io的协助。现有报道提到的法国投诉人为171人。
4
13
之所以由荷兰AP处理,是因为Uber在欧洲的相关运营安排以及GDPR项下的主要监管机构机制位于荷兰。因此,荷兰监管机构可以处理这起涉及法国等其他欧洲国家司机的跨境案件。
1
7
这起案件也说明,个人投诉可能成为审查大型算法系统的切入口。司机最初试图了解影响自己账号的决定,随后的监管调查则进一步考察了Uber自动化决策机制的整体结构,而不仅仅是个别司机最终是否被暂停或封禁。
13
8.25亿欧元究竟有多大
据报道,这笔8.25亿欧元罚款将成为欧盟GDPR实施以来金额第二高的罚款,仅次于对Meta处以的12亿欧元罚款。
1
2
它也明显高于Uber此前在荷兰面临的2.9亿欧元GDPR罚款。后者针对的是欧洲司机个人数据被传输至美国的问题,并非自动化账号决策。
| 案件 |
罚款金额 |
主要问题 |
| Uber自动化司机决策案 |
8.25亿欧元 |
在缺乏充分告知或人工监督的情况下,自动暂停或停用司机账号 1 2 |
| Uber此前的荷兰GDPR案件 |
2.9亿欧元 |
将欧洲司机数据传输至美国 |
| Meta的GDPR最高额罚款 |
12亿欧元 |
将Facebook用户数据传输至美国 1 10 |
需要注意的是,这笔罚款属于监管处罚,并不会自动转化为对个别司机损失收入的赔偿。
司机能否获得赔偿
数字权利倡导者认为,这一裁决可能为司机发起集体法律行动、向Uber索赔提供基础。据路透社援引的报道,PersonalData.io表示正在准备集体诉讼。
13
但潜在诉讼与AP的监管罚款是两回事。司机仍需证明索赔的法律依据,以及个人或集体实际损失的范围;监管罚款本身不会自动产生赔偿金。
7
13
Uber如何回应,为什么要上诉
Uber表示强烈不同意AP的决定,并认为罚款“过高”或“不相称”。公司对部分事实认定和罚款金额提出异议,计划提起上诉。
1
3
Uber还表示,受到质疑的政策已在2021年至2022年间停止使用。公司称,目前的处理流程包含人工审查和申诉渠道,并主张大多数停权时间较短,永久停用不会在没有人工参与的情况下发生。
1
7
这些是Uber对自身现行及过往做法的说明,而AP的调查结论针对的是决定中审查的历史实践。最终哪些事实认定和处罚内容能够成立,仍可能取决于后续上诉程序。
这起案件对算法管理意味着什么
这起案件将隐私监管从人们熟悉的数据收集和存储问题,进一步推向“算法如何管理人”的领域。它表明,当个人数据和自动化画像被用于控制一个人获得工作、收入或平台经济机会的资格时,GDPR同样可能发挥作用。
1
4
对科技公司和零工经济平台而言,欺诈检测、评分系统和账号处罚不能被视为没有后果的技术自动化。企业需要能够说明决策如何作出,及时告知受影响者,提供真正能够重新审查并改变结果的人工介入机制,同时建立有效的异议和申诉渠道。
监管风险在这样的场景中最为明显:软件可以让一名劳动者暂时无法赚钱,甚至永久失去收入来源。在这种情况下,名义上的人工复核可能并不够。人工介入必须能够重新检查相关证据,并在事实或具体情况确有变化时纠正原决定。