Uber krijgt recordboete om automatische schorsingen van chauffeurs

De Nederlandse Autoriteit Persoonsgegevens (AP) heeft Uber een boete van €825 miljoen opgelegd — omgerekend ongeveer 966 miljoen dollar — wegens overtredingen van de AVG. De zaak draait om geautomatiseerde beslissingen die Europese chauffeurs tussen 2020 en 2022 konden schorsen of definitief van het platform verwijderen. Volgens de toezichthouder werden chauffeurs daarbij onvoldoende geïnformeerd en was er niet genoeg menselijke controle. 12

Uber betwist delen van het besluit en de hoogte van de boete. Het bedrijf zegt in beroep te gaan. 1

Wat stelde de AP vast?

Volgens het besluit gebruikte Uber geautomatiseerde systemen om chauffeurs die van fraude werden verdacht tijdelijk te schorsen. Sommige chauffeurs konden ook definitief worden gedeactiveerd vanwege lage klantbeoordelingen. Die systemen konden de beslissingen nemen of in gang zetten zonder betekenisvolle menselijke beoordeling. Ook kregen de betrokken chauffeurs volgens de AP onvoldoende uitleg over het gebruik van geautomatiseerde besluitvorming. 145

Het probleem was dus niet simpelweg dat Uber software inzette om mogelijke fraude of de kwaliteit van de dienstverlening te signaleren. De kern van de zaak was dat geautomatiseerde verwerking kon bepalen of een chauffeur toegang tot het platform behield — en daarmee of die persoon via Uber kon blijven verdienen.

Bij fraudedetectie zouden onder meer ongewoon lange ritten als signaal zijn gebruikt. Die konden wijzen op onnodige omwegen. Ook het accepteren van ritten die een chauffeur niet van plan was uit te voeren, kon als verdacht worden aangemerkt. 5

Waarom vallen deze beslissingen onder de AVG?

De AVG beperkt beslissingen die uitsluitend op geautomatiseerde verwerking zijn gebaseerd wanneer ze juridische gevolgen hebben of iemand anderszins ernstig raken. De AP omschrijft dit als het recht op een menselijke blik bij ingrijpende beslissingen.

Voor een platformchauffeur is het verlies van toegang tot Uber veel ingrijpender dan een gewone wijziging in een accountfunctie. Een tijdelijke schorsing kan het inkomen direct onderbreken. Een permanente deactivering kan iemand zelfs verhinderen om nog via het platform te werken. Juist die gevolgen voor het levensonderhoud maakten de beslissingen volgens de toezichthouder aanzienlijk, in plaats van louter operationeel. 45

Wanneer een geautomatiseerde beslissing onder de AVG is toegestaan, moeten daar waarborgen tegenover staan. Denk aan duidelijke informatie over de werkwijze, de mogelijkheid om menselijke tussenkomst te vragen en een reële kans om de uitkomst aan te vechten.

Hoe begon de zaak en waarom behandelde Nederland die?

De zaak begon met klachten van Franse chauffeurs. De voormalige Uber-chauffeur Brahim Ben Ali verzamelde verklaringen van ongeveer 170 betrokken chauffeurs, met hulp van de Zwitserse digitale-rechtenorganisatie PersonalData.io. In de beschikbare berichtgeving wordt gesproken over 171 Franse klagers. 413

De Nederlandse AP behandelde het onderzoek omdat de relevante Europese activiteiten van Uber en de AVG-toezichtsregeling van het bedrijf in Nederland waren gevestigd. Daardoor kon de Nederlandse toezichthouder een grensoverschrijdende zaak onderzoeken waarbij chauffeurs uit een ander Europees land betrokken waren. 17

De zaak laat bovendien zien hoe individuele klachten inzicht kunnen geven in de werking van grootschalige algoritmische systemen. Chauffeurs vroegen informatie op over beslissingen die hun accounts raakten. Het daaropvolgende onderzoek keek daarom niet alleen naar afzonderlijke schorsingen, maar ook naar de manier waarop Uber zijn geautomatiseerde besluitvorming had ingericht. 13

Hoe groot is de boete?

De sanctie van €825 miljoen geldt volgens berichtgeving als de op één na grootste boete die tot nu toe onder de Europese AVG is opgelegd. Alleen de boete van €1,2 miljard voor Meta is groter. 12

De nieuwe sanctie is ook aanzienlijk hoger dan de eerdere Nederlandse AVG-boete van €290 miljoen voor Uber. Die zaak ging niet over geautomatiseerde accountbeslissingen, maar over het doorgeven van persoonsgegevens van Europese chauffeurs aan de Verenigde Staten.

Zaak	Boete	Belangrijkste kwestie
Geautomatiseerde beslissingen over Uber-chauffeurs	€825 miljoen	Schorsingen en deactiveringen zonder voldoende informatie of menselijke controle 12
Eerdere Nederlandse AVG-zaak tegen Uber	€290 miljoen	Doorgifte van gegevens van Europese chauffeurs naar de Verenigde Staten
Hoogste AVG-boete voor Meta	€1,2 miljard	Doorgifte van Facebook-gegevens naar de Verenigde Staten 110

De boete is een bestuurlijke sanctie. Ze betekent niet automatisch dat individuele chauffeurs hun eventuele gederfde inkomsten vergoed krijgen.

Kunnen chauffeurs een vergoeding krijgen?

Belangenbehartigers voor digitale rechten zien het besluit mogelijk als basis voor een collectieve juridische procedure tegen Uber. PersonalData.io zei volgens door Reuters aangehaalde berichtgeving een collectieve rechtszaak voor te bereiden. 13

Zo’n procedure staat los van de boete van de AP. Chauffeurs zouden nog steeds moeten aantonen op welke grond zij compensatie eisen en hoe groot eventuele schade is. Het besluit van de toezichthouder leidt op zichzelf niet tot een automatische uitbetaling. 713

Wat zegt Uber?

Uber zegt het nadrukkelijk niet eens te zijn met het besluit en noemt de boete disproportioneel. Het bedrijf betwist bepaalde feitelijke vaststellingen en de hoogte van de sanctie en wil in beroep gaan. 13

Uber stelt daarnaast dat de gewraakte beleidsregels in 2021 en 2022 zijn beëindigd. Volgens het bedrijf bevatten de huidige procedures menselijke beoordeling en mogelijkheden om beroep aan te tekenen. Uber heeft ook aangevoerd dat de meeste schorsingen kort duren en dat permanente deactiveringen niet zonder menselijke betrokkenheid plaatsvinden. 17

Dat zijn de standpunten van Uber. De conclusies van de AP hebben betrekking op de historische werkwijze die in het besluit is onderzocht. In het beroep kan daarom blijken welke vaststellingen en onderdelen van de boete uiteindelijk overeind blijven.

Wat betekent dit voor algoritmisch management?

De zaak verbreedt het debat over privacy. De AVG gaat niet alleen over het verzamelen en opslaan van gegevens, maar kan ook van toepassing zijn wanneer persoonsgegevens en profilering worden gebruikt om toegang tot werk, inkomen of economische kansen via een platform te bepalen. 14

Voor technologiebedrijven en ondernemingen in de platformeconomie is de boodschap duidelijk: fraudedetectie, beoordelingssystemen en sancties voor accounts zijn geen vrijblijvende automatisering wanneer ze iemands inkomen kunnen raken. Bedrijven moeten kunnen uitleggen hoe zulke beslissingen tot stand komen, betrokkenen informeren, echte menselijke heroverweging bieden en een effectieve mogelijkheid geven om een negatieve uitkomst aan te vechten.

Het grootste risico ontstaat wanneer software iemand tijdelijk of permanent verhindert om te werken. In zulke situaties volstaat een formeel vinkje voor menselijke controle mogelijk niet. De menselijke beoordeling moet de beslissing daadwerkelijk opnieuw kunnen onderzoeken en wijzigen wanneer het bewijs of de omstandigheden daar aanleiding toe geven.