Pokuta pro Uber ve výši 825 milionů eur: algoritmus nemůže rozhodovat o obživě bez člověka

Nizozemský úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens, AP) vyměřil Uberu pokutu 825 milionů eur, tedy přibližně 966 milionů dolarů, za porušení GDPR související s automatizovanými rozhodnutími o účtech evropských řidičů v letech 2020 až 2022. Regulátor uvedl, že Uber řidiče dostatečně neinformoval o tom, kdy do suspendování nebo deaktivace jejich účtů zasahovaly automatizované systémy, a nezajistil dostatečný lidský dohled. 12

Uber s částí rozhodnutí i s výší pokuty nesouhlasí a plánuje se odvolat. 1

Co nizozemský regulátor zjistil

Podle rozhodnutí AP Uber používal automatizované systémy k dočasnému suspendování řidičů podezřelých z podvodu. Některé řidiče pak měl trvale deaktivovat na základě nízkého hodnocení od zákazníků. Systémy mohly tato rozhodnutí učinit nebo spustit bez smysluplného zapojení člověka a dotčení řidiči podle regulátora nedostali dostatečné informace o způsobu automatizovaného rozhodování. 145

Spor se netýká samotného používání softwaru k odhalování možných podvodů nebo k vyhodnocování kvality služeb. Klíčové je, že automatizované zpracování mohlo rozhodnout o tom, zda řidič zůstane připojený k platformě — a tedy zda bude moci dál vydělávat.

Mezi signály používané při odhalování podvodů měly patřit například neobvykle dlouhé jízdy, které mohly naznačovat zbytečné objížďky, nebo přijímání jízd, jež řidič ve skutečnosti nehodlal uskutečnit. 5

Proč šlo podle GDPR o významná rozhodnutí

Obecné nařízení o ochraně osobních údajů, známé jako GDPR, omezuje rozhodnutí založená výhradně na automatizovaném zpracování, pokud mají právní účinky nebo člověka jinak významně ovlivňují. Nizozemský úřad tento princip popisuje jako právo na „lidský pohled“ při zásadních rozhodnutích.

Pro řidiče platformy není ztráta přístupu k Uberu jen běžnou změnou nastavení účtu. Dočasná suspendace může přerušit příjem a trvalá deaktivace může člověku znemožnit pracovat prostřednictvím platformy úplně. Právě tento dopad na obživu vedl regulátora k tomu, že rozhodnutí nepovažoval za rutinní provozní opatření. 45

Pokud je automatizované rozhodnutí podle GDPR přípustné, musí je doprovázet ochranná opatření. Patří mezi ně srozumitelné informace o procesu, možnost požádat o zásah člověka a skutečná příležitost výsledek napadnout.

Jak případ začal a proč ho řešilo Nizozemsko

Případ vzešel ze stížností francouzských řidičů. Bývalý řidič Uberu Brahim Ben Ali shromáždil svědectví přibližně 170 dotčených řidičů za pomoci švýcarské organizace PersonalData.io, která se zabývá digitálními právy. Dostupné zprávy hovoří o 171 francouzských stěžovatelích. 413

Vyšetřování převzal nizozemský AP, protože příslušné evropské aktivity Uberu a jeho mechanismus dohledu podle GDPR byly spojeny s Nizozemskem. Nizozemský úřad tak mohl řešit přeshraniční případ, který se týkal řidičů v jiné evropské zemi. 17

Případ zároveň ukazuje, jak mohou individuální stížnosti odhalit fungování rozsáhlých algoritmických systémů. Řidiči požadovali informace o rozhodnutích, která ovlivnila jejich účty, a následné šetření se nezaměřilo pouze na jednotlivé výsledky, ale také na celkové nastavení automatizovaného rozhodování Uberu. 13

Jak vysoká je pokuta ve srovnání s dalšími případy

Pokuta 825 milionů eur je podle dostupných zpráv druhou nejvyšší sankcí uloženou v rámci GDPR v Evropské unii. Vyšší je pouze pokuta 1,2 miliardy eur, kterou dostala společnost Meta. 12

Nová sankce je také výrazně vyšší než předchozí nizozemská pokuta pro Uber ve výši 290 milionů eur. Ta se týkala předávání osobních údajů evropských řidičů do Spojených států, nikoli automatických rozhodnutí o jejich účtech.

Případ	Pokuta	Hlavní problém
Uber a automatická rozhodnutí o řidičích	825 milionů eur	Automatické suspendování a deaktivace bez dostatečných informací a lidského dohledu 12
Předchozí nizozemský případ Uberu	290 milionů eur	Předávání údajů evropských řidičů do Spojených států
Rekordní pokuta pro Metu	1,2 miliardy eur	Předávání údajů uživatelů Facebooku do Spojených států 110

Jde o regulační sankci. Samotné rozhodnutí AP neznamená, že jednotliví řidiči automaticky dostanou náhradu za ušlé příjmy.

Mohou řidiči získat odškodnění?

Organizace na ochranu digitálních práv považují rozhodnutí za možný základ pro kolektivní právní kroky, jejichž cílem by bylo odškodnění řidičů. PersonalData.io podle agentury Reuters uvedla, že připravuje hromadnou žalobu proti Uberu. 13

Takové řízení by bylo oddělené od pokuty uložené nizozemským úřadem. Řidiči by stále museli prokázat právní základ nároku i rozsah případné újmy. Regulační sankce sama o sobě nezakládá automatický nárok na výplatu. 713

Uber chce rozhodnutí napadnout

Uber uvedl, že s rozhodnutím zásadně nesouhlasí a považuje pokutu za nepřiměřenou. Zpochybňuje některá skutková zjištění i výši sankce a plánuje odvolání. 13

Společnost také tvrdí, že napadené postupy ukončila v letech 2021 až 2022. Podle Uberu současné procesy zahrnují lidské posouzení i možnost odvolání a většina suspendací je krátkodobá. Firma rovněž uvádí, že k trvalé deaktivaci účtu nedochází bez zapojení člověka. 17

To jsou stanoviska Uberu, zatímco závěry AP se týkají historických postupů zkoumaných v daném rozhodnutí. Odvolací řízení proto může ovlivnit, které části zjištění a pokuty nakonec obstojí.

Co případ znamená pro řízení pomocí algoritmů

Případ posouvá ochranu soukromí za obvyklé otázky spojené se shromažďováním a ukládáním dat. Ukazuje, že GDPR může zasáhnout i tehdy, když osobní údaje a automatizované profilování určují přístup k práci, příjmu nebo ekonomickým příležitostem na platformě. 14

Pro technologické firmy a platformy takzvané ekonomiky pracovních příležitostí je poselství praktické: odhalování podvodů, systémy hodnocení ani postihy za porušení pravidel nelze považovat za automatizaci bez následků. Společnosti musí umět vysvětlit, jak jejich systémy rozhodují, informovat dotčené osoby, nabídnout skutečné nové posouzení člověkem a umožnit účinně napadnout nepříznivý výsledek.

Regulační riziko je nejzřetelnější tam, kde software může pracovníkovi dočasně nebo trvale znemožnit vydělávat. V takových situacích nemusí stačit formální kontrola člověkem. Lidský zásah musí být schopen rozhodnutí skutečně přezkoumat a změnit, pokud tomu odpovídají důkazy nebo okolnosti.