Uber und die 825-Millionen-Euro-Strafe: Wenn Algorithmen über den Zugang zur Arbeit entscheiden

Die niederländische Datenschutzbehörde Autoriteit Persoonsgegevens (AP) hat Uber mit einer Strafe von 825 Millionen Euro – etwa 966 Millionen US-Dollar – belegt. Nach Einschätzung der Behörde verstieß das Unternehmen gegen die Datenschutz-Grundverordnung der EU (GDPR beziehungsweise DSGVO), weil automatisierte Systeme zwischen 2020 und 2022 über Sperrungen und Deaktivierungen europäischer Fahrer entschieden oder diese Entscheidungen auslösten. Betroffene Fahrer seien nicht ausreichend darüber informiert worden, wie automatisierte Entscheidungsverfahren eingesetzt wurden; zudem habe es keine ausreichende menschliche Kontrolle gegeben. 12

Uber weist Teile der Entscheidung sowie die Höhe der Strafe zurück und will Berufung einlegen. 1

Was die niederländische Behörde Uber vorwirft

Laut der Entscheidung setzte Uber automatisierte Systeme ein, um Fahrer bei einem Verdacht auf Betrug vorübergehend zu sperren. Einige Fahrer seien außerdem aufgrund niedriger Kundenbewertungen dauerhaft von der Plattform ausgeschlossen worden. Die Systeme konnten solche Maßnahmen offenbar ohne eine wesentliche menschliche Prüfung treffen oder auslösen. Gleichzeitig wurden die betroffenen Fahrer nach Darstellung der AP nicht ausreichend über den Einsatz automatisierter Entscheidungsfindung aufgeklärt. 145

Der Streit dreht sich dabei nicht grundsätzlich darum, dass Uber Software zur Betrugserkennung oder zur Bewertung der Servicequalität verwendet. Entscheidend ist vielmehr die mögliche Folge: Ein automatisiertes System konnte darüber bestimmen, ob ein Fahrer weiterhin Zugang zur Plattform hatte – und damit, ob er dort weiter Geld verdienen konnte.

Als mögliche Signale für Betrugsverdacht wurden unter anderem ungewöhnlich lange Fahrten genannt. Diese könnten auf unnötige Umwege zur Erhöhung des Fahrpreises hindeuten. Auch das Annehmen von Fahrten, die ein Fahrer gar nicht beabsichtigt habe, soll in die Bewertung eingeflossen sein. 5

Warum Fahrersperren nach der GDPR als schwerwiegende Entscheidungen gelten

Die GDPR schränkt Entscheidungen ein, die ausschließlich auf automatisierter Verarbeitung beruhen, wenn sie rechtliche Wirkung entfalten oder eine Person auf andere Weise erheblich beeinträchtigen. Die niederländische Behörde beschreibt dies als das Recht auf eine „menschliche Perspektive“ bei folgenreichen Entscheidungen.

Für einen Plattformfahrer ist der Verlust des Uber-Zugangs keine bloße Änderung einer Kontofunktion. Eine vorübergehende Sperre kann das Einkommen unmittelbar unterbrechen. Eine dauerhafte Deaktivierung kann es unmöglich machen, weiterhin über Uber zu arbeiten. Gerade diese Auswirkungen auf die Existenzgrundlage machten die Maßnahmen aus Sicht der Behörde zu erheblichen Entscheidungen und nicht zu gewöhnlichen betrieblichen Abläufen. 45

Wenn eine automatisierte Entscheidung nach der GDPR zulässig ist, müssen Schutzvorkehrungen greifen. Dazu können klare Informationen über das Verfahren, die Möglichkeit, eine menschliche Prüfung zu verlangen, und eine echte Gelegenheit gehören, das Ergebnis anzufechten.

Wie der Fall begann und warum die Niederlande zuständig waren

Ausgangspunkt waren Beschwerden französischer Fahrer. Der ehemalige Uber-Fahrer Brahim Ben Ali sammelte Aussagen von ungefähr 170 Betroffenen und wurde dabei von der Schweizer Organisation PersonalData.io unterstützt, die sich mit digitalen Rechten beschäftigt. In der verfügbaren Berichterstattung ist von 171 französischen Beschwerdeführern die Rede. 413

Die niederländische AP übernahm die Untersuchung, weil Ubers maßgebliche europäische Aktivitäten und die datenschutzrechtliche Zuständigkeitsregelung des Unternehmens in den Niederlanden angesiedelt waren. Dadurch konnte die niederländische Behörde einen grenzüberschreitenden Fall untersuchen, obwohl die betroffenen Fahrer aus Frankreich kamen. 17

Der Fall zeigt außerdem, wie Beschwerden einzelner Menschen die Funktionsweise großer algorithmischer Systeme sichtbar machen können. Die Fahrer verlangten Informationen über Entscheidungen, die ihre Konten und ihre Arbeit betrafen. Die anschließende Untersuchung befasste sich daher nicht nur mit einzelnen Sperren, sondern auch mit dem Aufbau von Ubers automatisierter Entscheidungslogik. 13

Wie groß ist die Strafe im Vergleich?

Die Strafe von 825 Millionen Euro gilt laut Berichten als die zweitgrößte Sanktion nach der EU-Datenschutz-Grundverordnung. An der Spitze steht eine Strafe von 1,2 Milliarden Euro gegen Meta. 12

Sie fällt außerdem deutlich höher aus als eine frühere niederländische GDPR-Strafe gegen Uber in Höhe von 290 Millionen Euro. In jenem Fall ging es um die Übermittlung personenbezogener Daten europäischer Fahrer in die USA – nicht um automatisierte Kontosperren.

Fall	Strafe	Hauptproblem
Ubers Fall zu automatisierten Fahrerentscheidungen	825 Millionen Euro	Automatisierte Sperrungen und Deaktivierungen ohne ausreichende Information und menschliche Kontrolle 12
Frühere niederländische GDPR-Strafe gegen Uber	290 Millionen Euro	Übermittlung europäischer Fahrerdaten in die USA
GDPR-Rekordstrafe gegen Meta	1,2 Milliarden Euro	Übermittlung von Facebook-Nutzerdaten in die USA 110

Die 825 Millionen Euro sind eine aufsichtsrechtliche Sanktion. Sie werden nicht automatisch an einzelne Fahrer als Ersatz für entgangene Einnahmen ausgezahlt.

Können Fahrer Entschädigung verlangen?

Vertreter digitaler Rechte sehen in der Entscheidung möglicherweise eine Grundlage für gemeinsame rechtliche Schritte gegen Uber. PersonalData.io erklärte laut der von Reuters zitierten Berichterstattung, eine Sammelklage vorzubereiten. Dabei könnte es um eine Entschädigung für Fahrer gehen, die durch mutmaßlich rechtswidrige Sperren oder Deaktivierungen Einkommensverluste erlitten haben. 13

Ein solches Verfahren wäre von der Strafe der AP getrennt. Die betroffenen Fahrer müssten weiterhin darlegen, auf welcher rechtlichen Grundlage sie Ansprüche geltend machen und in welcher Höhe ein Schaden entstanden ist. Die behördliche Sanktion allein führt nicht automatisch zu einer Auszahlung. 713

Ubers Reaktion und geplante Berufung

Uber erklärte, das Unternehmen widerspreche der Entscheidung entschieden und halte die Strafe für unverhältnismäßig. Der Konzern bestreitet bestimmte Tatsachenfeststellungen ebenso wie die Höhe der Sanktion und will Berufung einlegen. 13

Zudem erklärte Uber, die beanstandeten Richtlinien seien bis 2021 beziehungsweise 2022 eingestellt worden. Die heutigen Verfahren umfassten nach Angaben des Unternehmens eine menschliche Prüfung und Möglichkeiten zur Berufung. Uber betont außerdem, dass die meisten Sperren nur kurz dauerten und dauerhafte Deaktivierungen nicht ohne menschliche Beteiligung erfolgten. 17

Das sind die Positionen des Unternehmens. Die Feststellungen der AP beziehen sich dagegen auf die historischen Praktiken, die in der Entscheidung untersucht wurden. Im Berufungsverfahren könnte sich daher klären, welche Teile der Feststellungen und der Strafe letztlich Bestand haben.

Was der Fall für algorithmisches Management bedeutet

Der Fall erweitert die Datenschutzdebatte über klassische Fragen der Datenerhebung und Datenspeicherung hinaus. Er zeigt, dass die GDPR auch dann relevant sein kann, wenn personenbezogene Daten und automatisierte Profile eingesetzt werden, um den Zugang zu Arbeit, Einkommen oder wirtschaftlichen Chancen auf einer Plattform zu steuern. 14

Für Technologieunternehmen und Plattformen der Gig-Economy ist die Botschaft klar: Betrugserkennung, Bewertungssysteme und Kontosanktionen sind keine folgenlose Automatisierung. Unternehmen müssen erklären können, wie solche Entscheidungen zustande kommen, Betroffene über nachteilige Entscheidungen informieren, eine tatsächliche menschliche Neubewertung ermöglichen und einen wirksamen Widerspruchsweg anbieten.

Das regulatorische Risiko ist besonders hoch, wenn Software einen Menschen vorübergehend oder dauerhaft daran hindern kann, seinen Lebensunterhalt zu verdienen. In solchen Fällen dürfte ein rein formaler Prüfprozess nicht ausreichen. Die menschliche Kontrolle muss in der Lage sein, die Entscheidung wirklich zu überprüfen und sie zu ändern, wenn Belege oder Umstände dies rechtfertigen.