Denda GDPR €825 Juta Uber: Apabila Algoritma Menentukan Siapa Boleh Terus Bekerja

Uber berdepan denda €825 juta—kira-kira AS$966 juta—daripada Pihak Berkuasa Perlindungan Data Belanda, atau Autoriteit Persoonsgegevens (AP), selepas pengawal selia itu mendapati syarikat berkenaan menggunakan sistem automatik untuk mempengaruhi keputusan terhadap akaun pemandu di Eropah antara 2020 hingga 2022. 12

Menurut AP, Uber tidak memberikan maklumat yang mencukupi kepada pemandu apabila automasi digunakan untuk menggantung atau menyahaktifkan akaun mereka. Sistem itu juga tidak disertakan pengawasan manusia yang bermakna. Uber mempertikaikan sebahagian daripada keputusan serta jumlah denda tersebut dan berkata ia akan membuat rayuan. 1

Apa yang ditemui pengawal selia Belanda?

Menurut keputusan AP, Uber menggunakan sistem automatik untuk menggantung sementara pemandu yang disyaki melakukan penipuan. Sesetengah pemandu pula dinyahaktifkan secara kekal berdasarkan penilaian pelanggan yang rendah. Keputusan itu boleh dibuat atau dicetuskan oleh sistem tanpa semakan manusia yang mencukupi, sedangkan pemandu yang terjejas tidak dimaklumkan dengan jelas tentang penggunaan keputusan automatik tersebut. 145

Antara petunjuk yang dilaporkan digunakan untuk mengesan penipuan ialah perjalanan yang luar biasa panjang—yang mungkin ditafsirkan sebagai lencongan tidak perlu—serta penerimaan tempahan yang sebenarnya tidak ingin diambil oleh pemandu. 5

Isunya bukan semata-mata penggunaan perisian untuk mengesan penipuan atau menilai kualiti perkhidmatan. Kebimbangan utama AP ialah sistem automatik itu boleh menentukan sama ada seseorang pemandu masih mempunyai akses kepada platform dan, secara langsung, sama ada dia boleh terus memperoleh pendapatan melaluinya.

Mengapa keputusan itu dianggap serius di bawah GDPR?

Peraturan Perlindungan Data Umum Kesatuan Eropah, atau GDPR, mengehadkan keputusan yang dibuat sepenuhnya berdasarkan pemprosesan automatik apabila keputusan itu membawa kesan undang-undang atau menjejaskan seseorang secara ketara. AP merujuk prinsip ini sebagai hak untuk mendapatkan “pandangan manusia” dalam keputusan berimpak besar.

Bagi pemandu platform, kehilangan akses kepada Uber bukan sekadar perubahan kecil pada fungsi akaun. Penggantungan sementara boleh mengganggu pendapatan, manakala penyahaktifan kekal boleh menghalang seseorang daripada bekerja melalui platform itu sama sekali. Kesan terhadap mata pencarian inilah yang menyebabkan pengawal selia menganggap keputusan tersebut serius, bukan sekadar tindakan operasi rutin. 45

Jika keputusan automatik dibenarkan di bawah GDPR, syarikat masih perlu menyediakan perlindungan tertentu. Ini termasuk menerangkan proses dengan jelas, memberi peluang untuk meminta campur tangan manusia dan menyediakan saluran yang bermakna untuk mencabar keputusan berkenaan.

Dalam erti kata mudah, semakan manusia tidak boleh hanya menjadi formaliti. Orang yang menyemak perlu benar-benar mampu meneliti bukti, mempertimbangkan keadaan pemandu dan mengubah keputusan jika terdapat kesilapan.

Bagaimana kes ini bermula dan mengapa Belanda mengendalikannya?

Kes ini bermula dengan aduan daripada pemandu di Perancis. Bekas pemandu Uber, Brahim Ben Ali, mengumpulkan keterangan daripada kira-kira 170 pemandu yang terjejas dengan bantuan kumpulan hak digital Switzerland, PersonalData.io. Laporan yang tersedia merujuk kepada 171 pengadu dari Perancis. 413

AP Belanda mengendalikan siasatan itu kerana operasi Eropah Uber yang berkaitan serta susunan pengawasan GDPR syarikat tersebut berpusat di Belanda. Oleh itu, pihak berkuasa Belanda boleh bertindak dalam kes rentas sempadan yang melibatkan pemandu di negara Eropah lain. 17

Kes ini juga menunjukkan bagaimana aduan individu boleh mendedahkan cara sistem algoritma berskala besar beroperasi. Pemandu pada mulanya berusaha mendapatkan maklumat tentang keputusan terhadap akaun mereka, tetapi siasatan yang terhasil turut meneliti struktur keseluruhan sistem keputusan automatik Uber, bukan hanya kesan terhadap seorang pemandu. 13

Seberapa besar denda itu?

Denda €825 juta tersebut dilaporkan sebagai denda kedua terbesar yang pernah dikenakan di bawah GDPR Kesatuan Eropah, selepas denda €1.2 bilion terhadap Meta. 12

Jumlah itu juga jauh lebih besar berbanding denda GDPR Uber sebelum ini di Belanda, iaitu €290 juta. Kes terdahulu berkaitan pemindahan data peribadi pemandu Eropah ke Amerika Syarikat, bukannya keputusan automatik untuk menggantung atau menyahaktifkan akaun.

Kes	Denda	Isu utama
Kes keputusan automatik terhadap pemandu Uber	€825 juta	Penggantungan dan penyahaktifan akaun tanpa maklumat mencukupi atau pengawasan manusia yang memadai 12
Kes GDPR Uber terdahulu di Belanda	€290 juta	Pemindahan data pemandu Eropah ke Amerika Syarikat
Rekod denda GDPR Meta	€1.2 bilion	Pemindahan data pengguna Facebook ke Amerika Syarikat 110

Denda tersebut ialah hukuman kawal selia. Ia tidak bermakna pemandu yang terjejas akan menerima pampasan secara automatik bagi kehilangan pendapatan.

Adakah pemandu boleh menerima pampasan?

Kumpulan pembela hak digital melihat keputusan itu sebagai asas berpotensi untuk tindakan undang-undang secara kolektif bagi menuntut pampasan daripada Uber. Menurut laporan yang dipetik Reuters, PersonalData.io berkata pihaknya sedang menyediakan tuntutan berkumpulan. 13

Bagaimanapun, tindakan itu akan berasingan daripada denda AP. Pemandu masih perlu membuktikan asas tuntutan serta jumlah kerugian yang dialami, sama ada melalui tuntutan individu atau kolektif. Denda kawal selia itu sendiri tidak mewujudkan bayaran automatik kepada mereka. 713

Apa kata Uber?

Uber berkata pihaknya sangat tidak bersetuju dengan keputusan tersebut dan menganggap denda itu tidak sepadan. Syarikat itu mempertikaikan beberapa penemuan fakta serta jumlah penalti dan merancang untuk membuat rayuan. 13

Uber turut berkata dasar yang dipersoalkan telah dihentikan antara 2021 hingga 2022. Syarikat itu menegaskan bahawa prosedur semasanya merangkumi semakan manusia dan saluran rayuan. Uber juga berhujah bahawa kebanyakan penggantungan adalah singkat dan penyahaktifan kekal tidak dilakukan tanpa penglibatan manusia. 17

Kenyataan itu ialah pendirian Uber, manakala penemuan AP merujuk kepada amalan terdahulu yang diperiksa dalam keputusan tersebut. Proses rayuan kelak boleh menentukan penemuan dan sebahagian daripada penalti yang akhirnya kekal.

Apa maknanya untuk pengurusan berasaskan algoritma?

Kes Uber memperluas perbincangan tentang privasi melangkaui persoalan biasa seperti cara data dikumpulkan atau disimpan. Ia menunjukkan bahawa GDPR juga boleh terpakai apabila data peribadi dan pemprofilan automatik digunakan untuk mengawal akses seseorang kepada pekerjaan, pendapatan atau peluang ekonomi melalui platform. 14

Bagi syarikat teknologi dan ekonomi gig, mesejnya jelas: sistem pengesanan penipuan, penilaian pelanggan dan penguatkuasaan akaun tidak boleh dianggap sebagai automasi tanpa akibat. Syarikat perlu mampu menerangkan cara keputusan dibuat, memaklumkan orang yang terjejas, menyediakan semakan manusia yang sebenar dan menawarkan saluran berkesan untuk mencabar keputusan yang merugikan.

Risiko kawal selia paling ketara apabila perisian boleh menyebabkan seseorang pekerja tidak mampu memperoleh pendapatan buat sementara waktu atau selama-lamanya. Dalam keadaan seperti itu, kewujudan proses semakan di atas kertas sahaja mungkin tidak memadai—campur tangan manusia tersebut perlu benar-benar mampu menilai semula keputusan dan membetulkannya apabila bukti atau keadaan menunjukkan bahawa ia wajar diubah.