Mengapa Uber Berdepan Denda GDPR €825 Juta Gara-gara Penggantungan Pemandu Secara Automatik

Uber berdepan denda €825 juta daripada Pihak Berkuasa Perlindungan Data Belanda, atau AP, kerana didakwa menggunakan sistem automatik untuk menggantung dan menyahaktifkan akaun pemandu tanpa memaklumkan mereka dengan sewajarnya serta tanpa menyediakan perlindungan yang diperlukan bagi keputusan berimpak tinggi. Jika kekal, jumlah itu akan menjadi denda kedua terbesar di bawah Peraturan Perlindungan Data Umum Kesatuan Eropah (GDPR), selepas denda €1.2 bilion terhadap Meta pada 2023. Uber berkata ia akan merayu, jadi jumlah tersebut masih boleh berubah.

Isunya bukan sekadar penggunaan algoritma

Sistem Uber didakwa boleh mencetuskan tindakan terhadap pemandu berdasarkan beberapa petunjuk, termasuk:

• syak wasangka penipuan tambang;
• lencongan yang didakwa tidak perlu untuk menaikkan tambang;
• perjalanan yang telah diterima tetapi didakwa tidak diselesaikan; dan
• penilaian pelanggan yang rendah.

Tindakan itu bukan perkara kecil. Penggantungan atau penyahaktifan akaun boleh menyekat, malah menamatkan, keupayaan seseorang pemandu untuk memperoleh pendapatan melalui platform Uber.

Di bawah GDPR, seseorang secara amnya tidak boleh dikenakan keputusan yang dibuat semata-mata melalui pemprosesan automatik jika keputusan itu memberi kesan besar terhadap dirinya tanpa perlindungan yang sesuai. Perlindungan itu termasuk campur tangan manusia yang bermakna, peluang untuk menyatakan pandangan dan saluran sebenar untuk mencabar keputusan berkenaan.

Kesimpulan pengawal selia itu nampaknya ialah proses Uber tidak menyediakan perlindungan tersebut dengan mencukupi. Sekadar memaklumkan pemandu selepas keputusan algoritma dibuat tidak memadai jika mereka tidak dapat memahami apa yang berlaku atau mendapatkan penilaian semula yang bebas dan sebenar.

Mengapa “semakan manusia” masih tidak mencukupi?

Perbezaan penting terletak pada maksud sebenar “semakan manusia”. Seorang penyemak perlu mempunyai kuasa dan kemampuan untuk menilai semula bukti secara bebas, mendengar penjelasan pemandu dan mengubah keputusan. Semakan yang hanya mengesahkan keputusan sistem tidak memenuhi piawaian tersebut.

Dalam kes berkaitan, Mahkamah Rayuan Amsterdam mendapati semakan manusia yang didakwa dilakukan Uber bersifat simbolik dan menolak pergantungan syarikat terhadap konsep “human in the loop”, iaitu manusia yang kononnya berada dalam rantaian proses keputusan.

Keputusan itu membantu menjelaskan kepentingan undang-undang dalam tindakan AP kali ini. Penglibatan manusia tidak boleh sekadar formaliti yang membiarkan keputusan algoritma kekal tanpa penelitian sebenar. Pemandu juga perlu menerima maklumat yang mencukupi untuk membuat cabaran yang bermakna.

Apa yang didakwa tidak dimaklumkan kepada pemandu?

Menurut laporan berdasarkan keputusan pengawal selia, AP mendapati Uber tidak memaklumkan dengan mencukupi kepada pemandu bahawa proses automatik digunakan untuk menghasilkan penggantungan atau penyahaktifan akaun.

Jurang maklumat ini penting kerana pemandu mungkin tidak dapat mengetahui sebab akses mereka ditarik balik, bukti yang digunakan terhadap mereka atau cara untuk mencabar keputusan itu.

Kes ini melibatkan dua masalah pematuhan yang saling berkaitan:

• Masalah membuat keputusan: sistem automatik boleh membawa akibat besar tanpa campur tangan manusia yang mencukupi.
• Masalah ketelusan: pemandu tidak diberikan maklumat yang mencukupi tentang penggunaan proses automatik dan kesannya terhadap mereka.

Maka, syarikat bukan sahaja perlu menjelaskan tindakan yang diambil, tetapi juga menerangkan bagaimana seseorang boleh mendapatkan semakan sebenar apabila sistem automatik mengancam punca pendapatannya.

Mengapa pengawal selia Belanda mengendalikan aduan dari Perancis?

Aduan itu bermula di Perancis, tetapi kes rentas sempadan berkenaan dikendalikan oleh AP kerana ibu pejabat Eropah Uber terletak di Belanda. Di bawah rangka kerja “one-stop shop” GDPR, pihak berkuasa perlindungan data di negara tempat sesebuah syarikat mempunyai pertubuhan utama dalam Kesatuan Eropah biasanya bertindak sebagai pengawal selia utama bagi kes rentas sempadan. Pihak berkuasa di negara lain yang terjejas masih boleh mengambil bahagian.

Aturan ini bertujuan mengelakkan syarikat multinasional berdepan siasatan utama yang berasingan di setiap negara EU. Sebab itu aduan yang dikemukakan oleh pemandu di Perancis boleh membawa kepada keputusan daripada pengawal selia Belanda.

Bagaimana Uber menjawab?

Uber menyifatkan keputusan dan jumlah denda itu sebagai tidak seimbang serta berkata ia akan membuat rayuan. Syarikat itu menegaskan bahawa ia menyediakan semakan manusia dan hak untuk mencabar penggantungan.

Uber turut berkata penggantungan kerana syak wasangka penipuan adalah sementara dan menafikan bahawa akaun dinyahaktifkan secara kekal semata-mata melalui automasi. Syarikat itu juga mendakwa ia kini tidak lagi membuat keputusan penyahaktifan kekal hanya berdasarkan sistem automatik.

Kenyataan tersebut mewakili pendirian Uber. Denda AP pula berkaitan amalan yang diperiksa bagi tempoh berkenaan, terutama antara 2020 hingga 2022.

Isyarat lebih luas untuk pengurusan berasaskan algoritma

Kes ini menunjukkan bahawa pengurusan berasaskan algoritma semakin menjadi isu privasi dan pekerjaan yang besar di Eropah. Sistem yang dipersoalkan bukan sekadar digunakan untuk mengesyorkan iklan atau mengurus data pelanggan. Sistem itu boleh menentukan sama ada seseorang pekerja terus mempunyai akses kepada platform yang menjadi sumber pendapatannya.

Pengajaran pematuhan yang lebih luas juga jelas: polisi “semakan manusia” mungkin tidak mencukupi jika penyemak tidak boleh menilai fakta secara bebas, mendengar penjelasan individu yang terjejas dan membatalkan keputusan automatik.

Syarikat yang menggunakan automasi untuk pengambilan pekerja, pengesanan penipuan, sekatan akaun atau penyahaktifan perlu memikirkan ketelusan dan peluang mencabar keputusan sejak awal—khususnya apabila sistem itu boleh menjejaskan keupayaan seseorang untuk bekerja.

Kes ini menambah kepada sejarah penguatkuasaan GDPR Uber di Belanda. Pada 2024, pengawal selia Belanda secara berasingan mendenda Uber €290 juta kerana memindahkan data peribadi pemandu Eropah ke Amerika Syarikat tanpa perlindungan yang mencukupi. Sementara itu, denda €1.2 bilion terhadap Meta berkaitan pemindahan data pengguna Facebook Eropah ke AS, bukan keputusan pengurusan terhadap pekerja.

Buat masa ini, jumlah €825 juta itu masih tertakluk kepada rayuan Uber. Namun, mesej asasnya sudah jelas: di bawah GDPR, pengurusan automatik tidak boleh menjadi kotak hitam apabila keputusannya boleh menghilangkan keupayaan seseorang untuk mencari rezeki.