Mengapa Uber Terancam Denda GDPR €825 Juta akibat Penangguhan Pengemudi Otomatis

Kesimpulan regulator tampaknya adalah bahwa proses Uber tidak menyediakan perlindungan itu secara memadai. Sekadar memberi notifikasi setelah algoritma mengambil keputusan tidak cukup jika pengemudi tidak dapat memahami alasan tindakannya atau memperoleh peninjauan ulang yang nyata dan independen.

Mengapa “ada manusia dalam proses” belum cukup?

Perbedaan pentingnya terletak pada kualitas pemeriksaan manusia. Peninjau harus mampu memeriksa bukti secara mandiri, mendengarkan penjelasan pengemudi, dan mengubah keputusan. Pemeriksaan yang hanya mengonfirmasi hasil algoritma tidak memenuhi standar tersebut.

Dalam perkara terkait, Pengadilan Banding Amsterdam menyatakan bahwa pemeriksaan manusia yang diklaim Uber hanya bersifat simbolis. Pengadilan pun menolak ketergantungan pada konsep nominal “human in the loop” atau manusia yang sekadar ditempatkan di dalam alur keputusan.

Putusan itu membantu menjelaskan arti penting langkah AP. Keterlibatan manusia harus benar-benar dapat mengubah hasil, bukan hanya menjadi formalitas prosedural yang membuat keputusan algoritma tetap berjalan seperti semula. Pengemudi juga harus menerima informasi yang cukup agar dapat mengajukan keberatan secara berarti.

Informasi apa yang dinilai tidak diberikan kepada pengemudi?

Menurut pemberitaan yang mengacu pada keputusan regulator, AP menemukan bahwa Uber tidak cukup memberi tahu pengemudi yang terdampak bahwa proses otomatis digunakan untuk menghasilkan penangguhan atau penonaktifan akun. Kekurangan informasi ini penting karena pengemudi tidak dapat memahami mengapa akses mereka dicabut atau bagaimana menggugat keputusan tersebut.

Dengan demikian, terdapat dua persoalan kepatuhan yang saling berkaitan:

• Persoalan pengambilan keputusan: pemrosesan otomatis dapat menimbulkan konsekuensi besar tanpa intervensi manusia yang memadai.
• Persoalan transparansi: pengemudi tidak memperoleh informasi yang cukup mengenai penggunaan proses otomatis dan dampaknya terhadap mereka.

Kasus ini bukan hanya soal tindakan akhir, melainkan juga proses yang mendasarinya. Perusahaan harus menjelaskan bukan cuma tindakan yang diambil, tetapi juga cara seseorang mendapatkan pemeriksaan ulang yang sungguh-sungguh ketika sistem otomatis mengancam sumber penghasilannya.

Mengapa regulator Belanda menangani pengaduan dari Prancis?

Pengaduan tersebut bermula di Prancis, tetapi kasus lintas negara ini ditangani AP karena kantor pusat Uber untuk Eropa berada di Belanda. Dalam kerangka one-stop shop GDPR, otoritas pengawas di negara tempat perusahaan memiliki kantor utama di Uni Eropa biasanya menjadi regulator utama untuk perkara lintas negara. Otoritas dari negara lain yang terdampak tetap dapat ikut berpartisipasi.

Mekanisme ini dirancang agar perusahaan multinasional tidak menghadapi penyelidikan utama yang sepenuhnya terpisah di setiap negara Uni Eropa tempat praktiknya berdampak. Aturan tersebut juga menjelaskan mengapa pengaduan yang diajukan pengemudi di Prancis dapat berujung pada keputusan dari regulator Belanda.

Tanggapan Uber

Uber menyatakan akan mengajukan banding dan menyebut keputusan serta nilai dendanya tidak proporsional. Perusahaan mengatakan bahwa mereka menyediakan pemeriksaan manusia dan hak untuk menggugat penangguhan akun. Uber juga menyatakan bahwa penangguhan terkait dugaan kecurangan bersifat sementara serta membantah bahwa akun dinonaktifkan secara permanen hanya berdasarkan otomatisasi.

Uber menambahkan bahwa saat ini perusahaan tidak lagi membuat keputusan penonaktifan permanen hanya berdasarkan sistem otomatis. Pernyataan tersebut merupakan posisi Uber, sedangkan denda AP berkaitan dengan praktik yang diperiksa untuk periode yang relevan, terutama pada 2020 hingga 2022.

Pelajaran bagi pengelolaan kerja berbasis algoritma

Keputusan ini menunjukkan mengapa pengelolaan kerja berbasis algoritma menjadi isu penting dalam perlindungan data dan ketenagakerjaan di Eropa. Sistem yang dipersoalkan bukan sekadar mesin rekomendasi iklan atau alat untuk mengelompokkan data pelanggan. Sistem itu dapat menentukan apakah seorang pekerja tetap memiliki akses ke platform yang menjadi sumber penghasilannya.

Pelajaran kepatuhannya cukup jelas: kebijakan “pemeriksaan manusia” kemungkinan tidak memadai jika pemeriksa tidak dapat menilai fakta secara mandiri, mendengar penjelasan pihak yang terdampak, dan membatalkan hasil otomatis. Perusahaan yang memakai sistem otomatis untuk perekrutan pengemudi, deteksi kecurangan, pembatasan akun, atau penonaktifan perlu memikirkan transparansi dan hak untuk menggugat sejak sistem tersebut mulai memengaruhi mata pencaharian seseorang.

Kasus ini juga menambah catatan penegakan GDPR Uber di Belanda. Pada 2024, regulator Belanda secara terpisah mendenda Uber €290 juta karena mentransfer data pribadi pengemudi Eropa ke Amerika Serikat tanpa perlindungan yang memadai. Sementara itu, denda €1,2 miliar terhadap Meta berkaitan dengan transfer data pengguna Facebook di Eropa ke AS, bukan keputusan pengelolaan pekerja.

Untuk saat ini, nilai denda €825 juta masih menunggu proses banding Uber. Namun, pesan dasarnya sudah terlihat: berdasarkan GDPR, pengelolaan kerja berbasis otomatisasi tidak boleh menjadi kotak hitam ketika keputusannya dapat menghilangkan kemampuan seseorang untuk bekerja.