ทำไม Uber ถูกปรับ 825 ล้านยูโร ปมใช้อัลกอริทึมแบนคนขับโดยไม่ให้มนุษย์ทบทวน

ค่าปรับ 825 ล้านยูโร หรือประมาณ 966 ล้านดอลลาร์สหรัฐ ที่ Uber ถูกหน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์ (Dutch Data Protection Authority หรือ AP) สั่งในคดีนี้ ไม่ได้เกิดจากการเก็บข้อมูลผู้ใช้เพียงอย่างเดียว แต่เกี่ยวข้องกับการที่ระบบอัตโนมัติมีส่วนตัดสินใจระงับหรือปิดบัญชีคนขับในยุโรปช่วงปี 2020–2022 โดยคนขับไม่ได้รับข้อมูลที่เพียงพอ และไม่มีการตรวจสอบจากมนุษย์อย่างมีความหมาย 12

Uber โต้แย้งข้อค้นพบบางส่วน รวมถึงเห็นว่าค่าปรับสูงเกินสัดส่วน และระบุว่าจะยื่นอุทธรณ์ 1

AP พบอะไรในการทำงานของ Uber

ตามคำวินิจฉัยของ AP Uber ใช้ระบบอัตโนมัติเพื่อระงับบัญชีคนขับชั่วคราวเมื่อระบบสงสัยว่าอาจมีการทุจริต และใช้ข้อมูลบางประเภท เช่น คะแนนประเมินจากผู้โดยสาร เพื่อปิดใช้งานบัญชีคนขับอย่างถาวรในบางกรณี ระบบเหล่านี้อาจทำให้เกิดการระงับหรือปิดบัญชีโดยไม่มีการทบทวนจากมนุษย์อย่างมีนัยสำคัญ ขณะที่คนขับที่ได้รับผลกระทบก็ไม่ได้รับคำอธิบายอย่างเพียงพอว่ามีการใช้การตัดสินใจแบบอัตโนมัติอย่างไร 145

ตัวอย่างสัญญาณที่มีรายงานว่าใช้ตรวจจับการทุจริต ได้แก่ การเดินทางที่ใช้เวลาหรือมีระยะทางยาวผิดปกติ ซึ่งอาจทำให้ระบบสงสัยว่าคนขับอ้อมเส้นทางเพื่อเพิ่มค่าโดยสาร รวมถึงกรณีคนขับกดยอมรับเที่ยวโดยไม่ได้ตั้งใจจะรับงานนั้นจริง 5

ประเด็นของหน่วยงานกำกับไม่ได้อยู่ที่การใช้ซอฟต์แวร์ตรวจจับความเสี่ยงหรือประเมินคุณภาพบริการโดยตัวมันเอง แต่คือผลลัพธ์ของการประมวลผลอาจเป็นตัวกำหนดว่า คนขับจะยังเข้าถึงแพลตฟอร์มและหารายได้ต่อได้หรือไม่

ทำไม GDPR จึงมองว่าเป็น “การตัดสินใจที่มีผลกระทบอย่างมีนัยสำคัญ”

GDPR หรือกฎหมายคุ้มครองข้อมูลส่วนบุคคลของสหภาพยุโรป จำกัดการตัดสินใจที่อาศัยการประมวลผลอัตโนมัติเพียงอย่างเดียว หากการตัดสินใจนั้นมีผลทางกฎหมายหรือส่งผลกระทบร้ายแรงในลักษณะใกล้เคียงกันต่อบุคคล

สำหรับคนขับแพลตฟอร์ม การถูกระงับบัญชีไม่ใช่แค่การถูกปิดฟีเจอร์บางอย่างชั่วคราว เพราะอาจทำให้รายได้หยุดชะงัก ส่วนการปิดบัญชีถาวรอาจเท่ากับการหมดโอกาสรับงานผ่านแพลตฟอร์มนั้นโดยสิ้นเชิง ผลกระทบต่อการดำรงชีพเช่นนี้ทำให้ AP มองว่าการตัดสินใจดังกล่าวไม่ใช่การดำเนินงานทั่วไปของระบบ แต่เป็นเรื่องที่มีนัยสำคัญต่อชีวิตของผู้ได้รับผลกระทบ 45

หากการตัดสินใจอัตโนมัติอยู่ในกรณีที่กฎหมายอนุญาต บริษัทก็ยังต้องมีมาตรการคุ้มครองที่เหมาะสม เช่น แจ้งให้บุคคลทราบอย่างชัดเจน อธิบายกระบวนการ เปิดทางให้ขอการแทรกแซงจากมนุษย์ และให้โอกาสโต้แย้งผลลัพธ์ได้อย่างมีความหมาย

คดีเริ่มต้นจากคนขับในฝรั่งเศส แต่ทำไมเนเธอร์แลนด์เป็นผู้สอบสวน

คดีนี้เริ่มจากข้อร้องเรียนของคนขับ Uber ในฝรั่งเศส โดยอดีตคนขับชื่อ Brahim Ben Ali รวบรวมคำให้การจากคนขับที่ได้รับผลกระทบราว 170 คน และได้รับความช่วยเหลือจาก PersonalData.io กลุ่มสิทธิด้านดิจิทัลจากสวิตเซอร์แลนด์ รายงานที่มีอยู่ระบุจำนวนผู้ร้องเรียนชาวฝรั่งเศสไว้ที่ 171 คน 413

AP ของเนเธอร์แลนด์เป็นผู้ดำเนินการสอบสวน เนื่องจากการดำเนินงานที่เกี่ยวข้องของ Uber ในยุโรป รวมถึงกลไกการกำกับดูแลหลักภายใต้ GDPR อยู่ในเนเธอร์แลนด์ จึงทำให้หน่วยงานดังกล่าวสามารถจัดการคดีข้ามพรมแดนที่เกี่ยวข้องกับคนขับในประเทศสมาชิกอื่นได้ 17

คดีนี้ยังสะท้อนว่า การร้องเรียนของบุคคลจำนวนหนึ่งสามารถเปิดเผยวิธีทำงานของระบบอัลกอริทึมขนาดใหญ่ได้ คนขับไม่ได้เพียงต้องการรู้ว่าเหตุใดบัญชีของตนถูกระงับ แต่ยังผลักดันให้มีการตรวจสอบโครงสร้างและกระบวนการตัดสินใจอัตโนมัติของแพลตฟอร์มโดยรวม 13

ค่าปรับใหญ่แค่ไหนเมื่อเทียบกับคดีอื่น

ค่าปรับ 825 ล้านยูโรถูกจัดให้เป็นค่าปรับตาม GDPR ที่ใหญ่เป็นอันดับสองเท่าที่มีการรายงาน โดยยังเป็นรองค่าปรับ 1.2 พันล้านยูโรที่สั่งกับ Meta 12

จำนวนดังกล่าวยังสูงกว่าค่าปรับ Uber ในเนเธอร์แลนด์ครั้งก่อนที่ 290 ล้านยูโรอย่างมาก แต่คดีก่อนหน้านั้นเกี่ยวข้องกับการโอนข้อมูลส่วนบุคคลของคนขับในยุโรปไปยังสหรัฐฯ ไม่ใช่การตัดสินใจระงับหรือปิดบัญชีด้วยระบบอัตโนมัติ

คดี	ค่าปรับ	ประเด็นหลัก
คดีการตัดสินใจเกี่ยวกับบัญชีคนขับของ Uber	825 ล้านยูโร	การระงับและปิดบัญชีโดยให้ข้อมูลไม่เพียงพอและขาดการทบทวนจากมนุษย์ 12
คดี GDPR ก่อนหน้าของ Uber ในเนเธอร์แลนด์	290 ล้านยูโร	การโอนข้อมูลคนขับในยุโรปไปยังสหรัฐฯ
คดีค่าปรับ GDPR สูงสุดของ Meta	1.2 พันล้านยูโร	การโอนข้อมูลผู้ใช้ Facebook ไปยังสหรัฐฯ 110

อย่างไรก็ตาม ค่าปรับนี้เป็นบทลงโทษทางปกครองของหน่วยงานกำกับ ไม่ได้หมายความว่าคนขับแต่ละรายจะได้รับเงินชดเชยโดยอัตโนมัติ

คนขับจะได้รับค่าชดเชยหรือไม่

กลุ่มสิทธิด้านดิจิทัลมองว่าคำวินิจฉัยดังกล่าวอาจเป็นพื้นฐานสำหรับการดำเนินคดีแบบกลุ่ม เพื่อเรียกร้องค่าชดเชยจาก Uber ให้แก่คนขับที่อาจสูญเสียรายได้จากการถูกระงับหรือปิดบัญชี PersonalData.io ระบุว่ากำลังเตรียมดำเนินคดีลักษณะดังกล่าว ตามรายงานที่ Reuters อ้างถึง 13

การดำเนินคดีดังกล่าวเป็นคนละส่วนกับค่าปรับของ AP คนขับยังต้องพิสูจน์ฐานทางกฎหมาย รวมถึงขอบเขตความเสียหายของการเรียกร้องรายบุคคลหรือการเรียกร้องร่วมกัน ค่าปรับของหน่วยงานกำกับเพียงอย่างเดียวไม่ได้ทำให้เกิดการจ่ายเงินชดเชยโดยอัตโนมัติ 713

Uberตอบโต้อย่างไร และจะอุทธรณ์อะไรบ้าง

Uber ระบุว่าไม่เห็นด้วยอย่างยิ่งกับคำตัดสิน และมองว่าค่าปรับไม่ได้สัดส่วนกับข้อกล่าวหา บริษัทโต้แย้งข้อเท็จจริงบางประการและจำนวนเงินค่าปรับ พร้อมประกาศแผนยื่นอุทธรณ์ 13

บริษัทยังระบุว่านโยบายที่ถูกตั้งคำถามได้ยุติไปแล้วในช่วงปี 2021–2022 และกระบวนการปัจจุบันมีการตรวจสอบโดยมนุษย์ รวมถึงช่องทางอุทธรณ์สำหรับคนขับ Uber ยืนยันว่าการระงับบัญชีส่วนใหญ่เป็นเพียงช่วงเวลาสั้น ๆ และการปิดบัญชีถาวรจะไม่เกิดขึ้นโดยปราศจากการมีส่วนร่วมของมนุษย์ 17

ข้อกล่าวอ้างเหล่านี้เป็นจุดยืนของ Uber ขณะที่ข้อค้นพบของ AP มุ่งตรวจสอบแนวปฏิบัติในอดีตตามช่วงเวลาที่อยู่ในคำวินิจฉัย การอุทธรณ์จึงอาจเป็นตัวชี้ขาดว่า ข้อค้นพบและองค์ประกอบของค่าปรับส่วนใดจะยังคงมีผลบังคับใช้

บทเรียนต่อการบริหารแรงงานด้วยอัลกอริทึม

คดีนี้ทำให้การบังคับใช้กฎหมายความเป็นส่วนตัวขยับพ้นจากคำถามแบบเดิม ๆ เรื่องการเก็บและจัดเก็บข้อมูล เพราะแสดงให้เห็นว่า GDPR อาจถูกนำมาใช้กำกับ “การบริหารแรงงานด้วยอัลกอริทึม” เมื่อข้อมูลส่วนบุคคลและการทำโปรไฟล์อัตโนมัติถูกใช้เพื่อควบคุมการเข้าถึงงาน รายได้ หรือโอกาสทางเศรษฐกิจบนแพลตฟอร์ม 14

สำหรับบริษัทเทคโนโลยีและธุรกิจแพลตฟอร์มแบบกิก ประเด็นสำคัญคือ ระบบตรวจจับการทุจริต ระบบให้คะแนน และกลไกลงโทษบัญชี ไม่ควรถูกมองว่าเป็นระบบอัตโนมัติที่ไม่มีผลกระทบ บริษัทจำเป็นต้องอธิบายได้ว่าการตัดสินใจเกิดขึ้นอย่างไร แจ้งผู้ได้รับผลกระทบอย่างเหมาะสม เปิดให้มนุษย์ตรวจสอบใหม่อย่างแท้จริง และมีช่องทางคัดค้านที่ใช้งานได้จริง

ความเสี่ยงด้านกฎระเบียบจะยิ่งชัดเจนเมื่อซอฟต์แวร์สามารถทำให้คนทำงานไม่ได้ชั่วคราว หรือหมดสิทธิทำงานผ่านแพลตฟอร์มอย่างถาวร ในสถานการณ์เช่นนี้ การมีขั้นตอนตรวจสอบที่ระบุไว้บนเอกสารอาจไม่เพียงพอ การทบทวนโดยมนุษย์ต้องสามารถตรวจสอบหลักฐาน พิจารณาบริบท และเปลี่ยนคำตัดสินได้เมื่อข้อมูลหรือสถานการณ์บ่งชี้ว่าควรเป็นเช่นนั้น