ทำไม Uber จึงถูกปรับ 825 ล้านยูโร จากการระงับบัญชีคนขับด้วยระบบอัตโนมัติ

Uber กำลังเผชิญบทลงโทษมูลค่า 825 ล้านยูโร จากหน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์ หรือ AP หลังถูกกล่าวหาว่าใช้ระบบอัตโนมัติระงับหรือปิดบัญชีคนขับ โดยไม่ได้แจ้งข้อมูลอย่างเพียงพอ และไม่ได้จัดให้มีมาตรการคุ้มครองตามกฎหมาย GDPR สำหรับการตัดสินใจอัตโนมัติที่ส่งผลกระทบอย่างมีนัยสำคัญต่อบุคคล

หากบทลงโทษนี้ยังคงมีผล จะถือเป็นค่าปรับภายใต้ GDPR ที่สูงเป็นอันดับ 2 เท่าที่เคยมีมา รองจากค่าปรับ 1,200 ล้านยูโรที่ไอร์แลนด์สั่ง Meta ในปี 2023 จากกรณีโอนข้อมูลผู้ใช้ Facebook ในยุโรปไปยังสหรัฐฯ อย่างไม่ชอบด้วยกฎหมาย อย่างไรก็ตาม Uber ระบุว่าจะยื่นอุทธรณ์ ดังนั้นตัวเลขดังกล่าวอาจเปลี่ยนแปลงได้

ปมสำคัญไม่ได้อยู่ที่การใช้ AI อย่างเดียว

ประเด็นของ AP ไม่ใช่เพียงการที่ Uber ใช้อัลกอริทึมตรวจหาพฤติกรรมที่อาจเข้าข่ายทุจริต แต่เป็นการที่ระบบสามารถนำไปสู่การระงับหรือปิดบัญชีคนขับ ซึ่งอาจทำให้คนขับสูญเสียช่องทางหารายได้จากแพลตฟอร์ม

ในช่วงเวลาที่อยู่ภายใต้การตรวจสอบ โดยหลักคือระหว่างปี 2020-2022 ระบบของ Uber ถูกใช้ตรวจจับกรณีต่าง ๆ เช่น

• ข้อสงสัยเรื่องการทุจริตค่าโดยสาร
• การอ้อมเส้นทางโดยไม่จำเป็นเพื่อทำให้ค่าโดยสารสูงขึ้น
• การรับงานแล้วถูกกล่าวหาว่าไม่เดินทางตามงานนั้น
• คะแนนจากผู้โดยสารที่อยู่ในระดับต่ำ

ภายใต้ GDPR บุคคลทั่วไปไม่ควรถูกตัดสินใจโดยอาศัยการประมวลผลอัตโนมัติเพียงอย่างเดียว หากการตัดสินใจนั้นส่งผลกระทบอย่างมีนัยสำคัญต่อชีวิตของเขา โดยไม่มีมาตรการคุ้มครองที่เหมาะสม มาตรการดังกล่าวรวมถึงการมีมนุษย์เข้ามาทบทวนอย่างมีความหมาย การเปิดโอกาสให้เจ้าตัวชี้แจง และช่องทางคัดค้านหรืออุทธรณ์คำตัดสิน

ในมุมมองของหน่วยงาน การแจ้งคนขับภายหลังจากอัลกอริทึมตัดสินใจอาจไม่เพียงพอ หากคนขับไม่สามารถเข้าใจเหตุผลของการถูกระงับบัญชี หรือไม่สามารถขอให้มีการตรวจสอบใหม่โดยอิสระได้อย่างแท้จริง

“มีมนุษย์อยู่ในกระบวนการ” ไม่ได้แปลว่าผ่านเกณฑ์เสมอไป

หัวใจสำคัญอยู่ที่ความแตกต่างระหว่าง การทบทวนโดยมนุษย์อย่างแท้จริง กับการมีเจ้าหน้าที่เพียงทำหน้าที่ยืนยันผลลัพธ์ของระบบ

การทบทวนที่มีความหมายควรเปิดโอกาสให้เจ้าหน้าที่ตรวจสอบข้อเท็จจริงด้วยตนเอง รับฟังคำอธิบายของคนขับ และเปลี่ยนแปลงหรือยกเลิกผลการตัดสินใจของระบบได้ ไม่ใช่เพียงขั้นตอนเชิงพิธีการที่ทำให้ดูเหมือนมีคนเข้ามาเกี่ยวข้อง

ในคดีที่เกี่ยวข้องกัน ศาลอุทธรณ์กรุงอัมสเตอร์ดัมเคยเห็นว่า การตรวจสอบโดยมนุษย์ที่ Uber อ้างถึงมีลักษณะเป็นเพียงการดำเนินการเชิงสัญลักษณ์ และไม่ยอมรับการอ้างว่ามี “มนุษย์อยู่ในกระบวนการ” หากมนุษย์คนนั้นไม่ได้ทบทวนผลลัพธ์อย่างเป็นอิสระ

หลักการนี้ยังหมายความว่า คนขับต้องได้รับข้อมูลมากพอที่จะเข้าใจว่าเหตุใดจึงถูกระงับบัญชี และสามารถโต้แย้งคำตัดสินได้อย่างมีสาระ ไม่ใช่ต้องเผชิญกับระบบที่ทำงานเสมือนกล่องดำ

คนขับอาจไม่ได้รับข้อมูลอะไรบ้าง

ตามรายงานที่อ้างอิงคำตัดสินของหน่วยงาน AP พบว่า Uber ไม่ได้แจ้งคนขับที่ได้รับผลกระทบอย่างเพียงพอว่า มีการใช้กระบวนการอัตโนมัติในการระงับหรือปิดบัญชี และกระบวนการดังกล่าวส่งผลต่อสถานะการทำงานของพวกเขาอย่างไร

ช่องว่างด้านข้อมูลนี้นำไปสู่ปัญหาการปฏิบัติตามกฎหมาย 2 ด้านที่เชื่อมโยงกัน ได้แก่

• ปัญหาด้านการตัดสินใจ: ระบบอัตโนมัติอาจนำไปสู่ผลลัพธ์ที่กระทบต่อรายได้ โดยไม่มีการแทรกแซงจากมนุษย์อย่างเพียงพอ
• ปัญหาด้านความโปร่งใส: คนขับไม่ได้รับข้อมูลชัดเจนพอเกี่ยวกับการใช้ระบบอัตโนมัติและผลกระทบที่เกิดขึ้นกับตน

ดังนั้น คดีนี้ไม่ได้พิจารณาเฉพาะว่า Uber ดำเนินการอะไรกับบัญชีคนขับ แต่ยังพิจารณาถึงกระบวนการเบื้องหลังการตัดสินใจด้วย บริษัทอาจต้องอธิบายทั้งเหตุผลของการดำเนินการ และวิธีที่ผู้ได้รับผลกระทบจะขอให้มีการตรวจสอบโดยมนุษย์อย่างแท้จริง เมื่อระบบอัตโนมัติอาจทำให้พวกเขาสูญเสียรายได้

ทำไมคดีจากฝรั่งเศสจึงมาจบที่หน่วยงานเนเธอร์แลนด์

คำร้องเริ่มต้นมาจากฝรั่งเศส แต่ AP ของเนเธอร์แลนด์เป็นผู้ดูแลคดีข้ามพรมแดน เนื่องจากสำนักงานใหญ่ของ Uber ในยุโรปตั้งอยู่ในเนเธอร์แลนด์

เรื่องนี้สอดคล้องกับกลไก “หน่วยงานเจ้าภาพเดียว” หรือ one-stop-shop ภายใต้ GDPR ซึ่งโดยทั่วไปให้หน่วยงานคุ้มครองข้อมูลในประเทศที่บริษัทมีสถานประกอบการหลักในสหภาพยุโรปเป็นผู้รับผิดชอบการสอบสวนข้ามพรมแดน ขณะที่หน่วยงานของประเทศอื่น ๆ ที่ได้รับผลกระทบสามารถเข้าร่วมกระบวนการได้

กลไกดังกล่าวมีเป้าหมายเพื่อไม่ให้บริษัทข้ามชาติต้องเผชิญการสอบสวนหลักที่แยกจากกันในทุกประเทศสมาชิกที่การดำเนินงานของบริษัทส่งผลกระทบ จึงอธิบายได้ว่าทำไมคำร้องจากคนขับในฝรั่งเศสจึงนำไปสู่คำตัดสินของหน่วยงานเนเธอร์แลนด์

Uberโต้แย้งอย่างไร

Uber ระบุว่าจะยื่นอุทธรณ์ และเรียกทั้งคำตัดสินกับจำนวนค่าปรับว่าไม่สมเหตุสมผล บริษัทระบุว่าเปิดให้มีการทบทวนโดยมนุษย์ รวมถึงมีช่องทางให้คนขับคัดค้านการระงับบัญชี

บริษัทยังกล่าวว่า การระงับบัญชีจากข้อสงสัยเรื่องทุจริตเป็นเพียงมาตรการชั่วคราว และปฏิเสธว่าไม่ได้ปิดบัญชีคนขับอย่างถาวรโดยอาศัยระบบอัตโนมัติเพียงอย่างเดียว

Uber ยังระบุด้วยว่า ปัจจุบันบริษัทไม่ตัดสินใจปิดบัญชีอย่างถาวรโดยอาศัยระบบอัตโนมัติเพียงอย่างเดียว แต่คำชี้แจงเหล่านี้เป็นจุดยืนของบริษัท ขณะที่บทลงโทษของ AP พิจารณาการดำเนินงานในช่วงเวลาที่อยู่ภายใต้การตรวจสอบเป็นหลัก คือระหว่างปี 2020-2022

บทเรียนต่อการบริหารแรงงานด้วยอัลกอริทึม

คดีนี้สะท้อนว่า การใช้เทคโนโลยีบริหารคนทำงานกำลังกลายเป็นประเด็นใหญ่ด้านความเป็นส่วนตัวและสิทธิแรงงานในยุโรป ระบบที่ถูกตรวจสอบไม่ได้มีหน้าที่เพียงแนะนำโฆษณาหรือจัดหมวดหมู่ข้อมูลลูกค้า แต่สามารถส่งผลต่อการที่คนทำงานจะยังเข้าถึงแพลตฟอร์มซึ่งเป็นแหล่งรายได้ของตนได้หรือไม่

บทเรียนด้านการปฏิบัติตามกฎหมายจึงชัดเจนว่า การเขียนนโยบายว่า “มีมนุษย์ตรวจสอบ” อาจไม่เพียงพอ หากเจ้าหน้าที่ไม่มีอิสระในการตรวจสอบข้อเท็จจริง ไม่ได้รับฟังคำชี้แจงจากผู้ได้รับผลกระทบ หรือไม่มีอำนาจกลับคำตัดสินใจของระบบ

บริษัทที่ใช้ระบบอัตโนมัติในการรับคนเข้าทำงาน ตรวจจับการทุจริต จำกัดการเข้าถึงบัญชี หรือปิดบัญชี จำเป็นต้องคำนึงถึงทั้งความโปร่งใสและสิทธิในการคัดค้าน โดยเฉพาะเมื่อระบบนั้นอาจกระทบต่อความสามารถในการทำงานและรายได้ของบุคคล

คดีนี้ยังเกิดขึ้นท่ามกลางประวัติการบังคับใช้ GDPR กับ Uber ในเนเธอร์แลนด์ ก่อนหน้านี้ ในปี 2024 หน่วยงานเนเธอร์แลนด์เคยปรับ Uber อีก 290 ล้านยูโร จากการโอนข้อมูลส่วนบุคคลของคนขับในยุโรปไปยังสหรัฐฯ ส่วนค่าปรับ Meta จำนวน 1,200 ล้านยูโรเกี่ยวข้องกับการโอนข้อมูลผู้ใช้ Facebook ในยุโรปไปยังสหรัฐฯ ไม่ใช่การบริหารคนขับด้วยระบบอัตโนมัติ

ขณะนี้ตัวเลข 825 ล้านยูโรยังอยู่ระหว่างการอุทธรณ์ และยังไม่ใช่ผลลัพธ์สุดท้าย แต่สารที่คดีนี้ส่งออกมาแล้วค่อนข้างชัดเจนว่า ภายใต้ GDPR การบริหารคนด้วยอัลกอริทึมไม่อาจเป็น “กล่องดำ” ได้ เมื่อการตัดสินใจของระบบอาจทำให้ใครบางคนหมดสิทธิ์ทำงาน