แอมเนสตี้ อินเตอร์เนชั่นแนล ชี้ระบบ AI ยักษ์ใหญ่ 'ผิดกฎหมายตั้งแต่การออกแบบ'

แอมเนสตี้ได้เทียบเคียงการเก็บเกี่ยวข้อมูลอัตโนมัตินี้ว่าเทียบเท่ากับระบบการเฝ้าระวังมวลชนระดับรัฐ โดยให้เหตุผลว่ามันละเมิดสิทธิในความเป็นส่วนตัวตั้งแต่ขั้นตอนแรกของการพัฒนา รายงานดังกล่าวได้เอ่ยชื่อโมเดลและเครื่องมือสาธารณะชั้นนำหลายตัวที่ใช้ในงานวิจัย รวมถึง GPT-3, Gemini, Llama และอื่นๆ อย่าง DeepSeek, Midjourney, และ Stable Diffusion

ผลกระทบสามประการ

เพื่อสนับสนุนข้อเรียกร้องให้มีการสั่งห้ามมากกว่าการควบคุมแบบแบ่งตามระดับความเสี่ยง (Risk-based Approach) รายงานได้เน้นย้ำถึงผลกระทบสามประเภทที่แยกจากกันแต่เชื่อมโยงถึงกัน

1. การรุกรานความเป็นส่วนตัวครั้งใหญ่ตั้งแต่การออกแบบ

ผลกระทบแรกและเป็นรากฐานคือการละเมิดความเป็นส่วนตัวนั่นเอง รายงานให้รายละเอียดว่าชุดข้อมูลที่สร้างจากโพสต์สาธารณะ รูปภาพ และบทสนทนาจำนวนนับพันล้านรายการถูกนำไปรวบรวมโดยไม่ได้รับอนุญาตได้อย่างไร นี่ไม่ใช่การรั่วไหลหรือการละเมิดข้อมูลธรรมดา แต่มันคือวิธีการสร้าง AI อย่างจงใจและเป็นโครงสร้างของมัน แอมเนสตี้แย้งว่า "การละเมิดสิทธิความเป็นส่วนตัว" นี้คือจุดเริ่มต้นที่ทำให้กระบวนการพัฒนาทั้งหมดผิดกฎหมายภายใต้มาตรฐานสิทธิมนุษยชน

2. การสืบสานอคติและภาพเหมารวม

ผลกระทบประเภทที่สองไหลมาจากตัวข้อมูลโดยตรง เนื่องจากข้อมูลที่ใช้ในการฝึกฝนถูกคัดลอกมาจากอินเทอร์เน็ตแบบไม่เลือกหน้า มันจึง "ปนเปื้อนไปด้วยอคติในโลกแห่งความเป็นจริง" แอมเนสตี้เตือนว่า AI ไม่ได้ทำให้อคติเหล่านี้เป็นกลาง ในทางตรงกันข้าม ระบบกลับ "ขยายผลมันในผลลัพธ์ของโมเดลตามเชื้อชาติ เพศ และวัฒนธรรม" รายงานแสดงความกังวลเป็นพิเศษต่อชุมชนชายขอบที่ต้องเผชิญกับการถูกเลือกปฏิบัติอย่างเป็นระบบที่ร้ายแรงที่สุด เมื่อทัศนคติเหมารวมและอคติที่เป็นพิษกลายเป็นระบบอัตโนมัติและถูกปรับขยายขนาดขึ้น

3. ผลกระทบต่อสิ่งแวดล้อม

ผลกระทบประเภทสุดท้ายเปลี่ยนโฟกัสจากโลกดิจิทัลมาสู่โลกกายภาพ รายงานได้บันทึกต้นทุนทางระบบนิเวศที่สำคัญของการสร้างและรันระบบเหล่านี้ โดยชี้ไปที่ "ดาต้าเซ็นเตอร์ขนาดมหึมาและพลังงานที่ต้องใช้" รายงานให้เหตุผลว่า ผลกระทบด้านสิ่งแวดล้อมนี้คือผลพวงด้านสิทธิมนุษยชนที่มักถูกมองข้ามจากการแข่งขันพัฒนา AI อย่างไร้การควบคุม

ข้อเรียกร้องให้ 'สั่งห้าม' ไม่ใช่แค่ 'ควบคุม'

ข้อสรุปของแอมเนสตี้ อินเตอร์เนชั่นแนลนั้นชัดเจนและเด็ดขาด โดยระบุว่าระบบ Generative AI แบบสแตนด์อโลน ซึ่งต้องพึ่งพาท่อส่งข้อมูลจากการคัดลอกเว็บที่ผิดกฎหมายนั้น "ขัดแย้งกับกฎหมายสิทธิมนุษยชนระหว่างประเทศ" องค์กรให้เหตุผลว่าโมเดลการกำกับดูแลที่มีอยู่เดิม เช่น กรอบการทำงานตามระดับความเสี่ยงของ EU AI Act นั้นไม่เพียงพอ พวกเขาจึงเรียกร้องให้รัฐบาลเข้าแทรกแซงด้วยการ "สั่งห้ามเต็มรูปแบบ" สำหรับระบบที่ถูกสร้างขึ้นด้วยวิธีการเหล่านี้ โดยตีกรอบการปฏิบัติทั้งหมดว่าเป็นวิกฤตสิทธิมนุษยชนที่ไม่สามารถจัดการได้ด้วยการควบคุมเพียงอย่างเดียว