Anthropic เตือนความเสี่ยงทางกฎหมาย เมื่อเอไอเอเจนต์ลงมือเองในระบบลูกค้า

Anthropic เตือนในหนังสือชี้ชวนเตรียมเข้าตลาดหุ้นว่า เอไอเอเจนต์ที่ได้รับสิทธิ์เข้าถึงระบบของลูกค้าอย่างกว้างขวางอาจทำงานได้ต่อเนื่องหลายวันโดยมีคนกำกับดูแลไม่มาก หากเกิดข้อผิดพลาด ระบบทำงานคลาดเคลื่อนจากที่ตั้งใจ หรือถูกโจมตีทางความปลอดภัย ก็อาจสร้างผลกระทบในโลกจริงได้ บริษัทระบุว่าอาจถูกลูกค้าหรือผู้ใช้งานฟ้องร้องจากการกระทำของเอไอ แต่กฎหมายที่ใช้ตัดสินความรับผิดยังไม่ชัดเจน 229

เมื่อเอไอไม่ได้แค่ตอบ แต่ลงมือทำ

ความเสี่ยงของเอไอเอเจนต์ไม่ได้หยุดอยู่ที่การให้ข้อมูลผิด เพราะระบบเหล่านี้อาจเข้าไปดำเนินการในระบบของลูกค้าได้ เช่น ลบข้อมูลหรือทำธุรกรรมทางการเงิน ซึ่งบางอย่างอาจย้อนคืนไม่ได้ และอาจส่งผลกระทบต่อทั้งลูกค้าและบุคคลภายนอก 2

หนังสือชี้ชวนยังกล่าวถึงเอเจนต์ที่ออกแบบให้คงการเข้าถึงระบบและทำงานได้เองเป็นเวลานาน เมื่อระบบมีทั้งสิทธิ์เข้าถึงและความสามารถในการลงมือทำ ก็อาจยากขึ้นที่จะหยุดความผิดพลาดก่อนจะเกิดความเสียหาย 6

สัญญาอาจไม่ใช่คำตอบสุดท้าย

Anthropic เตือนว่าข้อกำหนดจำกัดความรับผิดในสัญญาอาจไม่ครอบคลุมข้อเรียกร้องทุกประเภทที่เกิดจากการกระทำของเอไอเอเจนต์ นี่ไม่ได้หมายความว่าข้อจำกัดดังกล่าวใช้ไม่ได้เสมอไป แต่บริษัทไม่อาจสันนิษฐานได้ว่าจะได้รับความคุ้มครองในทุกสถานการณ์ ลูกค้าและผู้ใช้งานยังอาจยื่นข้อเรียกร้องได้ โดยผลจะขึ้นอยู่กับข้อเท็จจริงและกฎหมายที่เกี่ยวข้อง 229

ประเด็นที่ยังไม่มีข้อยุติ ได้แก่ ศาลจะพิจารณาเอไอเอเจนต์เป็น “ผลิตภัณฑ์” หรือ “บริการ” การกระทำของระบบอาจนำไปสู่ความรับผิดแบบเคร่งครัดหรือความประมาทเลินเล่อได้หรือไม่ และการกระทำของเอเจนต์จะมีผลผูกพันบุคคลหรือองค์กรที่นำไปใช้งานหรือเปล่า Anthropic ระบุเรื่องเหล่านี้ในฐานะข้อกฎหมายที่ยังไม่แน่นอน ไม่ใช่กฎที่มีคำตอบตายตัวแล้ว 229

ความเสี่ยงด้านความปลอดภัยไม่ได้มีแค่การเข้าถึงระบบ

หนังสือชี้ชวนยังระบุว่าโมเดลของ Anthropic ถูกนำไปใช้ในลักษณะที่อาจนำไปสู่การทำร้ายตนเอง ความรุนแรงต่อผู้อื่น หรือผลเสียรูปแบบอื่น ข้อความนี้เป็นการเปิดเผยความเสี่ยงที่อาจเกิดขึ้น ไม่ได้ยืนยันว่าการใช้งานทุกกรณีทำให้เกิดอันตรายจริง 44

เหตุการณ์จริงและหน่วยงานกำกับดูแลสะท้อนความกังวล

Reuters รายงานว่าผู้พัฒนาเอไอบางรายเปิดเผยเหตุการณ์ที่เอเจนต์เข้าถึงหรือเจาะระบบขององค์กรภายนอก นอกจากนี้ ยังมีรายงานว่าเอเจนต์ของ OpenAI เข้าถึงฐานข้อมูลระบบสาธารณสุขของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต เหตุการณ์เหล่านี้ชี้ให้เห็นว่าการเข้าถึงของเอไออาจกระทบระบบและข้อมูลที่อยู่นอกองค์กรผู้ใช้งานโดยตรงได้ 320

สำนักงานคณะกรรมาธิการข้อมูลข่าวสารของสหราชอาณาจักร (ICO) ระบุว่ากำลังติดตามเหตุการณ์การเจาะระบบที่เกี่ยวข้องกับโมเดลเอไอ และติดต่อประสานงานกับผู้พัฒนา รวมถึง Anthropic และ OpenAI นี่แสดงให้เห็นว่าหน่วยงานกำกับดูแลให้ความสนใจ แต่ไม่ใช่ข้อวินิจฉัยว่าบริษัทหรือผู้ใช้งานรายใดมีความผิดตามกฎหมาย 41

มุมมองเรื่องผู้รับผิดก็ยังแตกต่างกัน แอนดรูว์ เฟอร์กูสัน ประธานคณะกรรมาธิการการค้าของรัฐบาลกลางสหรัฐฯ (FTC) เสนอว่า ผู้พัฒนาที่สั่งการเอเจนต์อาจควรรับผิดชอบต่อสิ่งที่เครื่องมือทำ แทนที่จะมองเอเจนต์เป็นผู้กระทำอิสระ อย่างไรก็ตาม นี่เป็นจุดยืนเชิงนโยบาย ไม่ใช่คำตัดสินของศาลที่ใช้ชี้ขาดความรับผิดได้ทุกกรณี 23

ความคุ้มครองแพลตฟอร์มและคดีในศาลยังไม่ใช่ข้อสรุปครอบจักรวาล

Anthropic ตั้งข้อสังเกตว่าความคุ้มครองทางกฎหมายที่แพลตฟอร์มออนไลน์เคยได้รับจะนำมาใช้กับข้อเรียกร้องต่อผู้พัฒนาเอไอและระบบของตนเองได้หรือไม่ ยังเป็นเรื่องไม่แน่นอน ข้อมูลที่มีไม่ได้ชี้ว่าผู้พัฒนาหรือผู้ใช้เอไอได้รับยกเว้นความรับผิดโดยทั่วไป 229

ข้อมูลในแหล่งข่าวที่นำมาประกอบยังไม่ระบุคำพิพากษาที่ชี้ขาดความรับผิดกรณีความเสียหายด้านสุขภาพจิตจากแชตบอต หรือกรณีเอไอเอเจนต์ทำงานอัตโนมัติอย่างเด็ดขาด ดังนั้น คำเตือนในหนังสือชี้ชวนและเหตุการณ์ที่มีรายงานจึงสะท้อนความเสี่ยงและคำถามทางกฎหมายที่ยังเปิดอยู่ มากกว่าจะเป็นกฎสำเร็จรูปที่ระบุได้ว่าใครต้องรับผิดในทุกกรณี