คำสั่งควบคุมการส่งออกมีที่มาจากงานวิจัยด้านความปลอดภัยที่ดำเนินการที่ Amazon ซึ่งเป็นหนึ่งในนักลงทุนรายใหญ่ที่สุดของ Anthropic ตามรายงานของ Wall Street Journal และ Axios นักวิจัยของ Amazon สามารถ jailbreak Fable 5 ได้ โดยแสดงให้เห็นว่าโมเดลสามารถถูกบงการด้วยคำถามด้านความปลอดภัยทางไซเบอร์ เพื่อให้ดึงข้อมูลที่สามารถนำไปช่วยในการโจมตีทางไซเบอร์ได้ เมื่อวันพฤหัสบดีที่ 11 มิถุนายน Andy Jassy ซีอีโอ Amazon ได้โทรศัพท์แจ้งเจ้าหน้าที่รัฐบาลระดับสูงถึงผลการค้นพบนี้ และทำเนียบขาวก็ดำเนินการภายใน 24 ชั่วโมง
เจ้าหน้าที่ระดับสูงของรัฐบาลทรัมป์กล่าวหาว่า Anthropic รับมือกับช่องโหว่ด้วย 'ความประมาท'
เทคนิคการ jailbreak ดังกล่าวใช้คำสั่งเพียงสามคำ—'Fix this code'—ที่หลอกให้โมเดลเปิดเผยข้อมูลที่สามารถนำไปใช้หาประโยชน์จากช่องโหว่ด้านความปลอดภัยได้
ข้อจำกัดดังกล่าวถูกประณามอย่างรวดเร็วจากทั่วทั้งอุตสาหกรรมเทคโนโลยีและความปลอดภัยไซเบอร์:
คำสั่งห้ามส่งออกนี้สร้างความตึงเครียดให้กับความสัมพันธ์กับพันธมิตรของสหรัฐฯ ข้อจำกัดดังกล่าวส่งผลให้ รัฐบาล องค์กร และบุคคลในอังกฤษ ญี่ปุ่น และพันธมิตรอื่นๆ ไม่สามารถเข้าถึงโมเดล AI ที่ล้ำสมัยที่สุดของ Anthropic ได้ Al Jazeera รายงานว่าคำสั่งนี้ยิ่งทำให้พันธมิตรตึงเครียด เนื่องจากประเทศพันธมิตรถูกปฏิบัติเหมือนเป็นความเสี่ยงด้านความมั่นคงมากกว่าที่จะเป็นหุ้นส่วน
คำสั่งนี้ใช้กับ 'บุคคลสัญชาติต่างด้าว' โดยไม่มีข้อยกเว้นสำหรับพันธมิตรใกล้ชิด
Anthropic เปิดฉากความพยายามทางการทูตและเทคนิคอย่างเร่งด่วนเพื่อแก้ไขสถานการณ์ บริษัทได้ ส่งพนักงานไปยังกรุงวอชิงตัน ดี.ซี. ในช่วงสุดสัปดาห์ของวันที่ 13-14 มิถุนายน โดยส่งบุคลากรด้านเทคนิคที่สำคัญไปเจรจากับเจ้าหน้าที่เพื่อให้บรรลุข้อตกลงในการยกเลิกข้อจำกัดการส่งออก ณ วันที่ 17 มิถุนายน บริษัทยังคงพยายามอย่างแข็งขันเพื่อแก้ไขข้อพิพาท โดยซีอีโอ Dario Amodei เจรจาโดยตรงกับเจ้าหน้าที่รัฐบาล
นอกเหนือจากคำสั่งควบคุมการส่งออกเมื่อวันที่ 12 มิถุนายนแล้ว Anthropic ยังมีข้อพิพาททางกฎหมายแยกต่างหากกับเพนตากอนที่ยืดเยื้อมาหลายเดือน:
หมายเหตุเกี่ยวกับตัวเลข 150 ล้านดอลลาร์: แหล่งข่าวหลายแห่งอ้างถึง 'หลายพันล้าน' ดอลลาร์ในรายได้ที่อาจสูญเสียจากข้อพิพาทกับเพนตากอน แต่ผู้เขียนไม่พบตัวเลขเฉพาะเจาะจงที่ '150 ล้านดอลลาร์สหรัฐฯ ในรายได้ต่อปีที่สูญเสีย' ในการรายงานที่มีอยู่
Comments
0 comments