ซีอีโอวงการ AI ตั้งคำถามต่อคำเตือนเรื่องความเสี่ยง ก่อนร่วมลงนามข้อตกลงกับทรัมป์

การประชุมที่ทำเนียบขาวเมื่อวันที่ 29 กันยายน นำข้อถกเถียงส่วนตัวเรื่องคำเตือนความเสี่ยงจาก AI มาอยู่ร่วมกับภาพการเห็นพ้องต่อสาธารณะ รายงานระบุว่าผู้บริหารบริษัทเทคโนโลยีตั้งคำถามต่อคำเตือนของดาริโอ อโมเดอี ซีอีโอ Anthropic หลังการประชุม อโมเดอีกล่าวว่า AI มี “ความเสี่ยงที่เป็นเรื่องจริงอย่างยิ่ง” แต่แนวทางรับมือยังอยู่ระหว่างการหารือ ขณะเดียวกัน ผู้บริหารเหล่านั้นและประธานาธิบดีโดนัลด์ ทรัมป์ก็เปิดตัวข้อตกลงด้านความปลอดภัยโดยสมัครใจ คำมั่นร่วมกันนี้ไม่ได้ทำให้ความเห็นต่างเรื่องการกำกับดูแลโดยรัฐบาลหมดไป 2

เกิดอะไรขึ้นในการประชุม

รายงานที่สรุปไว้ในข่าวระบุว่า ในวงหารือกลุ่มย่อย ผู้บริหารได้เผชิญหน้าซักถามอโมเดอีเกี่ยวกับคำเตือนของเขา อย่างไรก็ตาม ข้อมูลที่มีอยู่ไม่ได้ให้รายละเอียดมากพอจะบอกลำดับการโต้ตอบ หรือยืนยันได้ชัดเจนว่าใครพูดอะไรบ้าง และไม่ได้ยืนยันว่าประเด็นผลกระทบต่อการจ้างงานเป็นส่วนหนึ่งของการเผชิญหน้าครั้งนั้นหรือไม่

ภาพรวมของความเห็นต่างชัดเจนกว่า อโมเดอีเคยเรียกร้องให้มีกฎที่กำหนดให้ระบบ AI ขั้นสูงผ่านการตรวจสอบโดยหน่วยงานอิสระ ส่วนทรัมป์เห็นว่าบริษัทควรกำกับดูแลตัวเอง แทนที่จะเผชิญข้อจำกัดใหม่จากรัฐบาลกลาง 4 หลังการประชุม อโมเดอย้ำว่าความเสี่ยงมีอยู่จริง ขณะที่แนวทางรับมือยังอยู่ระหว่างการหารือ 2

ข้อตกลงโดยสมัครใจให้บริษัททำอะไร

ข้อตกลงทำเนียบขาวว่าด้วยซูเปอร์อินเทลลิเจนซ์ระบุคำมั่นของบริษัทเกี่ยวกับมาตรการควบคุมภายในและการทบทวนด้านความปลอดภัย นอกจากนี้ยังให้ทำงานร่วมกับผู้ตรวจสอบอิสระ เพื่อประเมินว่าระบบ AI ทำงานตามที่ผู้พัฒนาตั้งใจหรือไม่ รวมถึงมีมาตรการป้องกันการแฮ็กหรือการเข้าถึงโดยไม่ได้รับอนุญาต 315

ทรัมป์เรียกข้อตกลงนี้ว่า “ผูกพันทางศีลธรรม” และกล่าวว่าบริษัทจะกำกับดูแลตัวเอง แต่รายงานข่าวระบุว่าข้อตกลงเป็นไปโดยสมัครใจและไม่มีผลบังคับใช้ตามกฎหมาย ในทางปฏิบัติ จึงเป็นคำมั่นของภาคอุตสาหกรรม ไม่ใช่กฎระเบียบใหม่ของรัฐบาลกลาง 411

ความแตกต่างนี้สำคัญ เพราะแม้ข้อตกลงจะระบุขั้นตอนการกำกับดูแล แต่ก็ไม่ได้ชี้ขาดว่าควรมีกฎจากภายนอกมาบังคับให้ทำตามหรือไม่ จะบังคับใช้คำมั่นอย่างไร หรือคำมั่นเหล่านี้จะกลายเป็นกฎหมายในภายหลังหรือไม่ รายงานระบุว่าข้อตกลงเปิดช่องให้พิจารณาบัญญัติมาตรการต่าง ๆ เป็นกฎหมายในอนาคต

ประเด็นกำกับดูแลที่ยังไม่มีคำตอบ

ทรัมป์เสนอแนวคิดตั้งคณะกรรมการ 10 คนเพื่อกำกับดูแลอุตสาหกรรม แต่รายงานที่มีอยู่บรรยายเรื่องนี้ว่าเป็นข้อเสนอที่อยู่ระหว่างพิจารณา ไม่ใช่หน่วยงานที่จัดตั้งขึ้นแล้ว 210

แหล่งข่าวยังไม่ยืนยันข้อกล่าวอ้างว่าแผนตั้งองค์กรกำกับดูแลตนเองของอุตสาหกรรมอีกแผนหนึ่งถูกยกเลิก หรืออธิบายว่าแผนนั้นจะเกี่ยวข้องกับข้อตกลงอย่างไร และแม้ข่าวจะเชื่อมโยงการเข้าร่วมของ Anthropic กับการประชุมและการถกเถียงเรื่องกฎระเบียบโดยรวม แต่ก็ยังไม่มีหลักฐานยืนยันว่าบริษัทลงนามเพื่อฟื้นฟูความสัมพันธ์กับรัฐบาลก่อนเสนอขายหุ้น IPO หรือว่า IPO ใกล้จะเกิดขึ้น 45

มีข้อตกลงต่อหน้าสาธารณะ แต่ข้อถกเถียงยังไม่จบ

การประชุมทำให้ผู้เข้าร่วมมีถ้อยแถลงร่วมกันเรื่องมาตรการป้องกันความเสี่ยง แต่ยังไม่มีฉันทามติเรื่องบทบาทของรัฐบาล การเรียกร้องให้มีการตรวจสอบอิสระภายใต้กฎระเบียบของอโมเดอี กับแนวทางให้บริษัทกำกับดูแลกันเองที่ทรัมป์สนับสนุน ชี้ให้เห็นคำถามที่ยังค้างอยู่: ใครควรกำหนดและบังคับใช้ข้อกำหนดด้านความปลอดภัยของ AI? 4

ดังนั้น ข้อตกลงนี้ควรถูกมองว่าเป็นกรอบความร่วมมือโดยสมัครใจสำหรับบริษัท ไม่ใช่หลักฐานว่าผู้บริหารเห็นตรงกันว่า AI มีความเสี่ยงมากเพียงใด หรือการกำกับดูแลตนเองเพียงพอแล้ว