ศึก AI สหรัฐ-จีน: ทรัมป์เร่งแข่ง แต่อโมเดอีขอให้ความปลอดภัยตามทัน

โดนัลด์ ทรัมป์ วางกรอบประเด็น AI ขั้นสูงไว้เป็นการแข่งขันเชิงยุทธศาสตร์กับจีนเป็นหลัก เขาระบุว่าสหรัฐฯ ต้องรักษาสถานะผู้นำ เพราะ “ใครชนะ AI ก็ชนะ” ต่อมาเขาเรียกข้อกังวลว่า AI อาจครองโลกหรือทำลายมนุษยชาติว่าเป็น “HOAX” และกล่าวว่าการต่อต้าน AI กับศูนย์ข้อมูลเป็น “การสมคบคิดที่ป่วยไข้” ซึ่งมีแต่จีนที่จะได้ประโยชน์ 1719

เหตุใดทรัมป์จึงโจมตี Dario Amodei

คำตอบของทรัมป์เกิดขึ้นหลัง Dario Amodei ซีอีโอของ Anthropic เรียกร้องให้ชะลออัตราการพัฒนาระบบ AI ที่ทรงพลังที่สุดอย่างตั้งใจ จุดตั้งต้นของทั้งสองฝ่ายต่างกันชัดเจน: ทรัมป์ให้ความสำคัญกับการคงความเป็นผู้นำเทคโนโลยีของสหรัฐฯ ส่วน Amodei เห็นว่าความสามารถของโมเดลอาจก้าวหน้าเร็วกว่ามาตรการความปลอดภัย การทดสอบ และการกำกับดูแลที่มีประสิทธิผล 17

ทรัมป์ยังระบุว่าอำนาจทางอาญาและอำนาจกำกับดูแลที่มีอยู่แล้วนั้นมากพอ พร้อมเสนอว่าผู้นำประเทศที่เข้มแข็งคือหลักประกันที่จำเป็น การโจมตี Amodei จึงผสมทั้งความไม่เชื่อคำเตือนเรื่องความเสี่ยงระดับมนุษยชาติ และความกังวลว่าข้อจำกัดอย่างเป็นทางการจะทำให้บริษัทอเมริกันเสียเปรียบคู่แข่งจีน 1921

แผน “We Must Pace the Frontier” เสนออะไร

Amodei ไม่ได้เสนอให้ยุติงานวิจัย AI แต่เสนอแผน 3 ส่วนเพื่อชะลอการเพิ่มขีดความสามารถแบบไร้การควบคุม ให้การทำงานด้านความปลอดภัย การทดสอบ และธรรมาภิบาลมีเวลาตามให้ทัน

1. มีผู้ประเมินอิสระประจำอยู่ในห้องปฏิบัติการ AI ระดับแนวหน้า — Anthropic ระบุว่าจะให้ผู้ประเมินจากภายนอกเข้าถึงระบบอย่างต่อเนื่องในระดับใกล้เคียงพนักงาน โดยมีหน้าที่ตรวจสอบการปฏิบัติตามมาตรการความปลอดภัย รายงานเหตุการณ์ และประเมินว่าโมเดลยังสอดคล้องกับเป้าหมายที่มนุษย์กำหนดไว้ระหว่างการฝึกหรือไม่ 16
2. ประสานงานระหว่างบริษัท AI ชั้นนำ — ห้องแล็บชั้นนำควรสร้างมาตรฐานความปลอดภัยร่วมกัน และกำหนดขอบเขตต่อการพัฒนาแบบเร่งความสามารถโดยไร้การควบคุม แทนการแข่งขันกันเพียงว่าใครทำโมเดลให้เก่งกว่าได้เร็วที่สุด
3. ความร่วมมือระหว่างประเทศ — Amodei เห็นว่าการจัดการความเสี่ยงที่ร้ายแรงที่สุดของ AI ต้องอาศัยความร่วมมือที่ก้าวพ้นพรมแดนของประเทศหรือกลุ่มประเทศเดียว

ข้อแรกเป็นคำมั่นที่ Anthropic จะดำเนินการเองทันที ไม่ใช่เพียงข้อเสนอให้รัฐบาลหรือคู่แข่งนำไปทำ 16

ผู้นำ AI รายอื่นตอบอย่างไร

Sam Altman ซีอีโอ OpenAI กล่าวว่าเห็นด้วยว่าการพัฒนา AI ระดับแนวหน้าควรถูกกำหนดจังหวะอย่างรอบคอบ และ OpenAI จะเปิดทางให้ผู้ประเมินภายนอกเข้าถึงระบบเช่นกัน ขณะที่ Elon Musk ผู้บริหาร xAI ก็แสดงการเห็นด้วยกับ Amodei

Satya Nadella ซีอีโอ Microsoft สนับสนุนการเดินหน้าอย่างมีจังหวะและแนวคิดผู้ประเมินที่ฝังตัวอยู่ในองค์กร แต่เพิ่มเงื่อนไขสำคัญด้านธรรมาภิบาลว่า การกำกับดูแลต้องไม่ถูกควบคุมโดยบริษัทเพียงไม่กี่ราย เขาระบุว่าการมุ่งสู่ปัญญาประดิษฐ์เหนือมนุษย์ หรือ superintelligence ต้องเป็นประโยชน์ต่อมนุษยชาติและอยู่ภายใต้การควบคุมของมนุษย์

ท่าทีเหล่านี้ยังไม่ใช่ระบอบกำกับดูแลร่วมที่สมบูรณ์ แต่สะท้อนว่าผู้นำอุตสาหกรรมหลายรายสนับสนุนการตรวจสอบระบบที่ก้าวหน้าที่สุดอย่างเป็นทางการและต่อเนื่องมากขึ้น

โจทย์ใหญ่: จีนและความเสี่ยงของการยับยั้งฝ่ายเดียว

Jacob Coxon อดีตนักวิจัยของ Anthropic และ OpenAI บอกว่าคนที่กำลังสร้างระบบเหล่านี้ “กลัวอย่างแท้จริง” ต่ออนาคตของมนุษยชาติ เขาต้อนรับแนวคิดการชะลอการพัฒนา แต่ย้ำว่าต้องประสานงานกับจีนด้วย 1

นี่คือแก่นของปัญหา: บริษัทหรือประเทศที่ลดความเร็วฝ่ายเดียวอาจกลัวว่าจะตามหลังคู่แข่งที่ไม่ยอมลดความเร็ว กระทรวงการต่างประเทศจีนโต้กลับต่อข้อเรียกร้องของ Amodei ที่เกี่ยวข้องกับการจำกัดขีดความสามารถ AI ของจีน โดยมองว่าเป็นความพยายามของสหรัฐฯ ในการสกัดจีน มากกว่าจะเป็นธรรมาภิบาลด้านความปลอดภัยที่เป็นกลาง 4

ผลคือปัญหาความไว้วางใจ ฝ่ายที่สนับสนุนกติกามองว่ากฎที่ต่างฝ่ายต่างยอมรับจะช่วยลดความเสี่ยง แต่ฝ่ายคัดค้านอาจเห็นกฎเดียวกันเป็นเครื่องมือรักษาความได้เปรียบทางเทคโนโลยีของอีกฝ่าย

คำวิจารณ์: กฎความปลอดภัยอาจคุ้มครองเจ้าตลาด

Michael Burry นักลงทุนชื่อดัง วิจารณ์แนวทางชะลอ AI ว่า “เห็นแก่ประโยชน์ตนเอง” ข้อโต้แย้งของเขาคือ การพัฒนาที่ช้าลงและข้อกำหนดด้านการปฏิบัติตามกฎที่หนักขึ้น อาจช่วยบริษัท AI รายใหญ่ที่มีทรัพยากรรับต้นทุนเหล่านั้น ขณะเดียวกันก็ทำให้ผู้ท้าชิงหน้าใหม่แข่งขันได้ยากขึ้น เขายังไม่เห็นด้วยกับแนวคิดที่ว่าโมเดลภาษาขนาดใหญ่ในปัจจุบันกำลังมุ่งหน้าไปสู่ปัญญาประดิษฐ์ทั่วไป หรือ AGI

คำวิจารณ์นี้ไม่ได้หักล้างความกังวลด้านความปลอดภัยของ AI แต่ชี้ให้เห็นความเสี่ยงเชิงนโยบายที่ต้องระวัง: กติกาซึ่งออกแบบมาให้การพัฒนา AI ระดับแนวหน้าปลอดภัยขึ้น อาจยิ่งรวมศูนย์อำนาจไว้กับบริษัทที่พร้อมปฏิบัติตามกติกามากที่สุด กรอบกำกับดูแลที่น่าเชื่อถือจึงต้องจัดการทั้งเรื่องความปลอดภัยและการกระจุกตัวของอำนาจ

เหตุใดการพบกันของทรัมป์และสี จิ้นผิงจึงสำคัญ

ทรัมป์และผู้นำจีน สี จิ้นผิง มีกำหนดหารือเรื่องธรรมาภิบาล AI ในการพบปะที่วางไว้วันที่ 24 กันยายน 4 ความสำคัญของการพบกันอยู่ที่อุปสรรคที่ยากที่สุดของยุทธศาสตร์ความปลอดภัย AI ระดับแนวหน้า ไม่ใช่การออกกฎสำหรับห้องแล็บแห่งเดียว แต่คือการสร้างข้อตกลงที่ชาติมหาอำนาจคู่แข่งเชื่อว่ามีความต่างตอบแทนและบังคับใช้ได้จริง

กรอบคิดแบบจีนมาก่อนของทรัมป์ และการคัดค้านของปักกิ่งต่อข้อจำกัดที่กระทบการพัฒนา AI ของจีน สะท้อนว่าภารกิจนี้ยากเพียงใด ดังนั้นการถกเถียงจึงใหญ่กว่าทางเลือกระหว่าง “หยุด” กับ “เร่ง” แต่เป็นการชิงกันกำหนดว่า การแข่งขัน AI จะถูกกำกับได้หรือไม่ โดยไม่ทำให้นโยบายความปลอดภัยกลายเป็นสมรภูมิอีกด้านหนึ่งของการแข่งขันภูมิรัฐศาสตร์ 174