หนึ่งในประเด็นที่น่าฉุดคิดที่สุดของการประชุมคือการยืนยันว่า อาวุธอัตโนมัติที่ปฏิบัติการโดยปราศจาก การควบคุมจากมนุษย์ที่มีความหมาย ไม่ใช่ทฤษฎีอีกต่อไป — พวกมันปรากฏตัวแล้วในสนามรบทุกวันนี้ ในขณะที่เวทีแชงกรี-ลาเองก็ได้ผลักดันสารนี้ในการอภิปรายด้านกลาโหม ดร. วิเวียน บาลากริชนัน รัฐมนตรีต่างประเทศสิงคโปร์ ก็ได้สะท้อนคำเตือนเดียวกันในการอภิปรายของคณะมนตรีความมั่นคงแห่งสหประชาชาติเกี่ยวกับ AI และสันติภาพระหว่างประเทศ โดยระบุตรงๆว่า อาวุธปลิดชีพอัตโนมัติ "ไม่ใช่สิ่งที่เป็นไปได้อีกต่อไป" และในสงครามที่กำลังสู้รบกันอยู่ตอนนี้ "ความจริงก็คือ เพราะความเร่งด่วนในการระบุเป้าหมายจำนวนมากและจัดการกับมัน นิ้วมือของมนุษย์ แม้ในทุกวันนี้ ก็มักจะไม่ได้อยู่ที่ไกปืน เราจำเป็นต้องเอาต์ซอร์สมันให้กับระบบ AI"
อันตรายตามที่ถูกวางกรอบไว้ตลอดการประชุมนั้นมีสองชั้น ในระดับยุทธวิธี ระบบอัตโนมัติที่ตัดสินใจเรื่องความเป็นความตายโดยปราศจากการควบคุมของมนุษย์สามารถสร้างผลลัพธ์ที่คาดเดาไม่ได้ในสนามรบที่เปลี่ยนแปลงอย่างรวดเร็ว ในระดับยุทธศาสตร์ การนำวิจารณญาณของมนุษย์ออกจากการตัดสินใจโจมตีก่อให้เกิดความเสี่ยงต่อการยกระดับความรุนแรงอย่างรวดเร็วและแก้ไขไม่ได้ — ซึ่งเครื่องจักรสามารถยกระดับการปะทะเล็กน้อยเป็นความขัดแย้งใหญ่โตก่อนที่มนุษย์จะเข้าแทรกแซงได้ทัน ความกังวลนี้เชื่อมโยงโดยตรงกับความกลัวการยกระดับสู่นิวเคลียร์ที่ครอบงำการประชุมสุดยอดครั้งนี้
รัฐมนตรีกลาโหมเกาหลีใต้ อัน กยู-แบก ใช้การประชุมสุดยอดนี้เพื่อวางตำแหน่งให้โซลเป็นกำลังสำคัญในด้านกลาโหมที่เปิดใช้งาน AI โดยวางแนวคิด "กองทัพอัจฉริยะ" (Smart Military) อันทะเยอทะยานที่สร้างขึ้นจากระบบปัญญาประดิษฐ์ ระบบป้องกันและต่อต้านโดรน และแพลตฟอร์มอัตโนมัติ วิสัยทัศน์นี้ไม่ได้เป็นแค่สโลแกน แต่ได้รับการสนับสนุนจากความพยายามระดับชาติอย่างละเอียดในการฝัง AI ไว้ทั่วทั้งโครงสร้างกำลังรบของเกาหลีใต้:
เกาหลีใต้ยังได้รับบทบาทผู้นำทางการทูต ด้วยการเป็นเจ้าภาพการประชุมสุดยอดระดับนานาชาติในกรุงโซล เพื่อสร้าง "พิมพ์เขียวสำหรับการใช้ AI อย่างมีความรับผิดชอบในกองทัพ" โดยมีประเทศเข้าร่วมมากกว่า 90 ประเทศ รวมถึงสหรัฐฯ และจีน อย่างไรก็ตาม กรอบการทำงานใดๆ ที่เกิดขึ้นคาดว่าจะไม่มีผลผูกพันทางกฎหมาย และยังไม่ชัดเจนว่าในที่สุดจะมีกี่ประเทศที่จะให้การรับรอง แม้แต่มาตรฐานขั้นต่ำ
บทประเมินที่น่าตกใจที่สุดที่เกิดขึ้นอาจไม่ได้เกี่ยวกับ AI โดยตรง — แต่ศักยภาพของ AI ในการเร่งให้ความขัดแย้งไปสู่ระดับนิวเคลียร์คือหัวใจของคำเตือนที่แข็งกร้าวที่สุดของ IISS การศึกษาเฉพาะกิจที่เผยแพร่ระหว่างการประชุมสรุปว่า ความขัดแย้งทางทหารระหว่างสหรัฐฯ และจีนเหนือไต้หวันจะเสี่ยงต่อการยกระดับสู่นิวเคลียร์อย่างรวดเร็ว บทวิเคราะห์พบว่า ทั้งสองฝ่ายมีแนวโน้มที่จะเปิดปฏิบัติการกวาดล้างครั้งใหญ่โดยพุ่งเป้าไปที่ศูนย์บัญชาการ ควบคุม และการสื่อสารของอีกฝ่าย — สร้างแรงกดดันที่ทำให้สถานการณ์ไม่มั่นคงอย่างมหาศาลให้ต้องยกระดับไปสู่อาวุธนิวเคลียร์ก่อนที่จะสูญเสียขีดความสามารถในการประสานงาน
บทประเมินของ IISS เตือนอย่างตรงไปตรงมาว่า การปะทะกันด้วยอาวุธตามแบบเหนือไต้หวันอาจ "ปะทุกลายเป็นวิกฤตินิวเคลียร์อย่างรวดเร็ว" (rapidly snowball into a nuclear crisis) และโลก "อยู่บนปากเหวของการแข่งขันอาวุธนิวเคลียร์ครั้งใหม่" โดยมีภูมิภาคเอเชีย-แปซิฟิกเป็นแกนกลาง คำเตือนนี้ถูกสะท้อนในที่ประชุมโดย พีท เฮกเซธ รัฐมนตรีกระทรวงสงครามสหรัฐฯ ผู้ซึ่งเตือนว่า การโจมตีของจีนต่อไต้หวัน "อาจเกิดขึ้นได้ในเร็วๆนี้" (could be imminent) และเสริมสร้างท่าทีการป้องปรามของสหรัฐอเมริกา
ในทางกลับกัน ปักกิ่งได้ออกคำเตือนที่แข็งกร้าว โดยมีรายงานว่าผู้แทนจีน "เดือดดาล" กับการวางกรอบดังกล่าว
มิติทางนิวเคลียร์เชื่อมโยงกับเส้นเรื่องของ AI ด้วย: การบูรณาการระบบอัตโนมัติเข้ากับขีดความสามารถทางนิวเคลียร์หมายความว่า กรอบการควบคุมอาวุธแบบดั้งเดิมกำลังถูกแซงหน้า โดยไม่มีวิธีการควบคุมใดๆ ที่เป็นที่ยอมรับมาแทนที่
การประชุมสุดยอดครั้งนี้วาดภาพที่เร่งด่วนมากกว่าการประชุมครั้งก่อนๆ ใจความสำคัญที่สุดคือ AI ไม่ใช่ความกังวลของสงครามในอนาคตอีกต่อไป — มันกำลังเปลี่ยนรูปกรอบเวลาของความขัดแย้ง กำจัดวิจารณญาณของมนุษย์ออกจากการตัดสินใจปลิดชีพ และกัดเซาะแนวกันชนระหว่างการยกระดับความขัดแย้งแบบตามธรรมดากับแบบนิวเคลียร์อย่างแข็งขัน การผลักดัน "กองทัพอัจฉริยะ" ของเกาหลีใต้แสดงให้เห็นว่าประเทศมหาอำนาจขนาดกลางต่างเร่งรีบฝัง AI ก่อนที่กรอบการกำกับดูแลใดๆ จะเกิดขึ้น ในขณะที่บทประเมินความเสี่ยงนิวเคลียร์ของไต้หวันก็ตอกย้ำว่า จุดวาบไฟหลักของภูมิภาคนี้มีพลวัตการยกระดับที่ไม่มีโครงสร้างการควบคุมอาวุธใดในปัจจุบันถูกออกแบบมาให้รับมือ
สำหรับชุมชนด้านกลาโหมและสาธารณชน เวทีการประชุมนี้ทิ้งสารที่ชัดเจนไว้: AI ในสงครามกำลังวิ่งแซงหน้าทั้งการกำกับดูแลและหลักนิยมทางยุทธศาสตร์ และห้วงเวลาแห่งการสร้างขอบเขตได้คลาดผ่านไปแล้ว
Comments
0 comments