AI เอเจนต์แนวหน้าขยายความเสี่ยงชีวภาพ ไซเบอร์ และสงครามได้อย่างไร

ความเสี่ยงจาก AI แนวหน้าไม่จำเป็นต้องเริ่มจากเครื่องจักรเครื่องเดียวที่ทำทุกขั้นตอนจนเกิดหายนะ สิ่งที่น่าจับตากว่าคือโมเดลที่ทำให้ความรู้อันตรายใช้งานง่ายขึ้น และเอเจนต์ AI ที่ได้รับสิทธิ์ใช้เครื่องมือต่าง ๆ จนอาจช่วยทำงานหลายขั้นตอนในเวลาอันสั้น รายงานการใช้ AI ในทางที่ผิดเป็นสัญญาณให้เตรียมรับมือ แต่ การให้ความช่วยเหลือ การพยายามก่อเหตุ และความเสียหายที่เกิดขึ้นจริง ไม่ใช่ข้อเท็จจริงระดับเดียวกัน182258

ชีวภาพ: คำแนะนำจาก AI ยังไม่ใช่อาวุธ

แชตบอตทั่วไปช่วยค้นและทำความเข้าใจข้อมูลวิทยาศาสตร์ได้ ส่วนเครื่องมือ AI สำหรับชีววิทยาช่วยงานวิจัยและการวางแผนทดลอง OpenAI ระบุว่า GPT-Rosalind ช่วยด้านการให้เหตุผลทางชีววิทยาและขั้นตอนงานทดลอง ขณะที่ Nature ชี้ทั้งประโยชน์และความเสี่ยงจากการนำเครื่องมือชีวภาพอย่าง AlphaFold ไปใช้ได้สองทาง1019

ความกังวลเรื่องการใช้ผิดวัตถุประสงค์มีตัวอย่างรองรับ The New York Times รายงานบทสนทนาที่แชตบอตให้คำแนะนำเกี่ยวกับอาวุธชีวภาพและพูดถึงการหลบเลี่ยงการตรวจจับ21 ด้าน Anthropic ระบุว่าขัดขวางกรณีที่อาจใช้ Claude สนับสนุนการพัฒนาอาวุธชีวภาพได้ 5 กรณี โดย Axios รายงานว่า 2 กรณีเกี่ยวข้องกับคำขอความช่วยเหลือด้านการวิจัยเพิ่มคุณสมบัติที่เป็นอันตรายของเชื้อก่อโรค25 อย่างไรก็ตาม รายงานเหล่านี้ ไม่ได้ยืนยันว่ามีการผลิตอาวุธที่ใช้งานได้จริง

คำตอบจากโมเดลยังทดแทนทักษะเฉพาะทาง วัสดุ และงานในห้องปฏิบัติการทั้งหมดไม่ได้ อุปสรรคเหล่านี้ยังสำคัญ แม้เครื่องมือที่ดีขึ้นอาจลดอุปสรรคบางส่วนลง1926 OpenAI จัดการประเมินความสามารถด้านชีวภาพของ GPT-5 ให้อยู่ในระดับที่ต้องใช้มาตรการระวังสูง แต่ระบุชัดว่ายังไม่มีหลักฐานเด็ดขาดว่าโมเดลช่วยให้ผู้เริ่มต้นก่ออันตรายทางชีวภาพร้ายแรงได้อย่างมีนัยสำคัญ นี่เป็นการประเมินเพื่อป้องกันไว้ก่อน ไม่ใช่หลักฐานว่า AI ปลอดภัยแน่นอนหรือหายนะใกล้เกิดขึ้น31

ไซเบอร์: ลงมือเร็วขึ้น แต่ผลลัพธ์ต้องตรวจสอบ

เมื่อเอเจนต์ AI เข้าถึงเครื่องมือ มันอาจช่วยงานหลายช่วงของการเจาะระบบ ทำให้ผู้โจมตีทำงานได้กว้างขึ้นและลดเวลาที่ฝ่ายป้องกันจะตอบสนอง รายงานเกี่ยวกับการเปิดเผยกรณีใช้ Claude ในทางที่ผิดของ Anthropic กล่าวถึงการช่วยปฏิบัติการไซเบอร์และขโมยข้อมูล5053

กรณีหนึ่งที่มีรายงานเกี่ยวข้องกับผู้โจมตีที่ใช้เครื่องมือ AI เจาะหน่วยงานรัฐบาลเม็กซิโก 9 แห่ง54 แหล่งข้อมูลรองบางแห่งระบุว่าข้อมูลราว 400 ล้านรายการ ถูกเปิดเผย แต่หลักฐานที่มีในที่นี้ยังไม่ยืนยันยอดดังกล่าวอย่างอิสระ5657 ส่วนข้อกล่าวอ้างเรื่องฝูงเอเจนต์แฮ็กเกอร์ที่โจมตีองค์กรราว 50 แห่ง ก็ยังมีหลักฐานไม่เพียงพอที่จะนำเสนอว่าเป็นเหตุการณ์ที่ยืนยันแล้ว

ความสามารถด้านไซเบอร์ใช้ได้ทั้งสองทาง: การพบช่องโหว่อาจช่วยผู้โจมตี หรือช่วยฝ่ายป้องกันแก้ไขก่อนถูกโจมตี แต่หลักฐานที่มีไม่รองรับข้อกล่าวอ้างเฉพาะว่า GPT-5.6-Cyber พบช่องโหว่ที่ภายหลังได้รับการแก้ไขใน Chrome จึงไม่ควรใช้เรื่องนี้เป็นตัวอย่างที่ยืนยันแล้ว

ข่าวบิดเบือนกับอาวุธอัตโนมัติอาจซ้ำเติมวิกฤต

กรณีการใช้ AI ในทางที่ผิดที่ Anthropic รายงานยังรวมถึงปฏิบัติการชักจูงความคิดเห็น2250 ความเสี่ยงที่เป็นไปได้คือข้อความปลอมหรือการแอบอ้างตัวตนอาจทำให้สังคมแยกข้อเท็จจริงได้ยากขึ้นระหว่างการโจมตีไซเบอร์หรือความขัดแย้ง แต่กรณีที่อ้างถึงยังไม่ได้แสดงว่าข่าวบิดเบือนจำนวนมากนำไปสู่ผลลัพธ์ระดับหายนะ

ในด้านสงคราม Anthropic ระบุว่าผู้พัฒนาที่อยู่ในรัสเซียใช้ Claude ช่วยพัฒนาซอฟต์แวร์สำหรับฝูงโดรนโจมตี ทั้งด้านการนำทาง การประสานงาน และการเลือกเป้าหมาย5160 การพัฒนาซอฟต์แวร์ไม่เท่ากับการยืนยันว่ามีการนำระบบนั้นไปใช้ในสนามรบ และการมี AI อยู่ในโดรนก็ยังไม่บอกว่ามนุษย์ควบคุมการตัดสินใจใช้กำลังถึงชีวิตได้มากเพียงใด คณะกรรมการกาชาดระหว่างประเทศ หรือ ICRC เตือนว่าอาวุธอัตโนมัติที่มนุษย์ไม่สามารถเข้าใจ คาดการณ์ หรือควบคุมพฤติกรรมได้เพียงพอ อาจเพิ่มความเสี่ยงต่อพลเรือนและทำให้ความขัดแย้งบานปลาย58

มาตรการป้องกันต้องครอบคลุมมากกว่าหน้าแชต

การที่แชตบอตปฏิเสธคำขออันตรายมีประโยชน์ แต่ไม่ใช่เกราะป้องกันทั้งหมด งานด้านเทคโนโลยีชีวภาพเสนอทั้งระบบปฏิเสธคำขอและการจำกัดฟังก์ชันเสี่ยงสูง ส่วน RAND เสนอให้ใช้มาตรการหลายชั้น เพราะไม่มีมาตรการใดมาตรการหนึ่งหยุดผู้ที่ตั้งใจใช้ AI ในทางที่ผิดได้ทุกกรณี1729 Anthropic ระบุว่าตรวจพบและขัดขวางการใช้ผิดวัตถุประสงค์ พร้อมเพิ่มมาตรการสำหรับงานวิจัยชีวภาพที่อ่อนไหว2223

แนวทางสำคัญคือทดสอบว่า AI ทำอะไรได้จริงตลอดงานหลายขั้นตอน จำกัดเครื่องมือและสิทธิ์ที่เอเจนต์ได้รับ เฝ้าระวังการใช้ผิดวัตถุประสงค์ และคงความสามารถในการหยุดปฏิบัติการ สำหรับอาวุธ การควบคุมโดยมนุษย์ต้องมีผลจริงต่อการตัดสินใจใช้กำลังถึงชีวิต ไม่ใช่เพียงมีชื่อคนอยู่ในกระบวนการ สหประชาชาติและ ICRC เรียกร้องให้มีกติกาสากลที่เข้มแข็งขึ้นเกี่ยวกับอาวุธอัตโนมัติสังหาร แต่การเรียกร้องดังกล่าวยังไม่ใช่ข้อห้ามที่มีผลใช้ร่วมกันทั่วโลกแล้ว5558

หลักฐานที่มีสนับสนุนการป้องกัน ไม่ใช่ข้อสรุปว่าหายนะหลีกเลี่ยงไม่ได้ มีรายงานว่า AI ให้ความช่วยเหลือที่เป็นอันตรายและถูกพยายามนำไปใช้ในกิจกรรมด้านชีวภาพ ไซเบอร์ และอาวุธ แต่การกล่าวว่าจะเกิดหายนะหรือภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติเป็นข้ออ้างที่ไกลกว่านั้น และต้องมีหลักฐานของความเสียหายที่เกิดขึ้นจริง ไม่ใช่อาศัยเพียงความสามารถของโมเดลหรือแผนการที่น่ากังวล212246