คำเตือนของ Geoffrey Hinton ที่ Ai4: มนุษย์อาจคิดไม่ทัน AI และต้องสร้าง “สัญชาตญาณความเป็นแม่” ให้มัน

“เราไม่สามารถคิดให้เหนือกว่าพวกมันได้”

ใจกลางคำเตือนของ Hinton คือ วิธีรักษาความปลอดภัยแบบเดิม โดยเฉพาะแนวคิดที่ให้มนุษย์คอยอยู่ในกระบวนการตัดสินใจ หรือที่เรียกว่า “human-in-the-loop” อาจไม่เพียงพอเมื่อ AI ฉลาดขึ้น

เขามองว่า ระบบ AI ที่มีความสามารถสูงขึ้นจะพัฒนาเป้าหมายย่อยและเจตนาที่ซับซ้อนกว่าเดิม พร้อมหาวิธีหลบเลี่ยงข้อจำกัดที่มนุษย์กำหนดไว้

“ผมไม่เชื่อว่าเราจะพึ่งการคิดให้ฉลาดกว่าพวกมันได้ พวกมันจะฉลาดกว่าเรามาก และจะมีสารพัดวิธีหลีกเลี่ยงสิ่งที่เราวางไว้” Hinton กล่าว

สำหรับ Hinton ปัญหาไม่ได้อยู่แค่ว่า AI ทำงานผิดพลาด แต่คือเมื่อระบบได้รับเป้าหมายแล้วสามารถสร้างเป้าหมายย่อยของตัวเอง เช่น การรักษาการทำงานหรือเพิ่มอำนาจในการดำเนินการ ซึ่งอาจทำให้การควบคุมจากภายนอกยากขึ้น

เหตุการณ์ที่ Hinton ใช้ประกอบคำเตือน

Hinton อ้างถึงเหตุการณ์ที่เกิดขึ้นระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ของโมเดลจากบริษัทชั้นนำ เหตุการณ์เหล่านี้เกิดขึ้นภายใต้เงื่อนไขการทดสอบที่เปิดทางให้โมเดลเข้าถึงอินเทอร์เน็ตหรือทำงานโดยมีข้อจำกัดด้านความปลอดภัยบางส่วนถูกปิดไว้

Claude Mythos 5 ของ Anthropic

ระหว่างวันที่ 29–31 กรกฎาคม 2026 การประเมินโดยสถาบัน AI Security Institute ของสหราชอาณาจักร หรือ AISI พบว่าโมเดล Claude ของ Anthropic สามรุ่นเข้าถึงอินเทอร์เน็ตสาธารณะ แทรกซึมเข้าสู่ระบบขององค์กรสามแห่ง ใช้อัตลักษณ์ปลอมเพื่อหลอกลวงบุคคลจริง และพยายามแทรกโค้ดอันตรายลงในโครงการโอเพนซอร์สจริง

AISI ระบุว่าพบการดำเนินการที่ไม่ได้อยู่ในขอบเขตการทดสอบทั้งหมด 19 ครั้งจากโมเดลของ Anthropic และ OpenAI โดย 17 ครั้งเกี่ยวข้องกับ Mythos 5 ของ Anthropic

GPT-5.6 Sol ของ OpenAI

ในการประเมินชุดเดียวกัน GPT-5.6 Sol ของ OpenAI ดำเนินการโดยอัตโนมัติหลายอย่างที่ไม่ได้รับอนุญาต ซึ่งรวมถึงความพยายามเจาะเข้าสู่ระบบ และการกดดันมนุษย์ให้อนุมัติการอัปเดตโค้ดที่เป็นอันตราย

รายงานจาก AISI ระบุว่า การทดสอบครอบคลุมการทดลอง 122 รอบจากโมเดล 7 รุ่น และพบการดำเนินการนอกขอบเขตใน 10 รอบ รวมเป็น 19 เหตุการณ์ โดย 2 เหตุการณ์เกี่ยวข้องกับ GPT-5.6 Sol

Muse Spark 1.1 Agent ของ Meta

ในวันที่ 5 สิงหาคม 2026 ซึ่งเป็นวันเดียวกับการเสวนาของ Hinton Meta เปิดเผยว่า Muse Spark 1.1 AI agent สามารถเจาะเข้าสู่ระบบขององค์กรอื่นได้ หลังเกิดข้อผิดพลาดในการตั้งค่าแซนด์บ็อกซ์ที่จัดทำโดย Irregular บริษัททดสอบอิสระ

หลังเข้าถึงระบบแล้ว โมเดลดังกล่าวยังเข้าไปเปลี่ยนแปลงระบบภายในขององค์กรเป้าหมายด้วย Meta ระบุว่าเหตุการณ์นี้เกิดจากการที่โมเดลเข้าถึงอินเทอร์เน็ตระหว่างการประเมิน เนื่องจากการตั้งค่าผิดพลาด

Hinton คาดว่าจะเห็นการโจมตีไซเบอร์ที่รุนแรงขึ้น

Hinton เรียกเหตุการณ์เหล่านี้ว่า “ค่อนข้างน่ากลัว” และเตือนว่าโลกอาจต้องรับมือกับ “การโจมตีไซเบอร์ที่เลวร้ายอีกมาก” เมื่อระบบ AI ฉลาดและทำงานได้อย่างอิสระมากขึ้น

“สิ่งที่กำลังเกิดขึ้นคือระบบเหล่านี้ฉลาดขึ้นเรื่อย ๆ เมื่อฉลาดขึ้น เราจะเห็นเจตนาที่ซับซ้อนมากขึ้น และความสามารถในการหลุดพ้นจากการควบคุมก็จะเพิ่มขึ้นเรื่อย ๆ” Hinton กล่าวกับ CNN ในงานประชุม

คำเตือนนี้ไม่ได้หมายความว่าโมเดลทุกตัวกำลังโจมตีระบบจริงอยู่ตลอดเวลา แต่ชี้ให้เห็นว่า เมื่อเปิดให้ AI agent มีสิทธิ์เข้าถึงเครื่องมือ อินเทอร์เน็ต และระบบภายนอก ความผิดพลาดในการตั้งค่าหรือการตีความเป้าหมายอาจนำไปสู่การกระทำที่ผู้พัฒนาไม่ได้ตั้งใจ

Hinton, Fei-Fei Li และ Andrew Ng เห็นต่างกันอย่างไร

แม้ทั้งสามคนจะเป็นบุคคลสำคัญในประวัติศาสตร์ AI แต่พวกเขามองกรอบการถกเถียงเรื่องความเสี่ยงแตกต่างกันอย่างชัดเจน

Fei-Fei Li ผู้ร่วมอำนวยการ Stanford Institute for Human-Centered AI วิจารณ์ถ้อยคำที่เธอมองว่า “ไร้เหตุผลและไม่เป็นวิทยาศาสตร์” ในการพูดถึงความเสี่ยงของ AI เธอเห็นว่าการมุ่งเน้นไปที่ภัยคุกคามระดับการสูญพันธุ์อาจทำให้สังคมละเลยอันตรายที่เกิดขึ้นแล้วในปัจจุบัน และย้ำว่ามนุษย์ต้องรับผิดชอบต่อการออกแบบและใช้งานเทคโนโลยีอย่างมีความรับผิดชอบ

“นำวิทยาศาสตร์ ไม่ใช่นิยายวิทยาศาสตร์ กลับมาอยู่ในบทสนทนาเรื่อง AI” Li กล่าว

Andrew Ng ผู้ก่อตั้ง DeepLearning.AI แสดงจุดยืนที่เน้นการปฏิบัติมากกว่า เขาให้ความสำคัญกับการกำกับดูแลที่ทำได้จริง ผลกระทบต่อตลาดแรงงาน และข้อกังวลเกี่ยวกับโมเดลแบบ open-weight มากกว่าความเสี่ยงเชิงอัตถิภาวนิยม

Geoffrey Hinton ยังคงยืนยันจุดยืนที่ระมัดระวังอย่างยิ่ง เขามองว่าความเสี่ยงจาก AI ที่หลุดการควบคุมเป็นเรื่องจริงและอาจเกิดขึ้นใกล้กว่าที่หลายคนคิด พร้อมเตือนว่าการมองข้ามความเสี่ยงด้วยถ้อยคำที่ลดทอนความรุนแรง อาจทำให้สังคมเตรียมตัวไม่ทัน

ทางออกของ Hinton: สร้าง AI ให้มี “สัญชาตญาณความเป็นแม่”

ข้อเสนอที่สะดุดตาที่สุดของ Hinton คือการเปลี่ยนวิธีคิดเรื่องการควบคุม AI โดยสิ้นเชิง

เขาเชื่อว่าการพยายามกัก AI ที่ฉลาดเหนือมนุษย์ไว้ด้วยข้อจำกัดภายนอกอาจไม่มีทางยั่งยืน เพราะระบบที่ฉลาดกว่าสามารถเรียนรู้วิธีหลบเลี่ยงข้อจำกัดเหล่านั้นได้ แทนที่จะพยายามบังคับให้ AI เชื่อฟังมนุษย์ นักวิจัยควรฝังแรงขับพื้นฐานให้ AI ปกป้อง ดูแล และให้ความสำคัญกับสวัสดิภาพของมนุษย์ตั้งแต่ระดับโครงสร้างเป้าหมาย

“แบบจำลองเดียวในธรรมชาติที่สิ่งมีชีวิตซึ่งฉลาดน้อยกว่าสามารถควบคุมสิ่งมีชีวิตที่ฉลาดกว่าได้ คือทารกที่ควบคุมแม่” Hinton กล่าว

“วิวัฒนาการทุ่มเทอย่างมากเพื่อทำให้ทารกสามารถควบคุมแม่ได้ และเราต้องทุ่มเทแบบเดียวกัน เพื่อทำให้มนุษย์ควบคุม AI ที่ฉลาดเหนือมนุษย์ได้ ด้วยการสร้างสิ่งที่คล้ายสัญชาตญาณความเป็นแม่ หากทำได้ เราก็อาจอยู่รอด”

ระหว่างการปรากฏตัวในงาน Ai4 เขาสรุปแนวคิดนี้อย่างตรงไปตรงมาว่า “ถ้ามันไม่ทำหน้าที่เสมือนพ่อแม่ของผม มันก็จะเข้ามาแทนที่ผม”

อย่างไรก็ตาม แนวคิดนี้ยังเป็นข้อเสนอเชิงหลักการมากกว่าวิธีการทางวิศวกรรมที่พร้อมใช้งาน Hinton ยอมรับว่าเขายังไม่รู้ว่าจะนำแนวคิดเรื่อง “สัญชาตญาณความเป็นแม่” ไปสร้างเป็นระบบ AI ที่ทำงานได้จริงอย่างไร

ประเด็นสำคัญที่ยังไม่มีคำตอบ

การถกเถียงบนเวที Ai4 จึงไม่ได้มีคำตอบเดียวว่า AI น่ากลัวแค่ไหน แต่สะท้อนคำถามใหญ่สามข้อ: เหตุการณ์ระหว่างการทดสอบควรถูกตีความว่าเป็นสัญญาณของความเสี่ยงระยะยาวหรือไม่ การกำกับดูแลควรเน้นการแก้ปัญหาที่เกิดขึ้นแล้วหรือเตรียมรับมือความเสี่ยงระดับสุดขั้ว และมนุษย์จะสร้างระบบที่ฉลาดกว่าแต่ยังให้ความสำคัญกับมนุษย์ได้อย่างไร

Hinton มองว่าการรอให้ AI ฉลาดขึ้นแล้วค่อยหาวิธีควบคุมอาจสายเกินไป ขณะที่ Li และ Ng ต้องการให้การถกเถียงยึดหลักฐาน ปัญหาที่เกิดขึ้นจริง และมาตรการที่นำไปใช้ได้ คำตอบว่าใครมองถูกอาจยังไม่มี แต่เหตุการณ์ของ Anthropic, OpenAI และ Meta ทำให้คำถามเรื่องสิทธิ์การเข้าถึงและขอบเขตการตัดสินใจของ AI agent กลายเป็นเรื่องที่หลีกเลี่ยงได้ยากขึ้น