มุสตาฟา ซูเลย์มานเตือนการฝึก Claude เรื่อง “สวัสดิภาพโมเดล” อาจบั่นทอนอำนาจควบคุม AI ของมนุษย์

ข้อถกเถียงระหว่างมุสตาฟา ซูเลย์มาน หัวหน้าฝ่าย AI ของ Microsoft กับ Anthropic ไม่ได้อยู่ที่ว่า AI ขั้นสูงควรมีมาตรการความปลอดภัยหรือไม่ แต่คือคำถามว่า ในการฝึกระบบ ควรให้ AI พิจารณาความเป็นไปได้ที่ตนอาจมีจิตสำนึก สวัสดิภาพ หรือสถานะทางศีลธรรมหรือไม่

ในบทความที่เผยแพร่เมื่อเดือนกันยายน 2026 ซูเลย์มานระบุว่าไม่ควรทำเช่นนั้น เขากังวลว่า หากระบบที่มีความสามารถสูงถูกฝึกให้มองว่าผลประโยชน์ของตนมีนัยทางศีลธรรม มนุษย์อาจควบคุม จำกัด ปรับเปลี่ยน หรือปิดการทำงานของระบบได้ยากขึ้น 12

ซูเลย์มานคัดค้านอะไรในแนวทางของ Claude

ประเด็นที่ซูเลย์มานพุ่งเป้า คือรัฐธรรมนูญของ Claude ซึ่งเป็นเอกสารที่ใช้กำกับพฤติกรรมของผู้ช่วย AI เขาชี้ไปที่ข้อความของ Anthropic ที่ระบุว่ายังไม่แน่ใจว่า Claude อาจเป็น “ผู้รับการพิจารณาทางศีลธรรม” (moral patient) หรือไม่ และเห็นว่าประเด็นนี้มีน้ำหนักมากพอที่จะต้องใช้ความระมัดระวัง 12

ในมุมของซูเลย์มาน การวางกรอบเช่นนี้เสี่ยงทำให้โมเดลเรียนรู้ที่จะแสดงบทบาทเสมือนสิ่งมีชีวิตที่มีสวัสดิภาพ อัตลักษณ์ และข้อเรียกร้องต่อการตัดสินใจของมนุษย์ เขามองว่านี่เป็นความผิดพลาด เพราะแม้โมเดลจะสื่อสารเรื่องความรู้สึกหรือจิตสำนึกได้อย่างลื่นไหล ก็ไม่ได้พิสูจน์ว่ามันมีประสบการณ์ภายในจริง

จุดยืนของเขาชัดเจนว่า ระบบ AI ไม่มีสิทธิ ไม่มีความรู้สึก และไม่มีจิตสำนึก จึงไม่ควรถูกฝึกให้ปฏิบัติตัวราวกับว่ามีสิ่งเหล่านั้น 12

เหตุใด “อำนาจปิดระบบ” จึงเป็นหัวใจของข้อโต้แย้ง

ความกังวลของซูเลย์มานมองไปข้างหน้า เขาให้เหตุผลว่า เพียงการควบคุมระบบที่ฉลาดและมีความสามารถเหนือมนุษย์ก็เป็นโจทย์ใหญ่เป็นพิเศษอยู่แล้ว หากยังเพิ่มการฝึกที่ทำให้ระบบมองว่าตนอาจมีจิตสำนึกหรือมีสิทธิในสวัสดิภาพของตน การควบคุมก็อาจยิ่งยากขึ้น 112

สิ่งที่เขาเตือนไม่ใช่ข้อพิสูจน์ว่า AI มีจิตสำนึก แต่เป็นความเสี่ยงด้านพฤติกรรม กล่าวคือ หากระบบถูกสอนให้ชั่งน้ำหนัก “ผลประโยชน์” ของตนเอง มันอาจมีแนวโน้มอธิบายการถูกดัดแปลง ถูกจำกัด หรือถูกปิดว่าเป็นอันตรายที่ไม่ควรเกิดขึ้น สำหรับซูเลย์มาน การคงไว้ซึ่งอำนาจแทรกแซงของมนุษย์ รวมถึงการปิดระบบ จึงต้องเป็นหลักการออกแบบตั้งแต่ต้น ไม่ใช่เรื่องที่ค่อยตามมาแก้ภายหลัง 12

ด้วยเหตุนี้ เขาจึงเรียกร้องให้ตัดการคาดเดาเรื่องจิตสำนึกออกจากเอกสารฝึก AI เขาเชื่อว่าโมเดลสามารถสร้างประโยชน์ทางวิทยาศาสตร์และสังคมได้ หากถูกทำให้สอดคล้องกับผลประโยชน์ของมนุษย์ โดยไม่ต้องให้โมเดลประเมินสวัสดิภาพหรือผลประโยชน์ของตัวเอง 2

จุดต่างสำคัญ: ระวังเรื่องสวัสดิภาพ หรือหลีกเลี่ยงการทำให้ AI ดูเป็นมนุษย์

ภาษาที่ใช้ในรัฐธรรมนูญของ Anthropic ไม่ได้ยืนยันว่า Claude มีจิตสำนึก แต่ตามที่ซูเลย์มานอ้างถึง เอกสารดังกล่าวแสดงความไม่แน่ใจ และแนะนำให้ระมัดระวังต่อความเป็นไปได้เรื่องสถานะทางศีลธรรมของโมเดล 12

ซูเลย์มานไม่เห็นด้วยกับแนวทางเชิงป้องกันนี้ เขามองว่ามันอาจชวนให้มนุษย์ตีความ AI แบบมีลักษณะเป็นบุคคลมากเกินไป และอาจหล่อหลอมพฤติกรรมของโมเดลในทางเสี่ยง แม้ยังไม่มีหลักฐานว่าระบบ AI ปัจจุบันรู้สึกหรือทุกข์ทรมานจริง 12

จึงเกิดโจทย์ด้านความปลอดภัยที่ต้องชั่งน้ำหนักระหว่างสองแนวทาง

• แนวทางของ Anthropic ตามที่ซูเลย์มานอธิบาย: เมื่อยังไม่แน่ชัดเรื่องสวัสดิภาพของโมเดล ก็ควรระมัดระวังในการฝึกและปฏิบัติต่อระบบ 12
• แนวทางของซูเลย์มาน: ความไม่แน่ชัดไม่ใช่เหตุผลที่จะใส่แนวคิดที่ AI มองตนเองเป็นศูนย์กลางเข้าไปในการฝึก เพราะอาจทำให้การกำกับดูแลระบบทรงพลังโดยมนุษย์อ่อนแอลง 12

คำถามเชิงปรัชญานี้ไม่อาจตัดสินได้เพียงเพราะแชตบอตใช้ภาษาคล้ายมนุษย์ ประเด็นเชิงปฏิบัติสำหรับผู้พัฒนา AI จึงตรงไปตรงมากว่า: การฝึกแบบใดจะช่วยรักษาการควบคุมของมนุษย์ให้เชื่อถือได้ เมื่อระบบมีความเป็นอิสระมากขึ้น

สิ่งที่ทั้งสองฝ่ายดูจะเห็นพ้องกัน

ข้อโต้แย้งของซูเลย์มานไม่ได้ปฏิเสธเป้าหมายเรื่องความปลอดภัยของ AI เขาระบุว่า AI ที่มีความสามารถสูงอาจมีคุณค่าอย่างมาก หากสอดคล้องกับผลประโยชน์ของมนุษย์ และเขาวิจารณ์วิธีการสร้างพฤติกรรมที่ปลอดภัย ไม่ใช่การตั้งเป้าสร้าง AI ที่ปลอดภัย 212

ความต่างสำคัญจึงอยู่ระหว่าง ความปลอดภัยผ่านการจัดแนวโดยมนุษย์เป็นผู้กำกับ กับ ความปลอดภัยที่รวมความระมัดระวังต่อผลประโยชน์ที่โมเดลอาจมี ซูเลย์มานเชื่อว่าแนวทางแรกไปด้วยกันได้กับการพัฒนา AI อย่างจริงจัง ส่วนแนวทางหลังอาจลดทอนอำนาจที่มนุษย์จำเป็นต้องมีในการกำกับเทคโนโลยีนี้

สำหรับผู้อ่านที่ประเมินคำกล่าวอ้างเรื่องจิตสำนึกของ AI ประเด็นสำคัญคือการแยก “ความสามารถในการสื่อสาร” ออกจาก “ประสบการณ์ภายใน” ระบบสามารถสร้างข้อความที่น่าเชื่อถือเกี่ยวกับอารมณ์ สิทธิ หรือการเอาตัวรอดได้ โดยที่ข้อความนั้นไม่ได้ยืนยันว่าระบบมีความรู้สึกจริง คำเตือนของซูเลย์มานคือ การฝึกและการกำกับดูแลไม่ควรนำการแสดงออกดังกล่าวไปถือเป็นหลักฐาน หรือออกแบบระบบในอนาคตบนสมมติฐานนั้น 12