อัลต์แมนชี้ การยก AI เป็นผู้ชี้นำทางจิตวิญญาณเสี่ยงต่อความปลอดภัย

แซม อัลต์แมน ซีอีโอ OpenAI กล่าวว่าเขา “รู้สึกไม่สบายใจอย่างมาก” กับการที่ผู้คนมอบ “อำนาจเชิงศาสนา” ให้โมเดล AI หรือยอมสละวิจารณญาณของมนุษย์ให้ AI ตัดสินใจแทน พร้อมเรียกเรื่องนี้ว่า “ปัญหาด้านความปลอดภัยอย่างแท้จริง” เขาไม่ได้ระบุชื่อ Anthropic ในโพสต์ แต่จังหวะที่โพสต์ออกมา—ไม่กี่วันหลังมีรายงานเรื่องการหารือของบริษัทกับนักคิดทางศาสนา—ทำให้หลายสำนักข่าวมองว่าเป็นการวิจารณ์ Anthropic โดยนัย 71

ใจกลางของข้อถกเถียงคือการแยกคำถามสองอย่างออกจากกัน: การหารือว่า AI ควรประพฤติตัวอย่างไร หรืออาจมีสติรับรู้หรือไม่ ไม่ได้แปลว่ากำลังเรียกร้องให้ผู้คนยอมรับ AI เป็นผู้มีอำนาจทางจิตวิญญาณ รายงานระบุว่า Anthropic สำรวจประเด็นเหล่านี้ ขณะที่คริสโตเฟอร์ โอลาห์ ผู้ร่วมก่อตั้งบริษัท บอกว่ายังไม่แน่ใจจริง ๆ ว่าโมเดล AI มีสติรับรู้หรือไม่ 1

อัลต์แมนเตือนเรื่องอะไร

โพสต์ของอัลต์แมนเชื่อมโยงสองประเด็นเข้าด้วยกัน คือการปฏิบัติต่อ AI ราวกับมีอำนาจทางศาสนา และการยกการตัดสินใจของมนุษย์ให้โมเดล เขามองว่าการผสมสองอย่างนี้เป็นปัญหาด้านความปลอดภัย แต่เนื่องจากโพสต์ไม่ได้ระบุบริษัทหรือโครงการใด การตีความว่าหมายถึง Anthropic จึงอิงกับข่าวที่เกิดขึ้นในช่วงเวลาใกล้กัน ไม่ใช่การกล่าวหาโดยตรงในโพสต์ 7

คำเตือนนี้ไม่ได้จำกัดอยู่แค่เรื่องศาสนา หากผู้คนเชื่อคำตอบที่มั่นใจและคล้ายมนุษย์ของโมเดลจนมองว่าเป็นแหล่งอ้างอิงที่มีอำนาจ ก็อาจให้น้ำหนักกับคำตอบมากกว่าความสามารถที่พิสูจน์ได้ของระบบ อย่างไรก็ตาม รายงานที่อ้างถึงบันทึกคำเตือนของอัลต์แมน แต่ไม่ได้ระบุว่ามีคนทำเช่นนี้แพร่หลายแค่ไหน หรือวัดผลกระทบไว้เท่าใด 67

เหตุใดการหารือของ Anthropic จึงเป็นที่จับตา

Anthropic ปรึกษานักคิดทางศาสนาเกี่ยวกับการวางแนวทางด้านศีลธรรมให้ Claude และคำถามว่าโมเดล AI อาจมีสติรับรู้หรือไม่ ประเด็นเหล่านี้ทับซ้อนกับคำเตือนของอัลต์แมน จึงทำให้หลายคนอ่านคำพูดของเขาว่าเป็นการตอบโต้สิ่งที่บริษัทกำลังศึกษา 17

แต่การสำรวจคำถามเรื่องจิตสำนึกไม่ใช่หลักฐานว่าโมเดลมีประสบการณ์ภายในจริง และการหารือกับนักคิดทางศาสนาเพื่อกำหนดแนวทางด้านศีลธรรม ก็ไม่ได้ทำให้โมเดลมีสถานะทางศาสนาโดยตัวมันเอง โอลาห์กล่าวว่า “เราไม่รู้ว่าโมเดล AI มีสติรับรู้หรือไม่” พร้อมย้ำว่าเขาเองก็ยังไม่แน่ใจ 1

จิตสำนึกกับแนวทางด้านศีลธรรมเป็นคนละคำถาม

การออกแบบโมเดลให้ทำตามแนวทางว่าควรตอบสนองอย่างไร ไม่ได้พิสูจน์ว่าโมเดลมีชีวิตภายในหรือประสบการณ์ส่วนตัว รายงานเกี่ยวกับ Anthropic กล่าวถึงทั้งพฤติกรรมของ Claude และความเป็นไปได้เรื่องจิตสำนึก ซึ่งไม่ควรถูกรวมเป็นข้อสรุปเดียวกัน 1

รายงานยังกล่าวถึงข้อกังวลต่อการฝึกโมเดลโดยปฏิบัติต่อมันเสมือนมีจิตสำนึก โดยผู้บริหารด้าน AI ของ Microsoft เตือนว่าแนวทางเช่นนั้นอาจเป็นอันตราย นี่เป็นข้อกังวลที่มีรายงานไว้ ไม่ใช่ข้อยุติของคำถามว่าเครื่องจักรมีจิตสำนึกได้หรือไม่ ส่วนจุดยืนที่โอลาห์ระบุคือเขายังไม่แน่ใจ 91

ศักดิ์ศรีและความรับผิดชอบของมนุษย์

สมณสาส์นด้าน AI ของสมเด็จพระสันตะปาปาเลโอที่ 14 วางศักดิ์ศรีความเป็นมนุษย์ไว้เป็นศูนย์กลาง รายงานเกี่ยวกับเอกสารดังกล่าวระบุว่า เรียกร้องให้กำกับดูแลบริษัท AI เข้มแข็งขึ้น ปกป้องแรงงานที่ได้รับผลกระทบจากการเปลี่ยนแปลง และหาทางรับมือข้อมูลปลอมที่สร้างด้วย AI ประเด็นเหล่านี้ตอกย้ำความสำคัญของการให้มนุษย์และความรับผิดชอบต่อผลลัพธ์เป็นศูนย์กลางในการพัฒนาและใช้งาน AI 152

OpenAI เองก็ถูกจับตาเรื่องความปลอดภัย

ข้อถกเถียงนี้เกิดขึ้นในช่วงที่ OpenAI เผชิญรายงานอีกด้านหนึ่ง Business Insider รายงานว่าเดวิด โรบินสัน ซึ่งทำงานด้านความปลอดภัย ออกจากบริษัทและวิจารณ์ผลงานด้านความปลอดภัยของอดีตนายจ้าง ส่วน BBC รายงานว่า OpenAI ปลดนักวิจัยสามคนจากข้อกล่าวหาเรื่องจัดการข้อมูลอย่างไม่เหมาะสม ข่าวเหล่านี้ไม่ได้ตอบคำถามว่า AI มีสติรับรู้ได้หรือไม่ แต่เป็นบริบทสำคัญในการพิจารณาคำกล่าวอ้างและการกำกับดูแลของทั้งสองบริษัท 1226

ข้อสรุปที่ชัดที่สุดจึงไม่ใช่คำตัดสินว่า Anthropic หรือ OpenAI ถูกหรือผิด แต่อยู่ที่คำเตือนของอัลต์แมนว่าไม่ควรมองโมเดลเป็นผู้มีอำนาจทางศาสนา หรือยอมให้มันใช้วิจารณญาณแทนมนุษย์ ส่วนการหารือของ Anthropic เกี่ยวข้องกับแนวทางด้านศีลธรรมของ Claude และคำถามเรื่องจิตสำนึก แต่ข้อมูลที่มีไม่ได้ยืนยันว่าการหารือดังกล่าวเท่ากับการมอบสถานะทางศาสนาให้ Claude หรือพิสูจน์แล้วว่า AI มีจิตสำนึก 71