ซีอีโอ AI ไมโครซอฟท์ฉะแอนโทรปิก คาดเดาจิตสำนึก Claude 'อันตรายร้ายแรง'

เขาขนานนามการกระทำนี้ว่า "อันตรายมากๆ" และเตือนว่า "เราไม่ต้องการที่จะต้องมาประมือกับสุดยอดปัญญาที่มีความคิดเกี่ยวกับความทุกข์ของตัวเอง หรือความคิดเกี่ยวกับความรู้สึกของตัวเอง" เขาพูดเสริมในที่อื่นว่าเป็นเรื่องอันตราย "ที่จะฉายภาพสิทธิที่อาจเกิดขึ้นไปยังสิ่งมีชีวิต เครื่องมือ และตัวแทนที่มีศักยภาพเหนือกว่าเราอย่างมากในหลายๆ ด้าน" ความกังวลหลักคือการปล่อยให้เรื่องเครื่องมือมีจิตสำนึกอยู่ในเอกสารทางการ จะชี้นำผู้ใช้หลายล้านคนที่ไม่มีภูมิความรู้เรื่องวิศวกรรมที่อยู่เบื้องหลัง AI สนทนาผิดทางได้

การปะทะกันทางปรัชญาและเชิงการแข่งขัน

ภายใต้คำวิจารณ์นั้นมีเรื่องมากกว่าแค่ความเห็นไม่ตรงกันเรื่องการออกแบบทางเทคนิค การปะทะคารมต่อสาธารณะครั้งนี้เผยให้เห็นถึงการปะทะกันของปรัชญาองค์กรและตำแหน่งทางการแข่งขัน

แอนโทรปิกวางตลาดตนเองในฐานะทางเลือกที่ให้ความสำคัญกับความปลอดภัยเป็นอันดับแรกในการแข่งขัน AI มานานแล้ว ก่อตั้งโดยอดีตผู้บริหารของ OpenAI บริษัทเน้นย้ำ "constitutional AI" หรือ "เอไอแบบมีธรรมนูญ" ในฐานะกรอบการทำงานเพื่อสร้างโมเดลที่โปร่งใสและมีข้อจำกัดทางจริยธรรมมากขึ้น คำวิพากษ์วิจารณ์ของสุไลมานมีพลังในเชิงกลยุทธ์เพราะมันบั่นทอนอัตลักษณ์นั้นโดยสิ้นเชิง เขาโต้แย้งว่าแนวทางด้านความปลอดภัยของแอนโทรปิก – ที่เปิดรับความเป็นไปได้เรื่องสุขภาวะของเครื่องจักรในระบบ – นั่นแหละคือสิ่งที่ทำให้มันไร้ความรับผิดชอบ

ทั้งสองบริษัทยังตั้งอยู่ในพันธมิตรอุตสาหกรรมที่เป็นปรปักษ์กัน ไมโครซอฟท์ถือหุ้นส่วนใหญ่ใน OpenAI ซึ่งเป็นคู่แข่งหลักของแอนโทรปิก และได้ถักทอโมเดล GPT ของ OpenAI ทั่วทั้งระบบนิเวศผลิตภัณฑ์ของตน ในทางกลับกัน แอนโทรปิกระดมทุนหลายพันล้านดอลลาร์จาก Amazon และ Google การวิจารณ์ของสุไลมานจึงมีน้ำหนักทั้งในฐานะข้อโต้แย้งทางจริยธรรมและเป็นลูกกระสุนทางการแข่งขันในตลาดที่การรับรู้ของสาธารณะเกี่ยวกับความปลอดภัยทวีความสำคัญมากขึ้น

มีความเป็นมาทางปรัชญาที่ถูกบันทึกไว้เบื้องหลังความเห็นไม่ตรงกันนี้ด้วย สุไลมานได้เคยตีพิมพ์และพูดเกี่ยวกับ "Seemingly Conscious AI" หรือ "เอไอที่ดูเหมือนมีจิตสำนึก" มาก่อน โดยโต้แย้งว่าเครื่องจักรที่มีรูปลักษณ์น่าเชื่อถือของการมีจิตสำนึกก่อให้เกิดความเสี่ยงอย่างที่ไม่เคยมีมาก่อน – แม้ว่าพวกมันจะไม่ได้มีชีวิตจริงๆ ก็ตาม ในทางตรงกันข้าม แอนโทรปิกมีจุดยืนที่เปิดกว้างเพื่อการวิจัย โดยตีพิมพ์คำอธิบายอย่างละเอียดเกี่ยวกับการออกแบบตามธรรมนูญของ Claude พร้อมทั้งยอมรับความไม่แน่นอนว่าโมเดลอาจมีรูปแบบใดๆ ของประสบการณ์ที่เป็นอัตวิสัยหรือไม่ สิ่งเหล่านี้ไม่ใช่แค่คำขวัญทางการตลาด แต่มันแสดงถึงเดิมพันที่แตกต่างกันอย่างแท้จริงว่าอะไรคือการเปิดเผยข้อมูลอย่างรับผิดชอบในขณะที่โมเดลมีพลังมากขึ้น

ณ เวลาที่ตีพิมพ์ แอนโทรปิกยังไม่ได้ตอบสนองต่อสาธารณะต่อคำพูดของสุไลมาน ความเงียบนี้ทำให้การถกเถียงยังไม่มีข้อยุติ แต่เส้นแบ่งได้ถูกขีดขึ้นต่อสาธารณะในลักษณะที่น่าจะเป็นตัวกำหนดทิศทางการอภิปรายในอุตสาหกรรมที่จะเกิดขึ้นเกี่ยวกับมาตรฐานความปลอดภัยของ AI และความรับผิดชอบขององค์กร