เจาะลึก Magnifica Humanitas: วิสัยทัศน์สุดโต่งของสมเด็จพระสันตะปาปาต่อ AI, แรงงาน และสันติภาพ

นี่ไม่ใช่การยกระดับถ้อยคำให้ดูรุนแรงเกินจริง แต่โดยการหยิบยกภาษาของความเป็นทาสมาใช้ สมเด็จพระสันตะปาปาลีโอที่ 14 ทรงจัดวางแพลตฟอร์มเศรษฐกิจแบบกิ๊ก (Gig Economy) คลังสินค้าที่จัดการด้วยอัลกอริทึม และห่วงโซ่อุปทานการกลั่นกรองเนื้อหาที่ละเมิดศักดิ์ศรีความเป็นมนุษย์ ให้อยู่ภายใต้กรอบศีลธรรมที่พระศาสนจักรสงวนไว้สำหรับการละเมิดแก่นแท้ของมนุษย์ที่ร้ายแรงที่สุดในประวัติศาสตร์มาโดยตลอด สมณสาส์นอธิบายว่าการเอารัดเอาเปรียบด้วย AI เป็น "ภาพนิมิตที่ต่อต้านมนุษยชาติ" (anti-human vision) ที่จะต้องถูกตอบโต้ด้วย "มาตรฐานความยุติธรรมทางสังคมร่วมกัน" ซึ่งเป็นเสียงเรียกร้องโดยตรงให้มีบรรทัดฐานที่มีผลบังคับใช้ ไม่ใช่แค่จรรยาบรรณแบบสมัครใจ

ข้อโต้แย้งของสมเด็จพระสันตะปาปาตั้งอยู่บนสมมติฐานที่ดำเนินไปตลอดทั้งเอกสาร: AI ไม่ได้เป็นกลางทางศีลธรรม และทางเลือกในการออกแบบของมันก็เข้ารหัสคุณค่าที่จะให้เกียรติหรือทำลายศักดิ์ศรีของมนุษย์ ระบบที่ถูกปรับให้เหมาะสมเพื่อประสิทธิภาพและผลกำไรแต่เพียงอย่างเดียว จะลงเอยด้วยการปฏิบัติต่อคนทำงานเสมือนเป็นวัตถุดิบที่ใช้แล้วทิ้ง แทนที่จะเป็นผู้กุมศักดิ์ศรีในตัวเองอย่างหลีกเลี่ยงไม่ได้

มรณกรรมของทฤษฎีสงครามที่ยุติธรรม

บางทีส่วนที่น่าตกตะลึงที่สุดของ Magnifica Humanitas คือการกล่าวถึงสงคราม สมณสาส์นไม่ได้เพียงแค่เตือนให้ระวังอาวุธอัตโนมัติ หรือสนับสนุนให้มีการควบคุมโดยมนุษย์ที่มีความหมาย ซึ่งเป็นจุดยืนที่วาติกันเคยแถลงไว้ก่อนหน้านี้ แต่มันไปไกลกว่านั้น โดยประกาศว่ากรอบคิดทั้งหมดของทฤษฎีสงครามที่ยุติธรรม (Just War Theory) นั้นล้าสมัยไปแล้วเพราะขีดความสามารถของปัญญาประดิษฐ์

สมเด็จพระสันตะปาปาลีโอที่ 14 ทรงเขียนว่า "ทฤษฎี 'สงครามที่ยุติธรรม' ซึ่งถูกใช้เพื่อสร้างความชอบธรรมให้กับสงครามทุกรูปแบบบ่อยครั้งเกินไปนั้น บัดนี้ล้าสมัยแล้ว" เอกสารเรียกร้องให้เกิด "การปฏิวัติทางศีลธรรม" (moral revolution) ที่จะก้าวข้ามหลักคำสอนเรื่องสงครามที่ยุติธรรมไปโดยสิ้นเชิง และยืนยันว่า "ไม่อาจมีสงครามที่ยุติธรรมได้อีกต่อไปในยุคของปัญญาประดิษฐ์" (there can be no just war in the age of artificial intelligence)

เหตุผลมีทั้งในเชิงปฏิบัติและเชิงเทววิทยา ในเชิงปฏิบัติ ระบบอาวุธที่ขับเคลื่อนด้วย AI ลดทอนการควบคุมของมนุษย์ลงถึงจุดที่เกณฑ์ดั้งเดิมสำหรับสงครามที่ยุติธรรม ไม่ว่าจะเป็นความได้สัดส่วน (proportionality), การแยกแยะระหว่างผู้สู้รบกับพลเรือน (discrimination), และสิทธิอำนาจที่ชอบธรรม (legitimate authority) ล้วนกลายเป็นสิ่งที่เป็นไปไม่ได้ที่จะทำให้สำเร็จ ส่วนในเชิงเทววิทยา สมณสาส์นให้เหตุผลว่าทฤษฎีสงครามที่ยุติธรรมถูกบิดเบือนในหน้าประวัติศาสตร์เพื่อให้ความชอบธรรมกับความขัดแย้งที่รับใช้อำนาจมากกว่าความยุติธรรม และ AI ก็คุกคามที่จะเร่งให้เกิดการบิดเบือนนี้จนเกินกว่าจะจดจำได้

แทนที่ความคิดเรื่องสงครามที่ยุติธรรม สมเด็จพระสันตะปาปาลีโอที่ 14 ทรงสนับสนุน "นวัตกรรมที่มีความรับผิดชอบ" (responsible innovation) และความมุ่งมั่นเชิงรุกในการสร้างสันติภาพ ซึ่งเป็นการเปลี่ยนจากการจัดการเงื่อนไขของความรุนแรงที่ยอมรับได้ ไปสู่การป้องกันระบบที่ทำให้ความรุนแรงกลายเป็นสิ่งอัตโนมัติและหลีกเลี่ยงไม่ได้

ความรับผิดชอบของผู้มีอำนาจ: บริษัทเทคโนโลยียักษ์ใหญ่และรัฐบาล

ตลอดทั้ง Magnifica Humanitas สมเด็จพระสันตะปาปาลีโอที่ 14 ไม่ยอมปล่อยให้บรรดาสถาปนิกของ AI ลอยนวลพ้นผิด สมณสาส์นกำหนดให้ "บริษัทเทคโนโลยียักษ์ใหญ่" และรัฐบาลแบกรับความรับผิดชอบทางศีลธรรมเบื้องต้น โดยวางกรอบการตัดสินใจของพวกเขาด้วยเงื่อนไขที่เข้มข้นและตรงไปตรงมา

พระองค์ทรงเรียกร้องให้นักพัฒนา AI และสังคมที่กำกับดูแลพวกเขา นำ "มาตรฐานความยุติธรรมทางสังคมร่วมกัน" มาปฏิบัติใช้ เพื่อให้แน่ใจว่า AI จะเคารพศักดิ์ศรีความเป็นมนุษย์และรับใช้ประโยชน์ส่วนรวม นี่ไม่ใช่ข้อเสนอแนะให้ตั้งคณะกรรมการจริยธรรมภายในองค์กรหรือแนวปฏิบัติแบบสมัครใจ หากแต่ถ้อยคำส่อถึงบรรทัดฐานที่มีสภาพบังคับ ซึ่งถูกพัฒนาและประยุกต์ใช้ข้ามพรมแดนประเทศ เพื่อจำกัดว่าอะไรคือ AI ที่สามารถสร้างขึ้นได้และจะนำไปใช้ได้อย่างไร

สมเด็จพระสันตะปาปาทรงเตือนว่า หากปราศจากมาตรฐานดังกล่าว การตัดสินใจของสถาบันทรงอำนาจเพียงหยิบมือเดียว จะเป็นตัวกำหนดว่า AI จะสร้าง "ระบบวรรณะโลก" (global caste system) หรือไม่ — โลกที่ความสามารถทางเทคโนโลยีทำให้ความมั่งคั่งและอำนาจกระจุกตัว ในขณะที่ผลักประชากรจำนวนมหาศาลไปสู่ความเปราะบาง พระองค์ทรงบอกผู้เล่นเหล่านี้อย่างชัดเจนว่าพวกเขาต้อง "เลือกชีวิตหรือความตายให้กับมนุษยชาติ" (choose life or death for humanity) ซึ่งเป็นถ้อยแถลงที่ไม่มีช่องว่างให้กับความเป็นกลางของระบบเทคโนแครตอีกต่อไป

บททดสอบของมนุษยชาติ ไม่ใช่แค่ของเทคโนโลยี

Magnifica Humanitas ไม่ใช่การปฏิเสธปัญญาประดิษฐ์แบบเหวี่ยงแห สมณสาส์นยอมรับว่า AI เป็น "เครื่องมือที่มีคุณค่า" ที่มีศักยภาพอย่างแท้จริง แต่ข้อโต้แย้งหลักของมันคือ ศักยภาพนั้นจะถูกทำให้เป็นจริงได้ก็ต่อเมื่อมนุษยชาติตอบคำถามสำคัญก่อนหนึ่งข้อ: เราต้องการสร้างอนาคตแบบไหน และใครคือผู้มีสิทธิ์ตัดสินใจ?

คำตอบของสมเด็จพระสันตะปาปาลีโอที่ 14 คือ อนาคตที่ถูกสร้างขึ้นโดยปราศจากพระเจ้า ปราศจากจุดยึดเหนี่ยวที่อยู่เหนือโลกสำหรับศักดิ์ศรีความเป็นมนุษย์ และปราศจากข้อจำกัดในสิ่งที่สามารถถูกทำให้ดีที่สุดและถูกเอารัดเอาเปรียบได้ จะกลายเป็นหอคอยบาเบลหลังใหม่ในท้ายที่สุด สมณสาส์นคือข้อเรียกร้องที่ให้เทคโนโลยีรับใช้มนุษยชาติ แทนที่จะปรับเปลี่ยนมนุษยชาติ และคือคำเตือนว่า การเพิกเฉยต่อข้อเรียกร้องนั้นจะนำพาผลลัพธ์ที่พระศาสนจักรในตอนนี้ถือว่าร้ายแรงพอๆ กับสิ่งใดๆ ที่พระศาสนจักรเคยเผชิญมา