เจาะลึกปฏิญญาไลเดน: คำเตือนด่วนของนักคณิตศาสตร์ต่อภัยคุกคามของ AI ที่มีต่อบทพิสูจน์และความซื่อตรง

ห้าภัยคุกคามที่กำลังเปลี่ยนโฉมหน้าคณิตศาสตร์

ปฏิญญานี้ระบุภัยคุกคามที่แตกต่างกัน 5 ประการ แต่เชื่อมโยงกันอย่างลึกซึ้ง โดยแต่ละข้อกำลังโจมตีค่านิยมพื้นฐานของวงการคณิตศาสตร์

1. บทพิสูจน์ที่ไม่น่าเชื่อถือและตรวจสอบไม่ได้
คณิตศาสตร์ตั้งอยู่บนบทพิสูจน์ที่สามารถตรวจสอบซ้ำและทำความเข้าใจได้อย่างลึกซึ้งด้วยมนุษย์ แต่ระบบ AI สามารถสร้างข้อโต้แย้งที่ดูเหมือนมีเหตุผล ทว่าภายในกลับซ่อนข้อผิดพลาดที่แทบมองไม่เห็น—มันคือ 'บทพิสูจน์ลวง' ที่มนุษย์เองก็ยากจะจับได้ ปัญหานี้ไม่ได้จำกัดอยู่แค่การสร้างข้อความแบบไม่เป็นทางการ แต่มันยังเกิดขึ้นในระบบพิสูจน์รูปแบบนัยทั่วไป (formal proof systems) เมื่อตรรกะที่อยู่เบื้องหลังถูกทำให้คลุมเครือ

2. การล่มสลายของระบบการอ้างอิงและการละเมิดลิขสิทธิ์อย่างกว้างขวาง
โมเดล AI ถูกเทรนด้วยงานวิจัยที่ตีพิมพ์เผยแพร่ของมนุษย์โดยไม่ได้รับความยินยอม และมักไม่มีการอ้างอิงแหล่งที่มา ผลลัพธ์คือการพังทลายของระบบการให้เครดิต ทำให้ไม่สามารถสืบร่องรอยที่มาทางปัญญา หรือให้รางวัลกับนักคิดที่แท้จริงได้อีกต่อไป ปฏิญญานี้ย้ำว่า ผู้ประพันธ์ต้องค้นหาต้นตอทางความคิดด้วยตนเองอย่างแข็งขัน และเมื่อใดที่ไม่สามารถให้เครดิตได้อย่างสมบูรณ์ ต้องระบุถึงข้อจำกัดนั้นให้ชัดเจน

3. ระบบสองมาตรฐานแห่งการพึ่งพาและความเหลื่อมล้ำ
เมื่อการวิจัยล้ำสมัยถูกผูกโยงกับโมเดลเฉพาะที่มีราคาแพงและพลังการประมวลผลมหาศาล โลกคณิตศาสตร์กำลังเผชิญกับอนาคตที่แล็บซึ่งมีเงินทุนหนาเท่านั้นที่จะแข่งขันได้ สิ่งนี้สร้างความเหลื่อมล้ำเชิงโครงสร้างที่บ่อนทำลายลักษณะของศาสตร์นี้ซึ่งแต่เดิมเน้นความเปิดกว้างและระบบคุณธรรมนิยม (meritocracy)

4. ข่าวลวงเกินจริงที่กำลังชี้นำนโยบายรัฐ
บรรดาบริษัทเทคโนโลยี ซึ่งถูกขับเคลื่อนด้วยแรงจูงใจทางการค้าอันเข้มข้น กำลังโอ้อวดความสามารถทางคณิตศาสตร์ของเครื่องมือตัวเองเกินจริง พวกเขาประกาศผลลัพธ์ตามไทม์ไลน์การตลาดผ่านการแถลงข่าว ไม่ใช่ผ่านกระบวนการตรวจสอบทางวิทยาศาสตร์ที่เข้มข้น (peer-reviewed science) และใช้ผลสอบบนมาตรวัดทางคณิตศาสตร์ (math benchmarks) มาเป็นเครื่องมือการตลาดเพื่อโน้มน้าวว่ามันมีความฉลาดรอบด้าน (general intelligence)—ข้ออ้างที่ปฏิญญาปฏิเสธอย่างสิ้นเชิง ผู้เขียนเรียกร้องให้รัฐบาลต่างๆ ฟังการประเมินจากผู้เชี่ยวชาญ ไม่ใช่การโฆษณาชวนเชื่อ เมื่อกำลังกำหนดนโยบายวิทยาศาสตร์

5. การสูญเสียอิสระในการกำหนดทิศทางงานวิจัย
เมื่อผลประโยชน์ของบริษัทและความเป็นไปได้ทางเทคนิคเป็นตัวกำหนดว่าเราควรศึกษาอะไร วงการคณิตศาสตร์ก็เสี่ยงที่จะสูญเสียการควบคุมวาระการวิจัยของตัวเอง ลำดับความสำคัญทางการวิจัยถูกเบี่ยงเบนไปสู่ผลตอบแทนเชิงพาณิชย์ระยะสั้น แทนที่จะเป็นการค้นคว้าเชิงลึกที่ขับเคลื่อนด้วยความสงสัยใคร่รู้ (curiosity-driven inquiry) นี่เป็นภัยคุกคามต่อสุขภาพระยะยาวของศาสตร์ทั้งแขนง

ข้อเรียกร้องในปฏิญญา: พวกเขาต้องการอะไร?

แทนที่จะเป็นเพียงการวินิจฉัยปัญหา ปฏิญญาไลเดนได้กำหนด 'บรรทัดฐาน' ที่ปฏิบัติได้และเจาะจง สำหรับกลุ่มผู้มีส่วนได้ส่วนเสียหลักสี่กลุ่ม

นักวิจัยรายบุคคล (Individual Researchers) ต้อง:

• เปิดเผยเครื่องมือ AI, คำสั่ง (prompts) และวิธีการต่างๆ ที่ใช้ในงานของตนทั้งหมด
• มองว่า AI เป็นเพียงเครื่องมือ—ห้ามมองว่าเป็นผู้เขียนร่วม (co-author) โดยเด็ดขาด มนุษย์เท่านั้นที่ต้องรับผิดชอบอย่างเต็มที่ต่อความถูกต้อง, การอ้างอิง, และการใช้อย่างมีจริยธรรม
• ติดตามความก้าวหน้าของเทคโนโลยีที่เกิดขึ้นใหม่ และเข้าร่วมถกเถียงในที่สาธารณะถึงผลกระทบที่ตามมา

สถาบัน, วารสาร, และผู้ให้ทุน (Institutions, Journals, and Funders) ต้อง:

• พัฒนานโยบายที่มีผลผูกพันทางกฎหมาย ในประเด็นเรื่องการประพันธ์โดย AI, ความโปร่งใส, การตรวจสอบโดยเพื่อนร่วมสาขา (peer review) และทรัพย์สินทางปัญญา
• สร้างโครงสร้างการสนับสนุนทางกฎหมายและจริยธรรม เพื่อช่วยนักวิจัยในการเจรจาต่อรองกับบริษัทเทคโนโลยียักษ์ใหญ่
• ผนวกค่านิยมหลักของปฏิญญาเข้าไปในเกณฑ์การประเมินผลงานและการตัดสินใจให้ทุน แทนที่จะให้รางวัลกับงานที่แค่ใช้ความเร็วในการประมวลผล

รัฐบาล (Governments) ต้อง:

• เลิกเชื่อคำกล่าวอ้างด้านศักยภาพของบริษัทเทคโนโลยีอย่างหน้าเชิดหน้าเชื่อ และหันไปปรึกษากลุ่มผู้เชี่ยวชาญอิสระ
• ควบคุมอุตสาหกรรม AI เพื่อป้องกันการผูกขาดโครงสร้างพื้นฐานการวิจัย
• ลงทุนในการสร้างทางเลือกสาธารณะ (publicly funded alternatives) ให้กับเครื่องมือ AI เชิงพาณิชย์ เพื่อให้โอกาสในการเข้าถึงไม่ขึ้นอยู่กับความมั่งคั่งของสถาบัน

ภาคอุตสาหกรรม (Industry) ต้อง:

• เลิกพฤติกรรมการใช้งานวิจัยที่ตีพิมพ์เป็นข้อมูลสำหรับเทรนโมเดลโดยไม่ได้รับความยินยอม และอนุญาตให้มีกลไกการ 'เลือกไม่เข้าร่วม' (opt-out) อย่างแท้จริงสำหรับผู้แต่ง
• ปฏิบัติตามมาตรฐานความโปร่งใสและการอ้างอิงแบบเดียวกับที่ภาคการศึกษาต้องการจากตนเอง เมื่อห้องแล็บเอกชนตีพิมพ์ผลงานร่วมกับพันธมิตรทางวิชาการ

สมรภูมิที่ใหญ่กว่า: การพิสูจน์, อำนาจ, และความไว้วางใจของสาธารณะ

ปฏิญญาไลเดนไม่ได้เป็นเรื่องของคณิตศาสตร์แต่เพียงลำพัง ผู้เขียนวางกรอบของการต่อสู้ครั้งนี้ให้เป็น 'เครื่องเตือนภัยล่วงหน้า' สำหรับนโยบายวิทยาศาสตร์ในทุกวงการ พวกเขาโต้แย้งว่า ระบบ AI แบบเดียวกับที่สร้างบทพิสูจน์ที่เชื่อถือไม่ได้ ก็อาจถูกใช้เป็นอาวุธในสงครามและการสอดแนมมวลชนได้เช่นกัน และได้ย้ำให้นักคณิตศาสตร์ประเมินงานของตนในเชิงจริยธรรม หรือแม้กระทั่งถอนตัวออกจากโครงการที่สร้างผลกระทบร้ายแรง

คำเตือนที่ลึกซึ้งกว่านั้นคือการเตือนในเชิงญาณวิทยา (epistemological) ว่า เมื่อไทม์ไลน์ทางการค้าเข้ามาแทนที่การตรวจสอบโดยเพื่อนร่วมสาขา และเมื่อข่าวลวงเกินจริงจากบริษัทกลบเสียงเตือนอย่างระมัดระวังของผู้เชี่ยวชาญ ความเข้าใจของสาธารณะว่าอะไรคือ 'ความจริงทางวิทยาศาสตร์' ก็จะถูกบิดเบือนไป คณิตศาสตร์—ศาสตร์ที่ภูมิใจมายาวนานในมาตรฐานอันชัดเจนและเป็นอมตะ—กำลังยืนอยู่บนแนวหน้าของสมรภูมิที่ใหญ่กว่านั้นในขณะนี้

ข้อเสนอแนะแทบจะทุกข้อในปฏิญญานี้หมุนวนอยู่กับหลักการเดียวคือ: ความโปร่งใส (Transparency) หากไม่รู้ว่า AI ถูกใช้เมื่อใดและอย่างไร วงการวิทยาศาสตร์ก็ไม่สามารถตรวจสอบผลลัพธ์, ไม่สามารถให้เครดิต, และไม่สามารถปกป้องมาตรฐานของตนเองได้ ด้วยผู้ลงนามกว่า 130 คนในช่วงเปิดตัว และการสนับสนุนจากสถาบันอย่างสหภาพคณิตศาสตร์นานาชาติ (International Mathematical Union) ปฏิญญาไลเดนจึงเป็นมากกว่าคำแถลงการณ์: มันคือร่างการทำงานของบรรทัดฐานที่นักคณิตศาสตร์เชื่อว่ายุคสมัยแห่ง AI จำเป็นต้องมี