คณะที่ปรึกษาคณิตศาสตร์ของ OpenAI มีอำนาจแค่ไหน—และไม่มีอำนาจเรื่องใด

OpenAI ตอบรับกระแสวิจารณ์ต่อผลงาน Navier–Stokes ที่บริษัทอ้างว่า AI สร้างขึ้น ด้วยการสนับสนุน Advisory Group on Mathematics and Artificial Intelligence หรือคณะที่ปรึกษาด้านคณิตศาสตร์และปัญญาประดิษฐ์ ซึ่งมี Institute for Advanced Study (IAS) ในเมืองพรินซ์ตันเป็นเจ้าภาพ

จุดสำคัญคือ คณะนี้เป็น คณะที่ปรึกษา ไม่ใช่วารสารวิชาการ หน่วยงานรับรองบทพิสูจน์อิสระ หรือหน่วยงานกำกับดูแล OpenAI ดังนั้นจึงอาจช่วยกำหนดมาตรฐานการประเมินและการสื่อสารผลงาน AI ได้ แต่ไม่มีอำนาจสั่งการบริษัทโดยตรง 332

อะไรนำไปสู่การตั้งคณะนี้

เมื่อวันที่ 8 กันยายน OpenAI เผยแพร่ต้นฉบับยาว 166 หน้า พร้อมการทำบทพิสูจน์ให้อยู่ในระบบ Lean โดยอ้างว่าได้แก้ปัญหา Navier–Stokes ว่าด้วยการมีอยู่และความเรียบของคำตอบ ซึ่งเป็นหนึ่งในปัญหา Millennium Prize Problems ผลงานดังกล่าวอ้างว่า การไหลของของไหลสามมิติที่เริ่มต้นอย่างเรียบและมีแรงภายนอกที่เรียบ สามารถเกิดภาวะเอกฐาน (singularity) ได้ในเวลาจำกัด 6

Lean เป็นระบบช่วยพิสูจน์ที่สามารถตรวจเช็กเชิงกลได้ว่า ทฤษฎีบทเป็นผลตามนิยาม สัจพจน์ และบทตั้งที่ป้อนเข้าสู่ระบบหรือไม่ แต่ต้นฉบับสำหรับมนุษย์ก็ยังต้องใช้เวลาทำความเข้าใจและตรวจสอบ รายงานหลังการเผยแพร่ระบุว่าบทพิสูจน์นี้ใช้เวลาหลายสัปดาห์กว่าจะคลี่คลายได้ และการตั้งคณะที่ปรึกษาเกิดขึ้นท่ามกลางความกังวลว่า ผลค้นพบคณิตศาสตร์จาก AI ที่มีนัยสำคัญควรถูกตรวจและเผยแพร่อย่างไร 2

ยังมีข้อพิพาทอีกชั้นหนึ่งเรื่องการให้เครดิตและลำดับความสำคัญของผลงาน Tristan Buckmaster และ Levent Alpöge เผยแพร่ผลงานที่ผ่านการตรวจด้วย Lean ในปัญหาสมการของไหลที่เกี่ยวข้องกันในช่วงเวลาใกล้เคียงกัน จนเกิดข้อถกเถียงสาธารณะเรื่องการอ้างอิงและที่มาของแนวคิด ประเด็นนี้แยกจากคำถามว่า formal proof ของ OpenAI ตรวจผ่านหรือไม่ เพราะเกี่ยวข้องกับลำดับเวลา การเข้าถึงแนวคิด และเครดิตทางวิชาการที่เหมาะสม 1

สมาชิกผู้ก่อตั้ง 9 คน

คณะชุดแรกประกอบด้วย

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

IAS เป็นเจ้าภาพของคณะ แต่ OpenAI ระบุว่าคณะดำเนินงานอย่างเป็นอิสระจากบริษัท 33

คณะนี้ทำอะไรได้บ้าง

ตามที่ OpenAI ระบุ คณะจะให้คำแนะนำเรื่อง การประเมินและการสื่อสาร ผลลัพธ์คณิตศาสตร์ใหม่ ๆ ซึ่งรวมถึงการพิจารณาความสำคัญของผลลัพธ์ การประสานการเผยแพร่ และมาตรฐานทางวิชาการกับวิชาชีพที่เกี่ยวข้อง 1733

หลักประกันความเป็นอิสระที่ระบุไว้มีดังนี้

• สมาชิกไม่ได้รับค่าตอบแทนจาก OpenAI
• สมาชิกสามารถให้คำแนะนำในประเด็นที่ OpenAI ไม่ได้ร้องขอได้
• สมาชิกสามารถแสดงความเห็นต่อสาธารณะเกี่ยวกับผลกระทบของ OpenAI ต่อวงการคณิตศาสตร์ได้
• สมาชิกสามารถเผยแพร่คำแนะนำของตนเองได้
• คณะสามารถปรับเปลี่ยนสมาชิกภาพได้ด้วยตนเอง 33

เงื่อนไขเหล่านี้เปิดช่องให้สมาชิกคัดค้านหรือวิจารณ์ OpenAI ในที่สาธารณะได้ แทนที่จะจำกัดอยู่เพียงการหารือหลังฉาก อย่างไรก็ดี อำนาจของคณะยังคงเป็นเพียงการให้คำปรึกษา ไม่ใช่คำสั่งที่บริษัทต้องทำตาม 33

สิ่งที่คณะทำไม่ได้

คณะ ไม่มีอำนาจตัดสินใจ เหนือทิศทางงานวิจัยหรือกรอบเวลาการดำเนินงานด้านคณิตศาสตร์ของ OpenAI โดยบริษัทระบุชัดว่าคณะจะไม่ให้คำแนะนำเกี่ยวกับความเร็วหรือจังหวะการดำเนินงานวิจัยภายในของบริษัท 332

ในทางปฏิบัติ นั่นหมายความว่าคณะไม่สามารถ

• สั่งระงับการประกาศผลงานวิจัย
• บังคับให้ OpenAI เผยแพร่บทพิสูจน์ โมเดล หรือบันทึกการวิจัยที่อยู่เบื้องหลัง
• สั่งให้บริษัทเปลี่ยนกลยุทธ์การเผยแพร่ผลงาน
• ชี้ขาดว่าข้ออ้างทางคณิตศาสตร์ใดได้รับการยอมรับอย่างเป็นทางการจากประชาคมวิจัย
• ตัดสินข้อพิพาทย้อนหลังเรื่องลำดับความสำคัญหรือเครดิตด้วยตัวเอง

ความต่างนี้สำคัญมาก คณะอาจเสนอแนวปฏิบัติและแจ้งข้อคัดค้านต่อสาธารณะได้ แต่ OpenAI ยังเป็นผู้ควบคุมโมเดล ขั้นตอนทำงานภายใน การเปิดเผยหลักฐาน และการเลือกว่าจะทำตามคำแนะนำหรือไม่ จึงควรมองคณะนี้ว่าเป็นสะพานเชื่อมระหว่างห้องปฏิบัติการ AI กับชุมชนนักคณิตศาสตร์ มากกว่าจะเป็นตัวแทนของการทบทวนโดยผู้เชี่ยวชาญอิสระ 332

เหตุใดคำถามเรื่องความเป็นอิสระและการเป็นตัวแทนยังไม่จบ

กติกาของ OpenAI ให้เสรีภาพแก่คณะพอสมควรในการพูดและเผยแพร่ความเห็น แต่พลังในทางปฏิบัติขึ้นอยู่กับว่าสมาชิกพร้อมจะใช้เสรีภาพนั้นเพียงใด และ OpenAI พร้อมตอบสนองเพียงใด การไม่มีอำนาจต่อจังหวะการวิจัยมีนัยสำคัญเป็นพิเศษ เพราะการประกาศอย่างรวดเร็วและเน้นกระแสสาธารณะเป็นหนึ่งในประเด็นที่ AI labs ถูกวิจารณ์ 233

สมาชิกทั้งเก้ามีผลงานโดดเด่น ซึ่งช่วยสร้างความน่าเชื่อถือให้คณะ แต่คณะขนาดเล็กไม่ได้หมายความว่าจะเป็นตัวแทนทุกมุมมองโดยอัตโนมัติ ผู้เชี่ยวชาญด้าน formal methods นักวิจัยในสาขาย่อยที่ได้รับผลกระทบ นักคณิตศาสตร์ช่วงต้นอาชีพ และชุมชนนอกสถาบันที่มีตัวแทนในคณะ อาจมีทัศนะต่างกันเรื่องการตรวจทาน การเข้าถึงผลงาน เครดิต และธรรมเนียมการตีพิมพ์ นอกจากนี้ ยังมีรายงานตั้งคำถามถึงกระบวนการคัดเลือกสมาชิก 37

โครงสร้างที่ไม่จ่ายค่าตอบแทนอาจช่วยเว้นระยะห่างจาก OpenAI แต่ก็ทำให้ความสามารถในการตรวจทานอย่างต่อเนื่องและอย่างเข้มข้น ขึ้นกับเวลาที่สมาชิกมีและการเข้าถึงเอกสารต้นทางของบริษัท

แล้วมีความหมายอย่างไรต่อข้ออ้าง Navier–Stokes

การตรวจด้วย Lean มีความสำคัญ เพราะช่วยตรวจเช็กเชิงกลว่าทฤษฎีบทตามมาจากนิยาม สัจพจน์ และบทตั้งที่เข้ารหัสไว้หรือไม่ แต่ formalization ที่เครื่องตรวจผ่านเพียงอย่างเดียวไม่ได้ทำให้มนุษย์เข้าใจข้อโต้แย้งได้ง่าย ไม่ได้ยืนยันว่าทุกทางเลือกในการสร้างแบบจำลองสอดคล้องกับโจทย์เชิงไม่เป็นทางการตามที่ตั้งใจ และไม่ตอบคำถามเรื่องความสำคัญหรือคำอธิบายของผลลัพธ์

การตั้งคณะที่ปรึกษาไม่ได้เปลี่ยนการแบ่งงานพื้นฐานนี้ คณะอาจแนะนำวิธีประเมินและสื่อสารผลลัพธ์ได้ แต่นักคณิตศาสตร์อิสระยังต้องตรวจต้นฉบับ ไฟล์ formal proof สมมติฐานต่าง ๆ และความสัมพันธ์ระหว่างทฤษฎีบทที่ระบุกับปัญหาดั้งเดิมด้วยตนเอง 332

เช่นเดียวกัน การมีคณะนี้ไม่ได้ยุติข้อพิพาทเรื่องเครดิตที่เกี่ยวข้องกับ Buckmaster การคลี่คลายที่น่าเชื่อถือต้องอาศัยกระบวนการที่พิจารณาหลักฐาน ทั้งลำดับเวลา บทบาทการมีส่วนร่วม การเข้าถึงข้อมูล และเครดิตทางวิชาการ ไม่ใช่เพียงคำแนะนำจากคณะที่ปรึกษา 1

บททดสอบต่อไป: ข้ออ้างเรื่องปัญหาเปิดกว่า 100 ข้อ

OpenAI ระบุว่าโมเดลภายในของบริษัทแก้ปัญหาคณิตศาสตร์ที่ยังไม่มีคำตอบได้อีกมากกว่า 100 ข้อ และคณะที่ปรึกษาจะช่วยเรื่องการเผยแพร่ผลลัพธ์อย่างรับผิดชอบ 3633

คณะอาจช่วยทำให้กระบวนการน่าเชื่อถือขึ้น หากผลักดันลำดับการเผยแพร่ที่เปิดทางให้เกิดการตรวจสอบจริง เช่น

1. ระบุโจทย์ให้ชัดเจน รายชื่อสาธารณะควรแยกให้ชัดระหว่างทฤษฎีบทที่ยืนยันแล้ว ข้ออ้างว่าแก้โจทย์ได้ ผลต่อยอด และผลงานที่เกี่ยวข้อง
2. เผยแพร่ทั้งงานที่มนุษย์อ่านได้และไฟล์ที่เครื่องตรวจได้ บทพิสูจน์ที่อ่านได้ช่วยอธิบายความสำคัญ ส่วนไฟล์ formal proof ช่วยให้ผู้อื่นทำซ้ำการตรวจเช็กเชิงกลได้
3. ให้ผู้เชี่ยวชาญเฉพาะสาขาตรวจ ผลในพลศาสตร์ของไหล พีชคณิต เรขาคณิต หรือตรรกศาสตร์ ต้องผ่านการพิจารณาจากนักวิจัยในสาขานั้น ไม่ใช่คณะทั่วไปเพียงชุดเดียว
4. บันทึกที่มาและการมีส่วนร่วมอย่างชัดเจน เอกสารดังกล่าวสำคัญมากเมื่ออาจมีข้อโต้แย้งเรื่องลำดับความสำคัญ การเข้าถึงโมเดล หรือการใช้ผลงานก่อนหน้าที่ยังไม่เผยแพร่
5. แยกการค้นพบออกจากการยืนยัน AI อาจสร้างแนวพิสูจน์ที่มีอนาคต แต่การยอมรับของประชาคมวิชาการต้องอาศัยการตรวจสอบแบบเปิดและการสื่อสารทางวิชาการที่ยั่งยืน

ดังนั้น คณะใหม่นี้คือการทดลองด้านธรรมาภิบาลที่มีความหมาย แต่ยังไม่ใช่คำตอบสุดท้ายของข้อถกเถียง คุณค่าของคณะจะวัดได้จากว่าคำแนะนำถูกเปิดเผยต่อสาธารณะหรือไม่ OpenAI เปิดหลักฐานมากพอให้คนนอกตรวจได้หรือไม่ และการเผยแพร่ผลงานครั้งต่อ ๆ ไปให้ความสำคัญกับการตรวจทานและการให้เครดิตพอ ๆ กับการประกาศหรือเปล่า