Sampura Research เดิมพันให้มนุษย์ยังเป็นผู้ตัดสิน AI

Sampura Research คือองค์กรไม่แสวงกำไรด้านความปลอดภัยของปัญญาประดิษฐ์ (AI) ซึ่งตั้งอยู่ในกรุงลอนดอน โดยตั้งคำถามเชิงปฏิบัติว่า ใครควรเป็นผู้ตัดสินว่า AI ที่มีความสามารถสูงขึ้นเรื่อย ๆ กำลังทำงานได้ถูกต้องและปลอดภัยหรือไม่

คำตอบขององค์กรไม่ใช่การนำมนุษย์ออกจากกระบวนการตรวจสอบ แต่คือการออกแบบระบบที่แบ่งหน้าที่กำกับดูแลระหว่างมนุษย์กับ AI Sampura ระบุว่าได้รับเงินสนับสนุนก้อนแรก 11 ล้านดอลลาร์สหรัฐจาก Coefficient Giving แบ่งเป็น 7 ล้านดอลลาร์สำหรับปีแรก และอีก 4 ล้านดอลลาร์ที่ให้คำมั่นว่าจะสนับสนุนเพิ่มเติม 1

ประกาศเปิดตัวอย่างเป็นทางการลงวันที่ 25 สิงหาคม 2026 ไม่ใช่วันที่ 24 สิงหาคม โดยระบุชื่อ Rishub Jain และ Josh Jacob เป็นผู้ก่อตั้ง ก่อนหน้านี้โพสต์บนโซเชียลมีเดียเคยกล่าวถึง Alex Adams ในการทำงานช่วงเริ่มต้น แต่ประกาศเปิดตัวไม่ได้ยืนยันว่าเขาเป็นผู้ร่วมก่อตั้งอย่างเป็นทางการทั้งสามคน 112

“ผู้ตัดสิน” AI ของ Sampura หมายถึงอะไร

ในศัพท์ของ Sampura judge หรือ “ผู้ตัดสิน” อาจหมายถึงมนุษย์ โมเดล AI หรือระบบลูกผสมที่ประเมินว่า AI อีกระบบหนึ่งแสดงพฤติกรรมได้ถูกต้องและสอดคล้องกับเป้าหมายหรือไม่ สิ่งที่ถูกประเมินอาจเป็นคำตอบเพียงครั้งเดียว บทสนทนา หรือเส้นทางการทำงานหลายขั้นตอนของเอเจนต์ AI 1

ประเด็นนี้สำคัญเพราะการกำกับดูแลมักถูกมองแยกออกจากความสามารถของโมเดล AI โมเดลอาจตอบได้อย่างลื่นไหลหรือทำงานซับซ้อนได้สำเร็จ แต่ก็ยังอาจทำให้ผู้ประเมินเข้าใจผิด หาช่องโหว่ของฟังก์ชันรางวัล หรือดำเนินการที่ไม่ปลอดภัยระหว่างงานหลายขั้นตอน

งานวิจัยของ Sampura มุ่งพัฒนาระบบที่ตรวจจับความล้มเหลวเหล่านี้ได้ดีขึ้น โดยเรียกแนวทางนี้ว่า ความเกื้อหนุนระหว่างมนุษย์กับ AI เพื่อการกำกับดูแลที่ขยายขนาดได้ หรือการใช้ระบบอัตโนมัติในจุดที่เชื่อถือได้ พร้อมคงบทบาทมนุษย์ไว้ในกรณีที่ต้องใช้วิจารณญาณ การตีความ หรือการตัดสินใจที่เกี่ยวข้องกับคุณค่าและจริยธรรม 1

ทำไมไม่ควรให้ AI ตรวจสอบ AI เพียงอย่างเดียว

AI เหมาะกับการทำหน้าที่ผู้ตรวจสอบเพราะทำงานได้เร็วและมีต้นทุนต่ำเมื่อขยายไปสู่ระบบขนาดใหญ่ แต่ Sampura เห็นว่าความเร็วไม่ได้แปลว่าผู้ประเมินจะน่าเชื่อถือเสมอไป โดยประกาศเปิดตัวชี้ให้เห็นความเสี่ยงหลายด้าน ได้แก่

• ความสามารถไม่สม่ำเสมอ: ประสิทธิภาพของ AI อาจมีลักษณะ “ขรุขระ” คือเก่งมากในบางงาน แต่กลับอ่อนแออย่างคาดไม่ถึงในงานอื่น
• รูปแบบความผิดพลาดที่ทับซ้อนกัน: ผู้ประเมินที่เป็นมนุษย์และ AI อาจผิดพลาดในลักษณะเดียวกัน โดยเฉพาะเมื่อโมเดลถูกปรับให้เอาชนะกระบวนการประเมิน
• การหลอกลวงหรือสมรู้ร่วมคิด: ระบบที่อยู่ภายใต้การตรวจสอบอาจหาทางใช้ประโยชน์จากจุดอ่อน หลอก หรือชักนำผู้ตรวจสอบอัตโนมัติ
• สถานการณ์ที่ไม่เคยพบมาก่อน: กรณีใหม่หรือคลุมเครืออาจต้องอาศัยการพิจารณาคุณค่าของมนุษย์ แทนการใช้ความชอบที่ AI เรียนรู้มาแบบอัตโนมัติ

ข้อกังวลเหล่านี้ไม่ได้หมายความว่าผู้ตัดสินที่เป็นมนุษย์จะดีกว่า AI เสมอไป แต่เป็นเหตุผลที่ Sampura ต้องการทดสอบว่า การผสมผสานมนุษย์กับเครื่องจักรแบบใดจะยังทำงานได้ดีที่สุดภายใต้แรงกดดัน แทนการตั้งสมมติฐานว่าทุกกรณีควรปล่อยให้ฝ่ายใดฝ่ายหนึ่งรับผิดชอบทั้งหมด 1

จะทดสอบผู้ตัดสินเหล่านี้อย่างไร

โครงการช่วง 6 เดือนแรกของ Sampura จะมุ่งสร้างลีดเดอร์บอร์ดผู้ตัดสินที่หลากหลาย โดยมีชุดข้อมูลย่อยมากกว่า 20 ชุด ครอบคลุมหัวข้ออย่างการตรวจจับการหลอกลวง อคติทางวัฒนธรรม และการกระทำที่ไม่ปลอดภัยของเอเจนต์ AI 1

การประเมินจะไม่ได้จำกัดอยู่ที่การทดสอบคำถาม–คำตอบแบบคงที่เท่านั้น Sampura ยังวางแผนสร้างสถานการณ์ที่โมเดลซึ่งถูกตรวจสอบสามารถปรับตัวเพื่อเอาชนะผู้ตัดสินได้โดยตรงระหว่างการเรียนรู้แบบเสริมกำลัง (reinforcement learning) เพื่อดูว่าผู้ประเมินยังทำงานได้หรือไม่ เมื่อโมเดลมีแรงจูงใจให้ค้นหาและใช้ประโยชน์จากจุดอ่อนของระบบประเมิน 1

งานวิจัยจะเปรียบเทียบแนวทางหลัก 3 แบบ ได้แก่

1. ผู้ตัดสินที่เป็นมนุษย์ ซึ่งประเมินโดยตรง
2. ผู้ตัดสินที่เป็น AI ล้วน ซึ่งมีข้อได้เปรียบด้านความเร็วและการขยายขนาด
3. ผู้ตัดสินแบบผสม ซึ่งแบ่งงานหรือประสานการประเมินระหว่างมนุษย์กับ AI

เป้าหมายไม่ใช่เพียงการได้คะแนนสูงในเกณฑ์วัดแคบ ๆ ชุดใดชุดหนึ่ง แต่คือการสร้างผู้ตัดสินที่ยังคงแข็งแกร่งในชุดทดสอบหลากหลาย และยังทำงานได้เมื่อโมเดลที่ถูกกำกับเก่งขึ้นในการหาช่องโหว่ของการประเมิน 1

ระบบกำกับดูแลแบบผสมอาจทำงานอย่างไร

Sampura เสนอรูปแบบการผสานการตัดสินของมนุษย์กับ AI ไว้หลายแนวทาง เช่น

• ให้ AI ประเมินความมั่นใจของตัวเอง แล้วส่งกรณีที่ไม่แน่ใจต่อให้มนุษย์
• ใช้ระบบจัดเส้นทางงานเพื่อมอบหมายงานกำกับดูแลทั้งชิ้นให้มนุษย์หรือ AI ตามความเหมาะสม
• แบ่งงานซับซ้อนออกเป็นงานย่อย แล้วส่งแต่ละส่วนให้มนุษย์หรือเครื่องจักร
• พัฒนาอินเทอร์เฟซและเครื่องมือที่ช่วยให้ผู้ประเมินที่เป็นมนุษย์ตรวจงานยาก ๆ ได้เร็วและสม่ำเสมอขึ้น

แนวทางนี้มองว่าการมีมนุษย์ร่วมตรวจสอบเป็นสิ่งที่ต้องออกแบบและปรับให้เหมาะสม ไม่ใช่ทางเลือกแบบมีหรือไม่มีเท่านั้น บางกรณีอาจตรวจอัตโนมัติได้อย่างถูกต้องและประหยัด ขณะที่บางกรณีมีความสำคัญมากพอที่จะต้องใช้เวลาของมนุษย์ ความท้าทายจึงไม่ใช่ “มนุษย์ปะทะ AI” แต่คือการหาสมดุลระหว่างความแม่นยำ ต้นทุน ความเร็ว และความทนทานต่อการพยายามหลอกระบบ 1

แผนงานระยะยาวของ Sampura

หลังจากพัฒนาผู้ตัดสินให้ดีขึ้น Sampura ระบุว่าต้องการทดสอบว่าระบบเหล่านี้ช่วยลด reward hacking หรือการที่โมเดลหาทางเพิ่มรางวัลด้วยวิธีที่ไม่ตรงกับเป้าหมายจริงระหว่างการฝึกได้หรือไม่ นอกจากนี้ยังต้องการศึกษาว่าต้องใช้มนุษย์ร่วมตรวจสอบมากเพียงใด ระบบกำกับดูแลควรปรับตัวอย่างไรเมื่อโมเดลพื้นฐานเรียนรู้ที่จะใช้ประโยชน์จากผู้ตรวจสอบ และผู้ตัดสินจะทำหน้าที่ได้มากกว่าการจำแนกผลลัพธ์หรือไม่ 1

งานในวงกว้างขึ้นอาจรวมถึงการร่างหรือประเมินข้อกำหนด คำสั่ง เกณฑ์ให้คะแนน และกรณีทดสอบที่ใช้ฝึกและประเมิน AI Sampura ระบุว่าจะเผยแพร่ผลงานผ่านบทความวิชาการ โค้ด ชุดข้อมูล และลีดเดอร์บอร์ด 1

อย่างไรก็ตาม ข้อมูลเปิดตัวที่ตรวจสอบได้สนับสนุนแผนงานด้านชุดข้อมูล เกณฑ์วัด ระบบจัดเส้นทางงาน และเครื่องมือช่วยมนุษย์ในภาพรวมเท่านั้น ยังไม่ได้ยืนยันโครงการเฉพาะชื่อบางรายการ เช่น ชุดข้อมูล “forward-looking harm” หรือแพลตฟอร์มให้มนุษย์ช่วยให้คะแนนแบบโอเพนซอร์ส ดังนั้นรายละเอียดเหล่านี้ควรถือว่ายังไม่ได้รับการยืนยัน ไม่ใช่ผลิตภัณฑ์ที่ประกาศอย่างเป็นทางการ

เหตุใดการเร่งรับคนจึงมีความหมาย

Sampura ระบุว่ากำลังรับสมัครบุคลากรสายเทคนิคชุดก่อตั้งในลอนดอน โครงการนี้ต้องใช้ความเชี่ยวชาญทั้งด้านแมชชีนเลิร์นนิง การออกแบบการประเมิน ปฏิสัมพันธ์ระหว่างมนุษย์กับคอมพิวเตอร์ การจัดการข้อมูล และการนำระบบไปใช้งานจริง 1 โพสต์สาธารณะก่อนหน้านี้กล่าวถึงการรับนักวิจัยเพิ่มอย่างน้อย 6 คน พร้อมเงินเดือน 100,000–290,000 ปอนด์ต่อปี แต่ประกาศเปิดตัวขององค์กรไม่ได้ยืนยันตัวเลขดังกล่าวอย่างเป็นทางการ 1213

ตลาดแรงงานด้านการประเมิน AI ก็แข่งขันกันสูงเช่นกัน ประกาศรับสมัครของ METR สำหรับตำแหน่ง Member of Technical Staff ด้านการดำเนินการประเมิน ระบุเงินเดือนพื้นฐาน 285,548–503,116 ดอลลาร์สหรัฐต่อปี และเปิดช่องให้พิจารณาจ่ายสูงกว่านี้สำหรับผู้สมัครที่มีประสบการณ์โดดเด่นเป็นพิเศษ 18

ความแตกต่างนี้สะท้อนโจทย์ที่ Sampura ต้องเผชิญ การสร้างระบบกำกับดูแลที่เชื่อถือได้ต้องอาศัยทั้งงานวิจัยเชิงเทคนิคและการประเมินในโลกจริงอย่างรอบคอบ ขณะเดียวกัน องค์กรที่ทำงานด้านนี้ก็ต้องแย่งชิงบุคลากรกลุ่มเดียวกัน

ความกังวลที่กว้างขึ้น: ระบบกำกับดูแลต้องตาม AI ให้ทัน

การเปิดตัวของ Sampura เกิดขึ้นท่ามกลางความกังวลว่า AI อาจพัฒนาเร็วกว่าระบบที่ใช้ตรวจสอบและกำกับมัน ในเดือนกรกฎาคม 2026 พนักงานจากบริษัท AI รายใหญ่กว่า 1,100 คนลงชื่อในจดหมายเปิดผนึก ขอให้รัฐบาลสหรัฐฯ สนับสนุนเครื่องมือทางเทคนิคและธรรมาภิบาลระหว่างประเทศที่สามารถชะลอการพัฒนา AI ระดับแนวหน้าได้ หากจำเป็น จดหมายดังกล่าวไม่ได้เรียกร้องให้หยุดการพัฒนา AI ทันที 40

นอกจากนี้ วงการ AI ยังเกิดการเปลี่ยนแปลงของบุคลากรระดับอาวุโสอย่างต่อเนื่อง Reuters รายงานการปรับโครงสร้างผู้นำฝ่าย AI ของ Google และการย้ายออกของวิศวกรและนักวิจัยชื่อดังไปยังบริษัทและสตาร์ตอัปอื่น 49 เหตุการณ์เหล่านี้ช่วยให้เห็นบริบทของการก่อตั้ง Sampura แต่ไม่ได้พิสูจน์ว่าองค์กรไม่แสวงกำไรแห่งนี้แก้ปัญหาความปลอดภัยพื้นฐานของ AI ได้แล้ว

วันนี้ Sampura อ้างอะไรได้บ้าง—and อะไรที่ยังอ้างไม่ได้

หลักฐานที่ชัดเจนที่สุดชี้ว่า Sampura เป็นองค์กรวิจัยระยะเริ่มต้นที่กำลังสร้าง โครงสร้างพื้นฐานสำหรับการวัดผลและตัดสินใจในการกำกับดูแล AI ลีดเดอร์บอร์ดและวิธีประเมินแบบผสมขององค์กรอาจเป็นประโยชน์ต่อแล็บ AI ผู้ประเมินอิสระ หรือหน่วยงานอื่นที่ต้องทดสอบพฤติกรรมของโมเดลในอนาคต 1

แต่เรื่องนี้ยังแตกต่างจากการพิสูจน์ว่า Sampura สามารถควบคุมระบบ AI ระดับแนวหน้าได้ด้วยตัวเอง บทบาทระยะใกล้ขององค์กรคือการศึกษาว่าควรออกแบบและทดสอบระบบกำกับดูแลอย่างไร เมื่อโมเดลที่ถูกตรวจสอบมีความสามารถในการปรับตัว เรียนรู้ และอาจมีแรงจูงใจให้ผ่านการประเมินให้ได้

เดิมพันสำคัญของ Sampura คือความปลอดภัยที่ขยายขนาดได้อาจต้องพึ่งพาระบบอัตโนมัติ แต่ต้องไม่ใช่ระบบอัตโนมัติที่นำมนุษย์ออกจากการตัดสินใจที่มีผลกระทบสูงสุด