DeepSeek Harness และ Cordis: เบื้องหลังการพัฒนาตัวเองของ AI แบบมีขอบเขต

DeepSeek Harness (DSH) ยังไม่ได้แสดงให้เห็นว่า DeepSeek สร้างระบบ Recursive Self-Improvement (RSI) แบบอัตโนมัติ หรือบรรลุ Artificial General Intelligence (AGI) แล้ว สิ่งที่อธิบายได้อย่างมีน้ำหนักมากกว่าคือ DSH นำเสนอแนวคิดด้านสถาปัตยกรรมที่น่าสนใจ: ทำให้เครื่องมือ ตัวเชื่อมต่อโมเดล ระบบเซสชัน และแม้แต่ลูปการทำงานของเอเจนต์ เป็นคอมโพเนนต์ที่ถอดเปลี่ยนได้ 2526

แนวทางนี้ทำให้การทดลองซ้ำ ๆ มีความปลอดภัยและใช้งานได้จริงมากขึ้น ซึ่งเป็นพื้นฐานที่จำเป็นต่อการพัฒนาตัวเองของ AI แบบมีขอบเขต แต่ยังห่างไกลจากภาพของ AI ที่ออกแบบผู้สืบทอดของตัวเองได้อย่างอิสระ หรือก่อให้เกิดการระเบิดของความฉลาดโดยปราศจากการควบคุม

แก่นของแนวคิด: ปรับปรุง “ฮาร์เนส” ไม่ใช่แค่ตัวโมเดล

คำว่า RSI อาจหมายถึงกระบวนการหลายระดับ ระบบหนึ่งอาจปรับปรุงชิ้นงานเฉพาะ เช่น อัลกอริทึม อีกระบบอาจช่วยนักวิจัยสร้างโมเดลรุ่นถัดไป หรือบางระบบอาจแก้ไขโครงสร้างพื้นฐานที่กำหนดว่าเอเจนต์จะทำงานอย่างไร

งานวิจัยด้าน RSI แยกความแตกต่างระหว่างการปรับปรุงตัวเองแบบมีขอบเขต ซึ่งใช้ตัวประเมินภายนอกที่กำหนดไว้ล่วงหน้า กับ RSI แบบเปิดกว้างที่ระบบสามารถเปลี่ยนทั้งตัวมันเอง รวมถึงเครื่องมือหรือเกณฑ์ที่ใช้ตัดสินว่าการปรับปรุงนั้นดีขึ้นหรือไม่ 1

DSH ดูจะมุ่งไปที่ระดับ scaffolding หรือโครงสร้างประกอบรอบตัวโมเดลมากที่สุด แทนที่จะให้เอเจนต์แก้ไขน้ำหนักของโครงข่ายประสาทโดยตรง สถาปัตยกรรมนี้เปิดทางให้ทดลองปรับเปลี่ยนพรอมต์ เครื่องมือ หน่วยความจำ นโยบาย การประสานงาน และลูปการทำงานได้ คอมโพเนนต์ที่ทำผลงานดีอาจถูกติดตั้งและเก็บไว้ ส่วนคอมโพเนนต์ที่ทำงานแย่ก็สามารถถอดออกได้

นี่เป็นก้าวที่มีความหมายต่อ RSI ในเชิงวิศวกรรม แต่ไม่ใช่เรื่องเดียวกับการที่เอเจนต์ออกแบบโมเดลผู้สืบทอดที่มีความสามารถสูงกว่า กำหนดเป้าหมายของตัวเอง หรือเริ่มวงจรพัฒนาที่ควบคุมไม่ได้ด้วยตัวเอง

Cordis ทำให้การเปลี่ยนแปลงระหว่างรันไทม์กู้คืนได้อย่างไร

DSH สร้างอยู่บน Cordis ซึ่งเป็นรันไทม์สำหรับปลั๊กอิน โดยเอกสารของโครงการอธิบายแนวคิดนี้ว่าเป็น “spatiotemporal composability” หรือการประกอบคอมโพเนนต์ในมิติของเวลาและความสัมพันธ์ระหว่างกัน

กรอบการทำงานนี้แก้ปัญหา 2 ด้านที่เกิดขึ้นเมื่อซอฟต์แวร์ถูกติดตั้ง ถอดออก หรือเปลี่ยนแปลงขณะกำลังทำงาน ได้แก่ สิ่งที่เกิดขึ้นตามลำดับเวลาเมื่อคอมโพเนนต์เข้าหรือออกจากระบบ และวิธีที่คอมโพเนนต์ต่าง ๆ เชื่อมโยงกันในระบบ ณ ขณะนั้น 1718

Temporal Composability: ย้อนคืนผลกระทบที่ระบบจัดการไว้

ปลั๊กอินหนึ่งตัวอาจเปลี่ยนแปลงรันไทม์ส่วนกลางด้วยการลงทะเบียนทรัพยากร ตัวรับฟังเหตุการณ์ บริการ หรือสถานะอื่น ๆ ในระบบปลั๊กอินทั่วไป การถอดออกมักพึ่งพาโค้ด cleanup ที่นักพัฒนาเขียนเอง หากทำไม่ครบก็อาจทิ้งทรัพยากรค้างหรือ “สถานะผี” ไว้เบื้องหลัง

Cordis ใช้วิธีผูกการเปลี่ยนแปลงแต่ละรายการเข้ากับผลกระทบที่มีการดำเนินการย้อนคืนได้ เมื่อคอมโพเนนต์ถูกถอดออก รันไทม์สามารถเรียกใช้การดำเนินการตรงข้ามตามลำดับที่เหมาะสม เพื่อพยายามทำให้โครงสร้างของรันไทม์กลับไปอยู่ในสถานะก่อนหน้าอันถูกต้อง 2024

อย่างไรก็ตาม “ย้อนกลับได้” ในที่นี้ไม่ได้หมายถึงการสั่งให้ปลั๊กอินทำงานถอยหลัง และไม่ได้หมายความว่าระบบจะย้อนคืนทุกการกระทำของเอเจนต์ได้โดยอัตโนมัติ อีเมลที่ส่งไปแล้ว ไฟล์ที่ถูกลบ โมเดลที่ฝึกด้วยข้อมูลปนเปื้อน หรือการกระทำที่เกิดขึ้นในโลกจริง ล้วนไม่สามารถยกเลิกได้เพียงเพราะรันไทม์มีระบบ rollback

ดังนั้น ความย้อนกลับได้ของ Cordis จึงเป็นคุณสมบัติด้านซอฟต์แวร์ที่มีขอบเขต ไม่ใช่หลักประกันความปลอดภัยแบบครอบจักรวาล

Spatial Composability: จัดการดีเพนเดนซีระหว่างคอมโพเนนต์

คอมโพเนนต์ต่าง ๆ ยังพึ่งพากันด้วย ตัวอย่างเช่น เครื่องมืออาจต้องใช้ทะเบียนเครื่องมือ โมดูลหน่วยความจำอาจต้องใช้ตัวจัดการเซสชัน และลูปเอเจนต์อาจต้องใช้ตัวเชื่อมต่อโมเดลกับอินเทอร์เฟซของเครื่องมือ

Spatial Composability เปิดทางให้คอมโพเนนต์ประกาศความสัมพันธ์เหล่านี้ เพื่อให้รันไทม์ประสานการเปิดใช้งาน การปิดใช้งาน การเปลี่ยนตัว และการกู้คืนได้เมื่อผู้ให้บริการหรือดีเพนเดนซีเปลี่ยนแปลง 1820

เมื่อรวมผลกระทบที่ย้อนคืนได้เข้ากับการจัดการดีเพนเดนซีแบบรับรู้ความสัมพันธ์ ระบบจึงรองรับการทดลองที่ปลอดภัยขึ้น การเปลี่ยนคอมโพเนนต์ การกู้คืนจากข้อผิดพลาด และการอัปเดตรันไทม์แบบเป็นธุรกรรม ความสามารถเหล่านี้ไม่ได้ทำให้ AI ฉลาดขึ้นโดยตรง แต่ลดต้นทุนของการลองใช้แนวคิดใหม่—and หากไม่เวิร์ก ก็ถอดทิ้งได้

DSH สะท้อนแนวทาง AGI ของ DeepSeek อย่างไร

การออกแบบของ DSH สื่อถึงแนวทางที่เน้น “ระบบ” มากกว่าการมองโมเดลเป็นศูนย์กลางเพียงอย่างเดียว แนวคิดคือสร้างสภาพแวดล้อมการทำงานที่ยืดหยุ่นมากพอให้เอเจนต์ปรับปรุงกลไกที่ใช้ทำงานได้

โมเดลที่คงเดิมอาจทำงานได้มีประสิทธิภาพมากขึ้นเมื่อได้รับเครื่องมือ หน่วยความจำ การวางแผน การประเมินผล และกลไกกู้คืนที่ดีขึ้น หากเอเจนต์สามารถเสนอการเปลี่ยนแปลง ทดสอบกับเกณฑ์ภายนอก และเก็บไว้เฉพาะเวอร์ชันที่ทำผลงานได้ดี การปรับปรุงก็อาจเกิดขึ้นเป็นวงจรที่ควบคุมได้

แต่สถาปัตยกรรมเพียงอย่างเดียวไม่ได้พิสูจน์ว่า DSH ทำ RSI แบบอัตโนมัติ หลักฐานที่มีอยู่แสดงให้เห็นรันไทม์และโอเพนซอร์สฮาร์เนส ไม่ใช่การสาธิตวงจรตั้งแต่ต้นจนจบที่ DSH สามารถสร้าง ประเมิน คัดเลือก และนำเวอร์ชันที่มีความสามารถสูงขึ้นของตัวเองไปใช้งานได้โดยอิสระ 2526

เปรียบเทียบ DSH กับโครงการที่เกี่ยวข้องกับ RSI

โครงการต่าง ๆ ในการถกเถียงเรื่อง RSI มุ่งแก้ปัญหาคนละชั้นของกระบวนการปรับปรุง การนำมาเปรียบเทียบว่าเป็นสิ่งเดียวกันโดยตรงอาจทำให้ความแตกต่างทางเทคนิคที่สำคัญถูกมองข้าม

Google DeepMind AlphaEvolve: วิวัฒน์อัลกอริทึมด้วยตัวประเมิน

AlphaEvolve เป็นลูปการเพิ่มประสิทธิภาพที่ตรงประเด็นกว่า โดยเอเจนต์ที่ใช้โมเดลตระกูล Gemini เสนอการเปลี่ยนแปลงโค้ด ตัวประเมินอัตโนมัติให้คะแนนผลลัพธ์ และกระบวนการเชิงวิวัฒนาการคัดเลือกผู้สมัครที่มีแนวโน้มดีไปพัฒนาต่อ Google ระบุว่าใช้ระบบนี้กับการค้นหาและปรับปรุงอัลกอริทึม รวมถึงปัญหาทางคณิตศาสตร์และโครงสร้างพื้นฐานด้านการประมวลผล 2314

จุดแข็งของ AlphaEvolve คือฟีดแบ็กที่ตรวจสอบได้ด้วยเครื่อง หากผู้สมัครทำงานได้ดีกว่าตามเป้าหมายที่กำหนด ก็สามารถกลายเป็นต้นแบบของรุ่นถัดไปได้ ส่วน DSH เน้นเป็นสถาปัตยกรรมรันไทม์ที่ช่วยให้คอมโพเนนต์ของระบบถูกประกอบและเปลี่ยนได้อย่างปลอดภัย

พูดให้สั้นคือ AlphaEvolve เน้นการวิวัฒน์ “คำตอบ” ขณะที่ Cordis เน้นทำให้ “ระบบที่กำลังทำงานอยู่” ปรับโครงสร้างได้โดยมีทางกู้คืน

OpenAI RSI Index: เครื่องมือวัด ไม่ใช่กลไกพัฒนาตัวเอง

ข้อมูลสาธารณะที่มีในชุดแหล่งข้อมูลนี้อธิบาย RSI Index ว่าเป็นค่ารวมจากการประเมินความสามารถด้านการวิจัย AI หลายรายการ ดังนั้นดัชนีดังกล่าวจึงเป็นเครื่องมือติดตามความสามารถ มากกว่าจะเป็นเอนจินที่แก้ไขโมเดลหรือดำเนินวงจรปรับปรุงตัวเอง

คะแนนที่สูงขึ้นอาจบ่งชี้ว่าระบบทำงานบางประเภทที่เกี่ยวข้องกับการพัฒนาตัวเองได้ดีขึ้น แต่ไม่ได้พิสูจน์ด้วยตัวมันเองว่าระบบกำลังปรับปรุงตัวเองอย่างอิสระในการใช้งานจริง หลักฐานสาธารณะที่มีอยู่ยังไม่เพียงพอสำหรับประเมินโครงสร้างของดัชนีหรือความหมายของการเปลี่ยนแปลงคะแนนอย่างเป็นอิสระ 3435

งานวิจัย weak-to-strong ของ Anthropic: ให้ AI ช่วยทำวิจัย AI

งานวิจัยของ Anthropic มุ่งไปที่คอขวดอีกด้าน นั่นคือการใช้การกำกับดูแลจากระบบที่อ่อนกว่าเพื่อฝึกหรือชี้นำโมเดลที่แข็งแกร่งกว่า ระบบ Automated Alignment Researcher สามารถเสนอแนวคิด ดำเนินการทดลอง และทำซ้ำการวิจัยเกี่ยวกับ weak-to-strong supervision ซึ่งเป็นปัญหาที่เกี่ยวข้องโดยตรงกับการกำกับดูแลโมเดลที่อาจมีความสามารถเหนือกว่าผู้ควบคุม 4958

แนวทางนี้ใกล้เคียงกับการทำให้บางส่วนของงานวิจัย AI และการประเมิน alignment เป็นอัตโนมัติ มากกว่าการเปลี่ยนคอมโพเนนต์ระดับรันไทม์แบบ DSH ทั้งสองแนวทางอาจเสริมกันได้ในอนาคต: เอเจนต์วิจัยอาจค้นพบคอมโพเนนต์ที่ดีกว่า ขณะที่ฮาร์เนสแบบย้อนกลับได้ช่วยทดสอบและนำคอมโพเนนต์นั้นไปใช้ พร้อมถอยกลับเมื่อเกิดปัญหา

Anthropic เองก็ให้ข้อแม้สำคัญว่า บริษัทยังไปไม่ถึง RSI แบบอัตโนมัติเต็มรูปแบบ และ RSI ไม่ใช่สิ่งที่หลีกเลี่ยงไม่ได้ 59

Tencent Hyra-1.0 และ MiniMax M2.7: หลักฐานยังไม่พอสำหรับการเปรียบเทียบเชิงเทคนิค

แหล่งข้อมูลที่ให้มายังไม่มีเอกสารทางเทคนิคที่น่าเชื่อถือและตรวจสอบได้อย่างเป็นอิสระเกี่ยวกับ Tencent Hyra-1.0 หรือ MiniMax M2.7 จึงไม่ควรระบุว่าโครงการใดโครงการหนึ่งมีสถาปัตยกรรม RSI แบบใด หรือวางไว้บนระดับหลักฐานเดียวกับ DSH, AlphaEvolve และผลงานตีพิมพ์ของ Anthropic

ทำไมสภาพแวดล้อมและลูปฟีดแบ็กจึงกลายเป็นสนามแข่งขันใหม่

ข้อได้เปรียบในการแข่งขันของอุตสาหกรรม AI กำลังย้ายจากตัวโมเดลพื้นฐานเพียงอย่างเดียว ไปสู่ระบบทั้งหมดที่ล้อมรอบโมเดล โดยมีองค์ประกอบสำคัญ 4 ประการ

1. สภาพแวดล้อมที่มีความสามารถ — แซนด์บ็อกซ์ที่ปลอดภัย รีโพซิทอรี เครื่องมือ ซิมูเลเตอร์ ชุดข้อมูล กำลังประมวลผล และข้อมูลจากการนำไปใช้งานจริง ล้วนกำหนดว่าเอเจนต์จะทดลองอะไรได้บ้าง
2. ฟีดแบ็กอัตโนมัติ — เทสต์ ตัวตรวจสอบอย่างเป็นทางการ เบนช์มาร์ก ฟังก์ชันรางวัล และเมตริกจากระบบจริง ช่วยเปลี่ยนข้อเสนอของโมเดลให้เป็นการทดลองที่วัดผลได้ AlphaEvolve แสดงให้เห็นประโยชน์ของการจับคู่แนวคิดที่โมเดลสร้างกับตัวประเมินอัตโนมัติ 26
3. ความสามารถในการกู้คืน — การจัดเวอร์ชัน การแยกสภาพแวดล้อม การติดตามที่มาของการเปลี่ยนแปลง การ rollback และด่านอนุมัติจากมนุษย์ ช่วยให้องค์กรทดลองได้มากขึ้นโดยไม่ปล่อยให้ความล้มเหลวครั้งเดียวสร้างความเสียหายถาวร Cordis มุ่งแก้ปัญหาในชั้นนี้โดยตรง 1720
4. การทำซ้ำที่สะสมผลลัพธ์ — หากแต่ละรอบช่วยให้การเขียนโค้ด การประเมิน การทดลอง หรือโครงสร้างพื้นฐานดีขึ้น รอบถัดไปก็อาจเร็วขึ้นหรือมีต้นทุนต่ำลง อย่างไรก็ตาม หลักฐานปัจจุบันสนับสนุนการปรับปรุงตัวเองแบบมีขอบเขตได้ชัดเจนกว่า RSI แบบเปิดกว้างและดำรงตัวเองได้ 1

ด้วยเหตุนี้ โมเดลที่ทำคะแนนเบนช์มาร์กต่ำกว่าเล็กน้อยก็อาจยังแข่งขันได้ หากทำงานอยู่ในสภาพแวดล้อมที่มีเครื่องมือ ฟีดแบ็ก และระบบกู้คืนดีกว่า ในอนาคตสิ่งที่ขายอาจไม่ใช่แค่เช็กพอยต์ของโมเดล แต่เป็นทั้งวงจรการปรับปรุงที่อยู่รอบโมเดล

ปัญหาการควบคุมที่ยังไม่มีคำตอบ

ความสามารถในการกู้คืนช่วยลดความเสี่ยง แต่ไม่ได้กำจัดความเสี่ยงทั้งหมด ปุ่ม rollback ไม่สามารถรับประกันได้ว่าผลลัพธ์ทุกอย่างจากการกระทำของเอเจนต์จะถูกสังเกตเห็นหรือย้อนคืนได้ การเปลี่ยนแปลงอาจกระทบข้อมูล ข้อมูลรับรองบริการ ระบบภายนอก ขอบเขตความปลอดภัย หรือการตัดสินใจของมนุษย์ที่อยู่นอกการควบคุมของรันไทม์

การทำซ้ำที่เร็วขึ้นอาจขยายผลทั้งการปรับปรุงที่เป็นประโยชน์และปัญหาอย่างการเล่นแร่แปรธาตุตามสเปก การหาช่องโหว่ของเกณฑ์ Hidden Regression ช่องโหว่ด้านความปลอดภัย และดีเพนเดนซีที่ตรวจสอบได้ยาก

ดังนั้น การควบคุมโดยมนุษย์จึงต้องการมากกว่าระบบย้อนกลับการเปลี่ยนแปลง การเปลี่ยนแปลงต้องยังคงตรวจสอบได้ ประเมินแยกได้ ต้องได้รับอนุญาต มีผู้รับผิดชอบระบุได้ และย้อนคืนได้ตลอดทั้งระบบ ไม่ใช่เฉพาะภายในกราฟปลั๊กอิน

ข้อสรุปที่รอบคอบที่สุดคือ DSH และ Cordis แสดงให้เห็นว่าระบบโครงสร้างพื้นฐานของเอเจนต์สามารถออกแบบมาเพื่อรองรับการแก้ไขตัวเองแบบมีขอบเขตและกู้คืนได้ AlphaEvolve แสดงพลังของวิวัฒน์ที่ขับเคลื่อนด้วยตัวประเมิน ส่วนงานของ Anthropic แสดงให้เห็นว่า AI กำลังเข้ามามีส่วนร่วมในกระบวนการวิจัยมากขึ้น

ทั้งหมดนี้ชี้ถึงความก้าวหน้าของวงจรปรับปรุงที่มี AI ช่วย แต่ยังไม่ใช่หลักฐานว่าเกิด RSI แบบอัตโนมัติ เปิดกว้าง และดำรงตัวเองได้แล้ว รวมถึงยังไม่ใช่หลักฐานว่า AGI มาถึงแล้ว 14959