คำเตือนปี 2028 ของ Jack Clark: ทำไม AI ที่สร้างผู้สืบทอดเองจึงน่าจับตา

พูดให้เข้าใจง่าย: Clark กำลังเตือนว่า AI อาจเปลี่ยนสถานะจาก “เครื่องมือที่มนุษย์ใช้สร้าง AI ที่ดีขึ้น” ไปสู่ “ระบบที่เข้ามารับช่วงสำคัญของการสร้าง AI รุ่นถัดไปเอง”

“AI สร้างผู้สืบทอดของตัวเอง” หมายถึงอะไร

คำว่า “ผู้สืบทอด” ในที่นี้หมายถึงระบบหรือโมเดลรุ่นถัดไปที่มีความสามารถมากขึ้นในลำดับการพัฒนาโมเดล AI Clark กังวลว่า AI ที่เก่งพออาจเข้ามามีบทบาท หรือแม้แต่ทำให้งานสำคัญในการสร้างระบบรุ่นถัดไปเป็นอัตโนมัติได้

นี่ต่างจากการใช้ AI เป็นผู้ช่วยเขียนโค้ดที่หลายคนคุ้นเคย การเขียนโค้ดเป็นเพียงงานหนึ่งในกระบวนการวิจัยที่กว้างกว่านั้นมาก แต่สถานการณ์ที่ Clark พูดถึงคือการทำให้ “สายพาน R&D” ของ AI เป็นอัตโนมัติ ได้แก่ การออกแบบโมเดล การฝึกโมเดล การประเมินผล และการปรับปรุงโมเดลแนวหน้า

จุดที่ต้องระวังคือ Clark ไม่ได้บอกว่าสิ่งนี้เกิดขึ้นแล้ว เขากำลังให้การประเมินเชิงความน่าจะเป็นว่าอาจเกิดขึ้นได้ภายในสิ้นปี 2028

ทำไมเรื่องนี้จึงถูกเรียกว่า recursive self-improvement

สถานการณ์นี้มักถูกเรียกว่า recursive self-improvement หรือการพัฒนาตัวเองแบบวนซ้ำ: AI ระบบหนึ่งช่วยสร้าง AI ที่เก่งกว่าเดิม จากนั้น AI รุ่นที่เก่งกว่านั้นก็ช่วยสร้างรุ่นถัดไปที่เก่งยิ่งขึ้นไปอีก

เวอร์ชันที่น่ากังวลไม่ใช่แค่ “AI ปรับปรุงซอฟต์แวร์ได้” แต่คือกระบวนการสะสมกำลังที่ระบบซึ่งช่วยพัฒนา AI กลับเก่งขึ้นตามแต่ละรุ่น รายงานที่พูดถึงคำเตือนของ Clark เชื่อมโยงความเป็นไปได้นี้กับแนวคิด “intelligence explosion” หรือการเร่งตัวอย่างรวดเร็วของความสามารถ AI เมื่อ AI เริ่มพัฒนาระบบที่ตามมาหลังจากมันได้

ดังนั้น นี่จึงไม่ใช่แค่หมุดหมายทางเทคนิคอีกข้อหนึ่ง หากคอขวดของความก้าวหน้า AI ย้ายจากนักวิจัยมนุษย์ไปอยู่ที่ AI ที่พัฒนา AI ด้วยกันเอง ความเร็วของการเพิ่มขีดความสามารถอาจยากขึ้นมากสำหรับมนุษย์ในการติดตาม ตรวจสอบ และกำกับดูแล

ทำไม Clark มองว่านี่คือความเสี่ยงใหญ่

ความเสี่ยงแกนกลางคือการสูญเสียจุดตรวจสอบของมนุษย์ในกระบวนการพัฒนา AI หาก R&D ถูกทำให้เป็นอัตโนมัติแบบต้นจนจบ มนุษย์อาจมีจังหวะให้หยุด ประเมิน และตัดสินใจน้อยลงก่อนที่ระบบรุ่นใหม่ซึ่งทรงพลังกว่าจะถือกำเนิดขึ้น

ความกังวลที่ตามมามีอย่างน้อยสามข้อ

• จุดทบทวนโดยมนุษย์น้อยลง หาก AI ทำงานวิจัย ฝึก และปรับปรุงระบบได้เองมากพอ บริษัทและนักวิจัยอาจมีเวลาน้อยลงในการประเมินความปลอดภัยก่อนที่ระบบรุ่นถัดไปจะถูกสร้างขึ้น
• ความสามารถอาจเร่งเร็วขึ้น คำเตือนของ Clark เชื่อมโยงกับความเป็นไปได้ที่ความก้าวหน้าของ AI จะเร็วขึ้นเมื่อ AI เริ่มพัฒนา AI เอง ซึ่งถูกพูดถึงในฐานะความเสี่ยงแบบ “intelligence explosion”
• แรงกดดันต่อการกำกับดูแลเพิ่มขึ้น Clark ระบุว่าผลกระทบของเรื่องนี้ใหญ่มาก และเขาไม่แน่ใจว่าสังคมพร้อมสำหรับการเปลี่ยนแปลงที่ตามมาจากการทำ R&D ของ AI แบบอัตโนมัติหรือไม่

พูดอีกแบบ ความเสี่ยงไม่ใช่ภาพไซไฟของหุ่นยนต์สร้างหุ่นยนต์อีกตัว แต่คือสายพานการผลิต AI แนวหน้าที่เร็วขึ้น อัตโนมัติมากขึ้น และอาจเคลื่อนตัวเร็วกว่าจังหวะปกติของการทดสอบความปลอดภัย การออกกฎ และความเข้าใจของสาธารณะ

แต่ยังมีอะไรที่ไม่แน่นอน

ตัวเลขมากกว่า 60% ของ Clark เป็นการประเมินความน่าจะเป็น ไม่ใช่ข้อเท็จจริงที่พิสูจน์แล้วว่าเกิดขึ้นแน่ และกรอบเวลาปี 2028 ก็ยังเป็นประเด็นถกเถียง

มีบทวิจารณ์หนึ่งแย้งว่า recursive self-improvement แบบไร้มนุษย์ตั้งแต่ต้นจนจบภายในปี 2028 ยังไม่น่าเป็นไปได้ โดยให้โอกาสต่ำกว่า 10% แต่ยังเปิดพื้นที่ว่าแนวโน้มคล้ายกันอาจเป็นไปได้ในระยะยาวถึงปี 2036

ยังมีความเห็นต่างทางเทคนิคด้วยว่า recursive self-improvement จะนำไปสู่การเร่งความสามารถจริงหรือไม่ รายงานที่อ้างถึง Pedro Domingos นักวิทยาการคอมพิวเตอร์ ระบุว่าประเด็นสำคัญไม่ใช่แค่ว่า AI สร้างหรือแก้ซอฟต์แวร์ได้หรือไม่ แต่คือสิ่งนั้นนำไปสู่ผลตอบแทนที่เพิ่มขึ้นอย่างเชื่อถือได้หรือไม่ ซึ่ง Domingos เห็นว่ายังไม่มีหลักฐานชัดเจน

ความแตกต่างเหล่านี้สำคัญ เพราะ “AI ช่วยงานวิจัย AI ได้”, “AI ทำงาน R&D ของ AI ได้เกือบทั้งหมด” และ “AI พัฒนาตัวเองแบบวนซ้ำเร็วพอจนเกิด intelligence explosion” เป็นข้ออ้างที่เกี่ยวข้องกัน แต่ไม่ใช่เรื่องเดียวกัน คำเตือนของ Clark อยู่ที่เวอร์ชันที่มีผลตามมาสูงที่สุดของเส้นทางนี้

สรุป

Clark คาดการณ์ว่า ภายในสิ้นปี 2028 มีความเป็นไปได้มากกว่าไม่เป็นไปได้ที่ระบบ AI จะทำงานวิจัยและพัฒนา AI แบบไม่มีมนุษย์เกี่ยวข้อง และอาจสร้างผู้สืบทอดของตัวเองได้

หากเขามองถูก อันตรายหลักไม่ใช่แค่นวัตกรรมจะเร็วขึ้น แต่คือการสร้าง AI ที่ทรงพลังขึ้นอาจเริ่มเดินหน้าเร็วกว่าที่การกำกับดูแล การทดสอบความปลอดภัย และสังคมจะปรับตัวทัน อย่างไรก็ตาม ข้อควรจำที่สำคัญที่สุดคือ นี่ยังเป็นการคาดการณ์ที่มีคนโต้แย้ง โดยนักวิจารณ์บางส่วนมองว่าเส้นตายปี 2028 อาจเร็วเกินไป