Jumper ผู้ร่วมรับรางวัลโนเบลสาขาเคมีปี 2024 จากการสร้าง AlphaFold ประกาศบน X ว่าเขาจะออกหลังจากทำงานมา "เกือบ 9 ปี" ช่วงสุดท้ายที่ Google เขาถูกให้ไปโฟกัสกับเครื่องมือเขียนโค้ด ไม่ใช่งานวิทยาศาสตร์ที่ทำให้เขาได้โนเบล
การออกของเขารวมกับของ Shazeer ทำให้มูลค่า Alphabet หายไป 270 พันล้านดอลลาร์ในวันซื้อขายเดียว
Adler ถูกมองภายในว่าเป็นผู้มีส่วนสำคัญต่อ Gemini และความพยายามด้าน AI coding ของ Google ผู้คนที่คุ้นเคยกับการย้ายครั้งนี้กล่าวถึงความต้องการทำงานในสตาร์ทอัพ AI ที่คล่องตัวกว่า
Pritzel ทำงานเกี่ยวกับ Gemini pretraining และ AlphaFold การออกของเขาถูกรายงานพร้อมกับ Adler โดยมีบริบทเดียวกันคือการมองหาสภาพแวดล้อมที่เร็วกว่า
Zhou หรือที่รู้จักในนาม 'ราชาแห่งการใช้เหตุผล' แห่ง DeepMind และผู้ก่อตั้งกลุ่มวิจัยการใช้เหตุผลของ Google Brain ออกไปอย่างเงียบ ๆ เขาไม่มีคำอำลาสาธารณะ — HTX รายงานหลังจาก Zhou อัปเดต LinkedIn ว่าทำงานที่ Meta มาแล้วสี่เดือน ทั้ง Zhou และ Meta ไม่ได้ให้คำอธิบาย
Denny Zhou และผู้ร่วมงานของเขาได้พัฒนาเทคนิคการตั้งคำถามพื้นฐานสามอย่างที่กลายเป็นหัวใจสำคัญของวิธีที่โมเดลภาษาใหญ่ใช้เหตุผล เทคนิคเหล่านี้ทำงานเป็นชุดต่อเนื่อง โดยแต่ละขั้นตอนต่อยอดจากขั้นตอนก่อนหน้า
มันทำอะไร: แทนที่จะตั้งคำถามให้ LLM ตอบคำตอบโดยตรง (อินพุต → เอาต์พุต) CoT จะกระตุ้นให้โมเดลสร้างลำดับขั้นตอนการใช้เหตุผลที่เป็นภาษาธรรมชาติระหว่างทางก่อนที่จะถึงคำตอบสุดท้าย (อินพุต → ขั้นตอนการใช้เหตุผล → เอาต์พุต)
ประโยชน์หลัก: ช่วยเพิ่มประสิทธิภาพอย่างมากในงานด้านเลขคณิต การใช้เหตุผลทั่วไป และการใช้เหตุผลเชิงสัญลักษณ์ นอกจากนี้ยังช่วยให้ตีความได้ — คุณสามารถอ่าน 'กระบวนการคิด' ของโมเดลได้ เมื่อรวมกับโมเดลขนาดใหญ่ เช่น PaLM-540B, CoT ทำผลลัพธ์ที่ทันสมัยที่สุดโดยใช้ตัวอย่างที่มีคำอธิบายเพียง 0.1%
มันทำอะไร: กลยุทธ์การถอดรหัสที่ปรับปรุงจาก CoT แทนที่จะใช้ห่วงโซ่การใช้เหตุผลเพียงเส้นเดียว โมเดลจะสร้าง เส้นทางการใช้เหตุผลแบบ CoT ที่เป็นอิสระหลายเส้น (ผ่านการสุ่มตัวอย่างด้วยอุณหภูมิที่สูงขึ้น) จากนั้นเลือก คำตอบที่สอดคล้องมากที่สุด จากทุกเส้นทางด้วยการลงคะแนนเสียงข้างมาก
ประโยชน์หลัก: ลดความแปรปรวนของห่วงโซ่การใช้เหตุผลเส้นเดียว เส้นทาง CoT เส้นเดียวอาจผิดเนื่องจากขั้นตอนที่ผิดพลาดหนึ่งขั้นตอน Self-consistency จะเฉลี่ยจากความหลากหลาย และมีประสิทธิภาพที่แข็งแกร่งกว่ามากในการวัดมาตรฐานทางคณิตศาสตร์และการใช้เหตุผล Denny Zhou เน้นย้ำว่า Self-consistency ไม่ควรถูกตีความอย่างผิวเผินว่าเป็นการลงคะแนนเสียงข้างมากธรรมดา — มันคือการนำหลักการ marginalization มาปฏิบัติ
มันทำอะไร: กลยุทธ์การตั้งคำถามแบบสองขั้นตอนที่ออกแบบมาสำหรับปัญหาที่ยากกว่าตัวอย่างในคำถาม ขั้นแรก โมเดลจะ แยกย่อย ปัญหาที่ยากดั้งเดิมออกเป็นรายการปัญหาย่อยที่ง่ายกว่า จากนั้น โมเดลจะ แก้ตามลำดับ ปัญหาย่อยเหล่านั้น โดยใช้คำตอบของปัญหาย่อยก่อนหน้าแต่ละข้อเป็นบริบทสำหรับข้อถัดไป
ประโยชน์หลัก: ทำให้โมเดลสามารถสรุปจากง่ายไปหายากได้ — โมเดลสามารถแก้ปัญหาที่ยากกว่าตัวอย่างใด ๆ ที่แสดงให้เห็นอย่างเคร่งครัด ได้รับการสาธิตในงานการจัดการสัญลักษณ์ การสรุปแบบองค์ประกอบ (เช่น SCAN และ CFQ) และงานการใช้เหตุผลทางคณิตศาสตร์ Zhou อธิบายว่ามันคือ "การวางแผน + การใช้เหตุผล"
นักวิจัย 5 ใน 6 รายได้รับการยืนยันว่าออกจาก DeepMind เพื่อไป Meta, OpenAI หรือ Anthropic ในเดือนมิถุนายน 2026 โดยมีสาเหตุจากการถูกคู่แข่งดึงตัว ความขัดแย้งเรื่องการจัดสรรทรัพยากรคอมพิวเตอร์ และความต้องการสภาพแวดล้อมที่ทำงานได้รวดเร็วกว่า การออกของ Dawn Song ไม่สามารถยืนยันได้และไม่ใช่ส่วนหนึ่งของคลื่นนี้ เทคนิคการตั้งคำถามสามอย่างของ Zhou — Chain-of-Thought, Self-Consistency และ Least-to-Most — ก่อตัวเป็นชุดต่อเนื่อง: CoT เพิ่มขั้นตอนการใช้เหตุผล, Self-Consistency เพิ่มการลงคะแนนเสียงข้ามเส้นทางการใช้เหตุผลหลายเส้น และ Least-to-Most เพิ่มการแยกย่อยปัญหาและการแก้ปัญหาตามลำดับสำหรับปัญหาที่ยากขึ้น