Anthropic กำลังทำอะไรกับ ‘ความคิดที่ซ่อนอยู่’ ของ Claude

ถ้าถามว่า Anthropic กำลังทำให้ ‘เหตุผลที่ซ่อนอยู่’ ของ Claude เข้าใจง่ายขึ้นอย่างไร คำตอบสั้น ๆ คือ บริษัทไม่ได้พยายามเปิดอ่านข้อความลับในหัวของโมเดล แต่กำลังสร้างเครื่องมือสำหรับตรวจดูการคำนวณภายในบางส่วนของ Claude ให้มนุษย์อ่านและทดสอบได้มากขึ้น

แนวทางนี้อยู่ในสายงานที่เรียกว่า mechanistic interpretability หรือการตีความเชิงกลไกของโมเดล AI เป้าหมายคือไม่ดูแค่คำตอบสุดท้ายว่า Claude ตอบอะไร แต่พยายามเข้าใจว่าเส้นทางภายในแบบใดช่วยพาคำที่ผู้ใช้ป้อนเข้าไป ไปสู่คำที่ Claude สร้างออกมา

‘กล้องจุลทรรศน์ AI’ ไม่ใช่เครื่องอ่านใจ

Anthropic ใช้ภาพเปรียบเทียบว่าเป็นความคืบหน้าไปสู่ ‘กล้องจุลทรรศน์’ สำหรับ AI เพราะโมเดลภาษาไม่ได้มาพร้อมคู่มือที่อธิบายเป็นภาษาคนว่าแต่ละคำตอบเกิดจากอะไร

บริษัทระบุว่า กลยุทธ์เบื้องหลังคำที่โมเดลเขียนออกมาถูกเข้ารหัสอยู่ใน ‘การคำนวณนับพันล้านครั้ง’ สำหรับทุกคำ และแม้แต่นักพัฒนาโมเดลเองก็ไม่สามารถอ่านการคำนวณเหล่านั้นได้ตรง ๆ หากไม่มีเครื่องมือเฉพาะ

จุดสำคัญคือ Anthropic ไม่ได้บอกว่าสามารถดึง chain-of-thought ลับของ Claude ออกมาเป็นย่อหน้า ๆ ได้ งานนี้ใกล้เคียงกับการสร้างเครื่องมือวิทยาศาสตร์มากกว่า เป็นการทำให้บางชิ้นส่วนของกระบวนการคำนวณที่อยู่ใต้คำตอบของ Claude มองเห็นและตรวจสอบได้มากขึ้น

ขั้นแรก: หา ‘ฟีเจอร์’ ในกิจกรรมภายในของโมเดล

งานก่อนหน้าของ Anthropic มุ่งค้นหาแนวคิดที่ตีความได้ภายในโมเดล ซึ่งบริษัทเรียกว่า ‘ฟีเจอร์’

พูดให้เข้าใจง่าย ฟีเจอร์คือรูปแบบของกิจกรรมภายในที่นักวิจัยสามารถจับเป็นหน่วยได้ ตั้งชื่อได้ ตรวจสอบได้ และทดลองได้ แทนที่จะมองภายในโมเดลเป็นเพียงกำแพงตัวเลขมหาศาลที่ไม่มีความหมายสำหรับมนุษย์

นี่คือชั้นแรกของแผนที่ แทนที่จะถามเพียงว่า Claude พิมพ์อะไรออกมา นักวิจัยพยายามดูว่าระหว่างที่ Claude กำลังสร้างคำตอบ มีแนวคิดหรือรูปแบบภายในแบบใดถูกกระตุ้นขึ้นมาบ้าง

ขั้นต่อมา: เชื่อมฟีเจอร์เป็น ‘วงจร’

ความคืบหน้าที่ใหม่กว่าคือการเชื่อมฟีเจอร์เหล่านั้นเข้าด้วยกันเป็น ‘วงจร’ การคำนวณ Anthropic อธิบายว่านี่เป็นการต่อยอดจากการระบุฟีเจอร์ ไปสู่การเปิดเผยบางส่วนของเส้นทางที่เปลี่ยนคำที่ป้อนเข้า Claude ให้กลายเป็นคำที่ Claude ตอบออกมา

ความแตกต่างนี้สำคัญมาก ฟีเจอร์หนึ่งตัวอาจบอกได้ว่ามีแนวคิดบางอย่างปรากฏอยู่ในโมเดล แต่การดูเป็นวงจรช่วยให้เห็นว่าหลายองค์ประกอบภายในมีอิทธิพลต่อกันอย่างไรระหว่างการสร้างคำตอบ

สำหรับพฤติกรรมที่ดูเหมือนการใช้เหตุผล เส้นทางการทำงานสำคัญพอ ๆ กับแนวคิดแต่ละก้อน เพราะการรู้ว่ามีแนวคิดใดอยู่ในโมเดล ยังไม่เท่ากับรู้ว่าแนวคิดนั้นถูกนำไปใช้ในการตอบอย่างไร

ทำไมงานนี้ต่างจากการให้ Claude อธิบายตัวเอง

เวลาผู้ใช้ขอให้ Claude อธิบายเหตุผล คำอธิบายนั้นยังเป็นข้อความที่โมเดลสร้างขึ้นเหมือนคำตอบอื่น ๆ ส่วนงาน interpretability ของ Anthropic พยายามมองไปที่การคำนวณที่ช่วยผลิตข้อความเหล่านั้นตั้งแต่ต้น

ดังนั้น circuit tracing จึงเป็นหลักฐานคนละประเภทกับการ prompt ให้โมเดลเล่าว่าคิดอย่างไร มันเป็นความพยายามตรวจดูบางส่วนของเส้นทางการคำนวณโดยตรง ผ่านเครื่องมือที่ออกแบบมาเพื่อแปลกิจกรรมของเครือข่ายประสาทให้เป็นโครงสร้างที่มนุษย์อ่านออกมากขึ้น

ใช้กับ Claude 3.5 Haiku อย่างไร

ในเดือนมีนาคม 2025 Anthropic ระบุว่ากำลังเผยแพร่เอกสารวิจัย 2 ชิ้น ชิ้นหนึ่งขยายงานจากการหา ‘ฟีเจอร์’ ไปสู่การติดตาม ‘วงจร’ ส่วนอีกชิ้นนำชุดเครื่องมือนี้ไปศึกษาภายใน Claude 3.5 Haiku

งานที่ศึกษา Claude 3.5 Haiku พิจารณางานง่าย ๆ ที่เป็นตัวแทนของพฤติกรรมสำคัญของโมเดล 10 ประเภท และ Anthropic เรียกกรอบการทำงานนี้ว่าเป็นการมองหา ‘ชีววิทยาของ AI’ หรือ AI biology

คำว่า AI biology ในบริบทนี้ไม่ได้หมายความว่าโมเดลมีชีวิต แต่สื่อถึงความพยายามศึกษากลไกภายในอย่างเป็นระบบ คล้ายการมองว่าสิ่งที่เห็นภายนอกเป็นพฤติกรรม ส่วนข้างในมีโครงสร้างและกลไกที่ต้องค่อย ๆ ทำความเข้าใจ

สิ่งที่วิธีนี้บอกได้ และสิ่งที่ยังบอกไม่ได้

งานของ Anthropic ช่วยให้ภายในของ Claude บางส่วนอ่านได้ชัดขึ้น เช่น ฟีเจอร์ใดดูเกี่ยวข้อง ฟีเจอร์เหล่านั้นเชื่อมกันอย่างไร และเส้นทางใดน่าจะมีบทบาทในการสร้างคำตอบ

ประโยชน์อีกอย่างคือ นักวิจัยสามารถเทียบพฤติกรรมที่เห็นจากภายนอกกับกลไกภายในได้มากขึ้น แทนที่จะพึ่งพาเฉพาะคำตอบสุดท้ายของโมเดลว่าไหลลื่น ถูกต้อง หรือปลอดภัยเพียงใด

แต่กรอบของ Anthropic เองยังระมัดระวัง งานวิจัยถูกอธิบายว่าเป็นความคืบหน้าไปสู่กล้องจุลทรรศน์ และเป็นการเปิดเผย ‘บางส่วน’ ของเส้นทางจากคำที่ป้อนเข้าไปสู่คำที่โมเดลสร้างออกมา

นั่นหมายความว่าเครื่องมือปัจจุบันไม่ควรถูกมองว่าเป็นตัวถอดรหัสทุกการคำนวณใน Claude และไม่ใช่บันทึกที่เชื่อถือได้ของทุกสิ่งที่โมเดล ‘คิด’ ภายใน

สรุป

Anthropic กำลังทำให้เหตุผลที่ซ่อนอยู่ของ Claude เข้าใจง่ายขึ้น ด้วยการแปลงกิจกรรมภายในบางส่วนให้เป็นฟีเจอร์ที่ตีความได้ ติดตามว่าฟีเจอร์เหล่านั้นเชื่อมกันเป็นวงจรอย่างไร และนำแผนที่นั้นไปศึกษาพฤติกรรมจริงของโมเดล

ผลลัพธ์จึงไม่ใช่การอ่านใจ AI แบบสมบูรณ์ แต่เป็นแผนที่ทางวิทยาศาสตร์บางส่วนของการคำนวณใน Claude ซึ่งช่วยให้มนุษย์เริ่มตรวจสอบกล่องดำของโมเดลภาษาได้อย่างเป็นระบบมากขึ้น