Anthropic đang lập bản đồ suy luận ẩn của Claude ra sao

Nếu hình dung các mô hình AI như một “hộp đen”, nỗ lực mới của Anthropic không phải là hỏi Claude: “Bạn đã nghĩ gì?”, rồi tin vào câu trả lời. Công ty đang làm một việc khó hơn: chế tạo những công cụ để quan sát một phần phép tính đang diễn ra bên trong Claude — thứ Anthropic ví như tiến gần tới một “kính hiển vi” dành cho AI .

“Kính hiển vi AI” nghĩa là gì?

Các mô hình ngôn ngữ lớn như Claude không đi kèm một bản giải thích dễ đọc cho con người về cách chúng chọn từng từ. Theo Anthropic, những chiến lược tạo câu trả lời được mã hóa trong “hàng tỷ phép tính” mà mô hình thực hiện cho mỗi từ nó viết ra; ngay cả nhà phát triển cũng không thể tự nhìn vào đó nếu thiếu công cụ chuyên biệt .

Vì vậy, ẩn dụ “kính hiển vi” khá quan trọng. Anthropic không nói rằng họ đã tìm thấy một đoạn “suy nghĩ bí mật” được viết sẵn trong Claude. Điều họ theo đuổi là các công cụ giúp nhà nghiên cứu kiểm tra những phần cụ thể trong quá trình tính toán nằm dưới câu trả lời mà Claude hiển thị .

Từ các con số mờ mịt thành “features” dễ gọi tên hơn

Bước đầu tiên trong hướng nghiên cứu này là biến các hoạt động bên trong mô hình thành những “features” — có thể hiểu là các mẫu hoạt động gắn với những khái niệm hoặc dấu hiệu có thể đặt tên, quan sát và kiểm thử .

Nói đơn giản, thay vì chỉ thấy một bức tường toàn số, nhà nghiên cứu muốn tìm ra: khi Claude đang tạo một câu trả lời, những khái niệm nội bộ nào đã được kích hoạt . Đây là lớp bản đồ đầu tiên của “bộ não” mô hình, dù tất nhiên vẫn chỉ là bản đồ một phần.

Nối các “features” thành “circuits”

Điểm mới hơn là Anthropic không chỉ dừng ở việc nhận diện từng feature riêng lẻ. Công ty đang nối các feature đó thành những “circuits” — các mạch tính toán — để hé lộ một phần đường đi biến các từ đầu vào thành các từ đầu ra của Claude .

Sự khác biệt này rất đáng chú ý. Một feature riêng lẻ có thể cho thấy một khái niệm nào đó xuất hiện trong mô hình. Nhưng một circuit giúp quan sát cách nhiều thành phần bên trong ảnh hưởng lẫn nhau trong lúc mô hình tạo câu trả lời . Với những hành vi giống suy luận, “đường đi” giữa các bước đôi khi quan trọng không kém từng khái niệm đơn lẻ.

Áp dụng vào Claude 3.5 Haiku

Tháng 3/2025, Anthropic cho biết họ chia sẻ hai bài nghiên cứu: một bài mở rộng công việc nhận diện feature sang truy vết circuit, và một bài áp dụng bộ công cụ này để nhìn vào Claude 3.5 Haiku . Trong nghiên cứu về Claude 3.5 Haiku, nhóm xem xét các nhiệm vụ đơn giản đại diện cho 10 hành vi quan trọng của mô hình, theo cách Anthropic gọi là nghiên cứu “AI biology” — tạm hiểu là “sinh học AI” .

Cụm từ này cho thấy tham vọng của Anthropic: không chỉ chấm điểm Claude từ bên ngoài — đúng hay sai, trôi chảy hay không, an toàn hay chưa — mà còn tìm các cơ chế bên trong có thể giải thích vì sao mô hình hành xử như vậy .

Vì sao không thể chỉ hỏi Claude tự giải thích?

Một lời giải thích do Claude viết ra vẫn chỉ là văn bản do mô hình sinh ra. Trong khi đó, nghiên cứu diễn giải của Anthropic nhắm tới các phép tính nền đã góp phần tạo ra chính văn bản ấy .

Vì vậy, truy vết circuit là một loại bằng chứng khác. Nó không phải là một câu nhắc yêu cầu mô hình kể lại quá trình suy luận. Nó là nỗ lực quan sát trực tiếp một phần đường đi tính toán, bằng các công cụ được thiết kế để chuyển hoạt động neural thành cấu trúc dễ hiểu hơn với con người .

Công cụ này cho thấy gì — và chưa cho thấy gì?

Cách tiếp cận của Anthropic có thể làm một phần nội bộ Claude trở nên dễ đọc hơn: feature nào có vẻ liên quan, các feature đó được nối với nhau ra sao, và những đường tính toán nào có thể tham gia vào việc tạo câu trả lời . Nó cũng giúp nhà nghiên cứu so sánh hành vi bề mặt với cơ chế bên trong, thay vì chỉ dựa vào kết quả cuối cùng .

Nhưng chính cách Anthropic mô tả cũng rất thận trọng. Các bài nghiên cứu được trình bày là tiến bộ hướng tới một “kính hiển vi”, và chỉ hé lộ “một phần” đường đi từ từ đầu vào đến từ đầu ra . Vì thế, không nên xem công cụ hiện tại như một bộ giải mã hoàn chỉnh cho mọi phép tính trong Claude, hay như bản ghi đáng tin cậy của tất cả những gì mô hình “nghĩ” bên trong .

Tóm lại

Anthropic đang làm cho cách suy luận ẩn của Claude dễ hiểu hơn bằng cách chuyển một số hoạt động nội bộ thành các feature có thể diễn giải, truy vết cách chúng tương tác trong các circuit, rồi áp dụng bản đồ đó lên những hành vi cụ thể của mô hình . Đây là một bản đồ khoa học còn từng phần về quá trình tính toán của Claude — không phải đọc ý nghĩ toàn diện, cũng chưa phải lời giải thích đầy đủ cho mọi câu trả lời .