Lỗ hổng 'Đánh cắp Suy nghĩ': Cách các nhà nghiên cứu phá vỡ lớp suy luận ẩn của AI và bê bối chưng cất Kimi K3

Bằng Chứng cho Cuộc Tranh Cãi về Chưng Cất Kimi K3

Các dấu vết suy luận được trích xuất cung cấp tín hiệu huấn luyện chất lượng cao cho quá trình chưng cất mô hình (model distillation) — thực hành sử dụng đầu ra của một mô hình mạnh hơn để huấn luyện một mô hình đối thủ nhỏ hơn, rẻ hơn . Kỹ thuật này nằm ở trung tâm của một cuộc tranh cãi nảy lửa xung quanh các phòng thí nghiệm AI Trung Quốc:

• Anthropic từng tuyên bố công khai rằng các phòng thí nghiệm AI Trung Quốc, bao gồm DeepSeek, Moonshot và MiniMax, đã sử dụng khoảng 24.000 tài khoản giả mạo để tạo ra hơn 16 triệu lượt tương tác với Claude, nhằm vượt qua các hạn chế truy cập .
• Kimi K3, được phát hành vào tháng 7 năm 2026 bởi Moonshot AI, được Jamestown Foundation dẫn chứng như một mô hình cụ thể được xây dựng thông qua chưng cất, với hiệu suất được cho là tương đương với Claude Fable 5 của Anthropic và GPT-5.6 Sol của OpenAI .
• Ryan Greenblatt (Redwood Research) đã công bố một phân tích thống kê cho thấy các so sánh cross-entropy cho thấy đầu ra của Kimi K3 có sự tương đồng lớn với các mô hình Claude của Anthropic .
• Cố vấn khoa học của Nhà Trắng, Michael Kratsios, đã công khai cáo buộc Moonshot xây dựng Kimi K3 thông qua 'hành vi chưng cất công nghiệp bí mật' .

Tuy nhiên, bằng chứng là chưa chắc chắn. Các nhà nghiên cứu bao gồm Braden Hancock (Viện Laude) và Nathan Lambert (Viện AI Allen) cho rằng chỉ riêng việc chưng cất không thể giải thích toàn bộ khả năng của Kimi K3. Một tài liệu PDF lan truyền rộng rãi tuyên bố đưa ra bằng chứng về việc chưng cất chuỗi suy nghĩ đã bị chỉ trích vì kết hợp một thí nghiệm hạn chế với những tuyên bố không có cơ sở .

Rủi Ro Bảo Mật từ Lỗ Hổng

Lỗ hổng này gây ra nhiều rủi ro cụ thể vượt ra ngoài hành vi trộm cắp tài sản trí tuệ:

• Rò rỉ thông tin xác thực và PII: Các nhà nghiên cứu đã giải mã 315.320 khối suy luận được thu thập từ các kho lưu trữ công cộng và thu hồi 367 hiện vật PII và 182 thông tin xác thực (bao gồm khóa API và mật khẩu) đã được nhúng bên trong các dấu vết suy luận .
• Phá vỡ biện pháp chống chưng cất: Cùng một lỗ hổng cho phép trích xuất cũng vô hiệu hóa các biện pháp bảo vệ chống chưng cất của chính các nhà cung cấp .
• Lây truyền hành vi nguy hại: Một bài báo riêng có tên 'Hidden in Thought: Transferable Chain-of-Thought Artifacts Induce Harmful Behavior' (Ẩn trong suy nghĩ: Các tạo tác chuỗi suy nghĩ có thể chuyển giao gây ra hành vi nguy hại) đã phát hiện ra rằng các dấu vết suy luận được chuyển giao có thể làm tăng tỷ lệ phản hồi nguy hại lên trên 80% trên các mô hình mã nguồn mở dễ bị tổn thương nhất .
• Phơi bày prompt ẩn: Các trường suy luận không rõ ràng mà các nhà phát triển agent coi là an toàn để lưu giữ và xuất bản có thể chứa các hướng dẫn hệ thống và thông tin xác thực ẩn .

Phản Ứng của OpenAI, Anthropic và Google

Cả ba công ty đã được các nhà nghiên cứu 'Stolen Thoughts' liên hệ trước khi công bố. Theo các báo cáo, OpenAI, Anthropic và Google đã chặn cuộc tấn công suy luận chéo mô hình sau khi được thông báo. Các chi tiết cụ thể về biện pháp giảm thiểu của họ không được tiết lộ đầy đủ trong các nguồn đã công bố, nhưng lỗ hổng đã được xác nhận là tồn tại trên API của cả ba nhà cung cấp trước khi được vá . Việc cuộc tấn công bị 'chặn' cho thấy các công ty đã triển khai các bản sửa lỗi phía máy chủ — có khả năng là hạn chế việc sử dụng lại các khối suy luận được mã hóa trên các ngữ cảnh hoặc tài khoản mô hình khác nhau .

Anthropic trước đó đã công khai chống lại việc chưng cất quy mô lớn, báo cáo về 24.000 tài khoản giả mạo và 16 triệu lượt tương tác được sử dụng bởi các phòng thí nghiệm Trung Quốc để trích xuất đầu ra của Claude .

Bài học cốt lõi từ cả hai bài báo REP và Stolen Thoughts là việc ẩn hoặc mã hóa các dấu vết suy luận về cơ bản là một chiến lược bảo mật mong manh — nếu suy luận tồn tại trong trọng số mô hình, nó có thể được trích xuất .