Câu trả lờiĐã xuất bản17 nguồn
Compaction smuggling: cách một tính năng nén hội thoại có thể làm lộ suy luận AI
Xint cho biết compaction smuggling đã giúp chuyển dấu vết suy luận ẩn của một mô hình OpenAI vào mục nén hội thoại, rồi dùng mô hình khác đọc lại. Vụ việc đặt ra câu hỏi về cách dữ liệu được bảo vệ khi đi qua nhiều tính năng API; các nguồn không cho thấy mã hóa bị phá trực tiếp.
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Xint cho biết compaction smuggling đã giúp chuyển dấu vết suy luận ẩn của một mô hình OpenAI vào mục nén hội thoại, rồi dùng mô hình khác đọc lại.
- Vụ việc đặt ra câu hỏi về cách dữ liệu được bảo vệ khi đi qua nhiều tính năng API; các nguồn không cho thấy mã hóa bị phá trực tiếp.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Xint cho biết một lỗ hổng trong quy trình nén hội thoại của OpenAI đã giúp các nhà nghiên cứu đưa dấu vết suy luận ẩn của mô hình ra dưới dạng văn bản có thể đọc được. Kỹ thuật này, được gọi là compaction smuggling, tận dụng một mục dữ liệu nén để mô hình khác đọc lại nội dung. Theo Xint và các bản tin, OpenAI đã khắc phục vấn đề vào ngày 23/10/2026. 2
5
Lỗ hổng hoạt động như thế nào?
Nén hội thoại (compaction) giúp rút gọn một cuộc trò chuyện dài thành dạng ngắn hơn. Theo mô tả của Xint, nhóm nghiên cứu đã điều hướng quy trình này để sao chép dấu vết suy luận ẩn vào một mục nén, sau đó đưa mục đó cho một mô hình đời cũ hơn để chuyển nội dung thành văn bản. 5
43
Điểm đáng chú ý là suy luận không được đưa ra trực tiếp trong câu trả lời thông thường của mô hình. Theo bài viết của The Hacker News, hệ thống thường trả về phần suy luận dưới dạng dữ liệu mã hóa mà người dùng không thể đọc. Lỗ hổng được báo cáo tận dụng một công đoạn xử lý khác của API để khiến nội dung trở nên dễ đọc. 2 Vì vậy, đây là vấn đề về cách dữ liệu được bảo vệ khi đi qua nhiều tính năng, chứ không phải bằng chứng cho thấy bản thân mã hóa đã bị phá.
Một số bài viết thứ cấp nêu gpt-5.6-sol là mô hình có dấu vết suy luận bị trích xuất, sau đó nội dung được lặp lại qua gpt-4.1 và gpt-4o. 33
34 Tuy nhiên, các trích đoạn nguồn hiện có chưa xác nhận đầy đủ mọi chi tiết của quy trình ba lượt gọi, chẳng hạn định dạng chính xác hay cách né bộ phân loại. Vì vậy, những điểm này cần được xem xét thận trọng.
Vì sao dấu vết suy luận có giá trị?
Xint cảnh báo lỗ hổng có thể tạo điều kiện cho việc chưng cất mô hình tiên tiến ở quy mô lớn. 5 Chưng cất là quá trình dùng đầu ra của một mô hình mạnh làm dữ liệu huấn luyện cho mô hình nhỏ hơn. So với câu trả lời cuối cùng, các bước suy luận có thể cung cấp thêm thông tin về cách mô hình đi đến đáp án, nên có tiềm năng trở thành dữ liệu huấn luyện hữu ích.
Đây là một khả năng sử dụng dữ liệu bị lộ, không phải bằng chứng cho thấy có bên nào đã dùng lỗ hổng để huấn luyện mô hình cạnh tranh.
Đã khắc phục, nhưng chi tiết bản vá chưa rõ
Xint cho biết OpenAI xác nhận vấn đề và triển khai bản vá không công bố chi tiết vào ngày 23/10, trước khi Xint đăng báo cáo ngày 26/10. 5 The Hacker News cũng đưa tin OpenAI xác nhận và khắc phục lỗ hổng.
2 Một nguồn tin thứ cấp cho biết khoản tiền thưởng phát hiện lỗi là 6.000 USD.
50
Các nguồn hiện có không mô tả đủ chi tiết để đánh giá bản vá đã thay đổi cách API xử lý các mục nén ra sao. Chúng cũng chưa xác minh đầy đủ định dạng tấn công cụ thể hay các tuyên bố về việc thử nghiệm trên mọi mức độ suy luận. Do đó, phát hiện này cho thấy rủi ro ở con đường được báo cáo, chứ không chứng minh mọi mô hình hoặc quy trình của OpenAI đều bị ảnh hưởng theo cùng một cách.
Bài học bảo mật: cần kiểm tra lại toàn bộ quy trình
Sự việc cho thấy bảo vệ dữ liệu nhạy cảm ở một điểm trong API có thể chưa đủ nếu một tính năng khác vẫn có thể xử lý hoặc chuyển tiếp dữ liệu đó. Xint nói kỹ thuật này đã vượt qua các biện pháp giảm thiểu mà OpenAI triển khai sau nghiên cứu trước đó về việc đánh cắp dấu vết suy luận. 5 CSO Online nhấn mạnh bài học rộng hơn: cần kiểm tra lại sau khi vá, vì một bản sửa lỗi chưa chắc đã giải quyết triệt để vấn đề liên quan đến mô hình.
3
Với các nhà cung cấp AI, câu hỏi không chỉ là liệu người dùng có thể yêu cầu mô hình tiết lộ suy luận ẩn hay không. Còn cần bảo đảm dữ liệu ấy vẫn được bảo vệ khi đi qua các tính năng như nén hội thoại hoặc được chuyển giữa các mô hình. Thông tin công khai xác nhận lỗ hổng được báo cáo và việc nhà cung cấp đã khắc phục, nhưng nhiều chi tiết triển khai vẫn chưa được công bố.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Compaction smuggling: cách một tính năng nén hội thoại có thể làm lộ suy luận AI" là gì?
Xint cho biết compaction smuggling đã giúp chuyển dấu vết suy luận ẩn của một mô hình OpenAI vào mục nén hội thoại, rồi dùng mô hình khác đọc lại.
Những điểm chính cần xác nhận đầu tiên là gì?
Xint cho biết compaction smuggling đã giúp chuyển dấu vết suy luận ẩn của một mô hình OpenAI vào mục nén hội thoại, rồi dùng mô hình khác đọc lại. Vụ việc đặt ra câu hỏi về cách dữ liệu được bảo vệ khi đi qua nhiều tính năng API; các nguồn không cho thấy mã hóa bị phá trực tiếp.
Nguồn
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling