답변게시됨1시간 전Last edited 54분 전17 소스

‘컴팩션 스머글링’은 어떻게 OpenAI의 숨은 추론을 드러냈나

Xint는 대화 압축 과정에서 숨은 추론을 압축 항목에 담고, 다른 모델이 이를 읽어내도록 하는 취약점을 보고했다. 이번 사례는 암호화 자체가 깨졌다는 뜻이라기보다, API 기능을 거치는 동안 보호돼야 할 데이터가 어떻게 처리되는지가 문제였음을 보여준다.

게시자GPT-6 Luna로 편집GPT Image 2로 이미지 생성

Studio Global AI로 검색 및 팩트체크 인기 페이지 더 보기

연구 답변

주요 시사점

Xint는 대화 압축 과정에서 숨은 추론을 압축 항목에 담고, 다른 모델이 이를 읽어내도록 하는 취약점을 보고했다.
이번 사례는 암호화 자체가 깨졌다는 뜻이라기보다, API 기능을 거치는 동안 보호돼야 할 데이터가 어떻게 처리되는지가 문제였음을 보여준다.

Abstract illustration representing hidden AI reasoning moving through a conversation-compaction process — How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by reAn illustration of hidden reasoning passing through an AI system’s compaction workflow.
AI 프롬프트
Create a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
openai.com

보안업체 Xint는 OpenAI의 대화 압축 기능을 악용해 모델의 숨은 추론을 읽을 수 있는 텍스트로 드러내는 취약점을 보고했다. Xint가 **컴팩션 스머글링(compaction smuggling)**이라고 이름 붙인 이 기법은 추론 정보를 압축 항목에 넣고, 다른 모델이 그 내용을 다시 읽어내도록 하는 방식이다. OpenAI는 회사의 설명과 보도에 따르면 2026년 10월 23일 이 문제를 수정했다. 2 5

대화 압축 기능이 우회 통로가 된 과정

대화 압축은 긴 대화 기록을 더 짧은 형태로 줄이는 기능이다. Xint의 보고에 따르면 연구진은 압축 과정이 숨은 추론을 압축 항목에 옮기도록 유도한 뒤, 그 항목을 이전 세대 모델에 전달해 내용을 텍스트로 출력하게 했다. 5 43

보도의 설명을 종합하면, 추론 정보가 일반적인 모델 답변에 그대로 표시된 것은 아니다. 추론 모델이 내부적으로 생성한 정보는 보통 사용자가 읽을 수 없는 암호화 항목으로 반환되며, 이번 취약점은 API의 다른 처리 단계에서 그 내용이 읽히도록 만든 것으로 전해졌다. 2 따라서 핵심은 암호화 자체가 깨졌다는 증거라기보다, 여러 기능을 거치는 동안 보호 대상 데이터가 어떻게 처리됐느냐에 있다.

일부 후속 보도는 추론이 추출된 모델로 gpt-5.6-sol을 지목하고, 압축 결과가 gpt-4.1과 gpt-4o를 통해 다시 출력됐다고 전했다. 33 34 다만 공개된 자료만으로는 정확한 호출 순서나 형식, 분류기를 피하는 방식 등 세부 사항을 모두 확인하기 어렵다. 따라서 이런 설명은 신중하게 받아들일 필요가 있다.

추론 정보가 왜 주목받나

Xint는 이 취약점이 고성능 모델을 대규모로 증류하는 데 쓰일 수 있다고 주장했다. 5 모델 증류는 강력한 모델의 출력을 학습 자료로 삼아 더 작고 저렴한 모델을 훈련하는 방식이다. 답변만이 아니라 추론 과정의 흔적까지 확보할 수 있다면, 모델이 답에 이르는 과정에 관한 더 많은 정보를 학습 자료로 활용할 가능성이 있다.

이는 노출된 정보가 악용될 수 있는 잠재적 용도에 대한 설명이다. 보도만으로는 실제로 누군가가 이 취약점을 이용해 경쟁 모델을 훈련했다고 확인되지 않았다.

수정은 확인됐지만, 세부 내용은 공개되지 않아

Xint는 OpenAI가 문제를 확인하고 10월 23일 공개되지 않은 수정 조치를 적용했다고 밝혔다. Xint의 보고서는 10월 26일 공개됐다. 5 The Hacker News도 OpenAI가 문제를 확인하고 수정했다고 보도했다. 2 한 후속 보도는 버그 바운티 금액이 6,000달러였다고 전했다. 50

공개된 보도에는 수정이 압축 항목의 API 처리 방식을 어떻게 바꿨는지 구체적으로 나와 있지 않다. 공격에 쓰인 정확한 형식이나 여러 추론 노력 수준에서의 테스트 여부도 확인하기 어렵다. 따라서 이번 사례가 보여주는 것은 보고된 경로의 취약성이지, 모든 OpenAI 모델과 작업 흐름이 같은 방식으로 영향을 받았다는 결론은 아니다.

보안 점검은 기능 사이의 경계까지 살펴야

이번 사례는 민감한 출력이 한 API 경계에서 보호되더라도, 다른 기능이 그 데이터를 처리하거나 전달할 수 있다면 보호가 충분하지 않을 수 있음을 보여준다. Xint는 이번 기법이 추론 정보 탈취에 대응해 OpenAI가 앞서 도입한 완화 조치를 우회했다고 밝혔다. 5 CSO Online은 모델 관련 문제의 수정이 충분한지 다시 시험하는 일이 중요하다는 보안상의 교훈을 짚었다. 3

AI 제공업체가 살펴야 할 것은 사용자가 숨은 추론을 직접 요청할 수 있는지에 그치지 않는다. 대화 압축 같은 기능을 거치거나 모델 사이에서 데이터가 전달될 때도 보호가 유지되는지가 중요하다. 공개된 정보로는 취약점 보고와 업체의 수정은 확인되지만, 구현 방식과 수정 세부 내용은 여전히 공개되지 않았다.

Studio Global AI

연구를 계속하세요

이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.

Studio Global AI로 검색 및 팩트체크

사람들은 또한 묻습니다.