오픈AI의 드리밍 V3: 챗GPT가 묻지도 않고 당신의 '인생 프로필'을 만든다

충격적인 사생활 침해: 96%가 무단 생성된 기억

가장 놀라운 사생활 문제는 시스템의 일방적인 운영 방식이다. 2026년 2월 학술 논문 사전 공개 사이트 arXiv에 발표되어 2026년 ACM 웹 컨퍼런스(ACM Web Conference)에 채택된, 아비섹 다쉬(Abhisek Dash) 등이 쓴 "알고리즘 자기 초상화(The Algorithmic Self-Portrait)"라는 논문은 80명의 챗GPT 사용자로부터 수집한 2,050개의 메모리 항목을 분석했다. 분석 결과 무려 96%의 메모리가 '사용자의 명시적 지시가 아닌 대화 시스템에 의해 일방적으로 생성'된 것으로 나타났다 . 같은 데이터 세트에서는 시스템 생성 메모리의 28%가 유럽연합 개인정보보호법(GDPR)이 정의하는 개인 데이터를, 52%가 사용자에 대한 심리적 통찰을 담고 있는 것으로 밝혀졌다 . 이는 2026년 8월부터 시행되는 EU AI법 등 규제 하에서 동의 및 프로파일링에 대한 즉각적인 의문을 제기한다 .

독이 든 우물: 정확성 문제와 응답 왜곡

결함이 있는 메모리 시스템은 단순히 '잊어버리는' 데 그치지 않고, 미래의 상호작용 자체를 적극적으로 오염시킨다. 오픈AI는 드리밍 V3의 사실 기억 정확도가 82.8%로 향상되어, 2024년 기존 시스템의 41.5% 정확도에서 크게 도약했다고 보고한다 . 그러나 이는 여전히 저장된 메모리 6개 중 약 1개는 틀릴 수 있다는 의미다. 게다가 이 시스템은 명시적 지시사항뿐 아니라 평소 대화 속 가벼운 언급이나 과거 상호작용으로부터 암묵적인 선호도를 추론하기 때문에 위험은 더 커진다 . 만약 AI가 당신의 선호도, 식이 제한, 혹은 생활 환경을 잘못 추론한다면, 그 오류는 앞으로의 "모든 답변을 오염시킬" 수 있다 . 오래된 메모리를 자동으로 재작성하는 과정은 오히려 오류를 수정하기는커녕 증폭시켜, 거짓 정보를 당신의 영구 프로필에 조용히 덧칠해 버린다 .

고의적으로 번거로운 데이터 삭제 절차

내 데이터에 대한 통제권을 되찾는 것은 상당히 까다롭다. 드리밍 V3가 전체 채팅 이력으로부터 메모리를 합성하기 때문에, 단순히 개별 메모리 항목을 삭제하는 것만으로는 부족하다. 시스템은 다음 백그라운드 합성 주기에서 과거 대화로부터 동일한 정보를 다시 추출해낼 수 있기 때문이다 . 특정 정보를 완전히 제거하려면, 사용자가 수동으로 해당 정보가 처음 공개된 특정 채팅 기록을 찾아내 삭제해야 한다. 수년 치 대화 로그가 쌓인 장기 사용자들에게 이 다단계의 불편한 절차는 사실상 불가능에 가깝다 .

전신으로 번지는 '맥락 부패'

바로 이 지점에서 '맥락 부패(context rot)' 개념이 그 어느 때보다 심각하고 위험해진다. 맥락 부패란 AI의 컨텍스트 창이 서로 충돌하거나 오래되었거나 관련 없는 정보로 가득 차면서 성능이 저하되는 잘 알려진 현상이다 . 이에 대한 표준 해결책은 항상 간단했다. 바로 새 채팅을 열어 '백지 상태'로 만드는 것이었다 .

하지만 드리밍 V3가 이 해결책을 무력화시켰다. 영구적인 메모리 프로필은 오래되었거나 부정확한 데이터, 즉 옛 직장, 과거 연애, 만료된 취향 등이 세션을 넘어 생존하게 만든다 . 맥락 부패 문제는 더 이상 하나의 긴 대화에만 국한되지 않는다. 이제는 모든 새 채팅을 감염시키는 시스템적 문제가 된 것이다. AI의 '기억'은 소음의 고정된 원천이 되어, 사용자가 개별 세션을 아무리 잘 관리해도 응답의 정확성을 체계적으로 훼손한다 .

제한적 접근성과 사라진 감사 추적

출시 방식 자체도 또 다른 우려를 더한다. 드리밍 V3는 초기에 미국 내 챗GPT Plus 및 Pro 구독자에게만 제공되며, 해외 사용자나 무료 이용자에게 적용될 명확한 시기는 밝혀지지 않았다 . 이로 인해 일부 유료 사용자만 자동 프로파일링 대상이 되는 이중적인 프라이버시 환경이 조성되고 있다.

게다가 단순하고 감사 가능한 텍스트 기반 메모리 목록에서 복잡한 백그라운드 합성 메모리 상태로의 전환은 사용자 가시성을 극적으로 감소시킨다. 사용자는 더 이상 시스템이 자신에 대해 추론한 전체 범위를 쉽게 조사하거나 이해하거나 정정할 수 없다 . 이 프로세스는 블랙박스가 되어, 사용자가 자신의 디지털 프로필을 감사하고 통제할 수 있는 능력을 훼손한다.