OpenAI의 ‘프라이빗 세이프티 프로세싱’, 기업 개인정보와 AI 안전 사이의 해법 될까

OpenAI가 기업용 AI 서비스의 오래된 난제를 정면으로 겨냥했습니다. 악용을 잡아내려면 대화의 맥락을 봐야 하지만, 기업 고객은 프롬프트와 응답을 외부에 남기고 싶어 하지 않는다는 문제입니다.

OpenAI는 2026년 8월 19일, 기존 Zero Data Retention(ZDR·제로 데이터 보관) 정책과 호환되는 Private Safety Processing을 일부 고객 대상으로 프리뷰한다고 밝혔습니다. 이 시스템은 고객 콘텐츠를 OpenAI 직원에게 공개하지 않고 보관하지도 않으면서, 여러 상호작용에 걸쳐 나타나는 위험 패턴을 자동으로 찾아내는 것을 목표로 합니다. 31

한 번의 요청이 아니라 ‘작업 흐름’을 본다

기존 ZDR 호환 안전 시스템은 각 상호작용을 개별적으로 평가하는 방식이었습니다. 이 방식에서는 한 번의 요청만으로는 문제가 없어 보이는 대화가 여러 차례 이어지며 악용으로 발전하는 경우를 놓칠 수 있습니다.

Private Safety Processing은 관련된 여러 대화의 입력과 출력을 연결해 안전과 관련된 패턴을 분석하도록 설계됐습니다. 예를 들어 개별 요청만 보면 일반적인 코딩 질문처럼 보이더라도, 여러 요청이 합쳐져 악성코드 개발이나 시스템 침투를 돕는 단계별 작업 흐름을 이룬다면 이를 위험 신호로 포착할 수 있다는 구상입니다. 악의적인 사람뿐 아니라 해킹을 시도하는 ‘정렬되지 않은 AI 에이전트’도 탐지 대상에 포함됩니다. 31

OpenAI 직원에게 전달되는 것은 콘텐츠가 아니다

OpenAI가 제시한 핵심 개인정보 보호 경계는 자동화된 분석과 콘텐츠 접근을 분리하는 것입니다. 고객 데이터는 고객이 통제하는 인프라에 남거나, OpenAI에 저장되는 경우에도 고객이 독점적으로 보유한 키로 암호화되는 방식이 거론됩니다. 79

위험 패턴이 포착되면 OpenAI에 전달되는 것은 프롬프트와 응답, 또는 이를 재구성할 수 있는 대화 기록이 아니라 활동 유형이나 심각도와 같은 좁게 정의된 안전 신호입니다. 따라서 OpenAI 측 담당자가 원문 대화를 읽고 검토하는 방식이 Private Safety Processing의 기본 작동 방식은 아닙니다. 310

탐지 이후에도 기업의 협조는 선택 사항

탐지 결과가 나왔다고 해서 곧바로 OpenAI가 보관된 대화 전체를 확보해 사람에게 검토시키는 구조는 아닙니다. 후속 조치는 위험 표시나 계정 단위의 안전 조치가 중심이며, OpenAI가 해당 기업에 자체 조사를 요청하거나 관련 맥락을 자발적으로 제공해 달라고 요청할 수 있습니다. 기업의 협조는 선택 사항으로 제시됩니다. 310

다만 이 기능은 아직 일부 초기 고객을 대상으로 시험 중인 제한적 프리뷰입니다. 오탐을 어떻게 처리할지, 안전 신호가 얼마나 구체적인지, 실제 계정 제재가 어떤 절차로 이뤄지는지는 향후 검증이 필요한 부분입니다. 310

Anthropic은 30일 보관과 통제된 검토를 택했다

Anthropic의 접근은 이와 뚜렷한 대조를 이룹니다. Anthropic은 2026년 6월부터 Mythos 계열 모델과 비슷한 수준의 향후 고성능 모델을 ‘커버드 모델’로 지정하고, 해당 모델에 입력된 프롬프트와 생성된 응답을 30일간 보관하도록 했습니다. 이 데이터는 모델 학습이나 안전과 무관한 목적으로 사용하지 않는다는 조건이 붙었고, 제한된 사람 검토와 접근 기록 관리가 안전 대책의 일부로 포함됐습니다.

Anthropic은 복잡한 사이버 공격이나 여러 요청에 걸친 공격을 조사하고 오탐을 줄이려면 일정 기간의 데이터 보관이 필요하다고 설명합니다. 사람의 데이터 접근은 제한되며, 접근 기록은 변조 방지를 고려한 방식으로 남겨지는 것으로 보도됐습니다. 65

최근 보도에 따르면 Anthropic은 30일 보관 요건 자체는 유지하되, 기업이 데이터를 Anthropic의 클라우드가 아닌 자체 클라우드 인프라에 보관할 수 있도록 하는 방안을 추진하고 있습니다.

어느 쪽도 위험을 없애지는 못한다

두 회사의 차이는 안전과 기밀성 사이에서 서로 다른 비용을 감수하는 데 있습니다.

• OpenAI 방식: 콘텐츠를 보관하지 않고 제한적인 신호만 활용합니다. 기업의 데이터 보관·접근 부담은 줄일 수 있지만, 적은 정보만으로 복잡한 악용을 정확히 식별해야 합니다.
• Anthropic 방식: 30일간 원문 데이터를 보관해 사건 발생 후 조사와 보안 검토를 가능하게 합니다. 대신 데이터 관리, 규제 준수, 접근 통제와 관련된 부담이 커집니다.

결국 OpenAI는 ‘콘텐츠 없는 안전 텔레메트리’가 여러 세션에 걸친 악용까지 포착할 수 있다고 베팅하고 있습니다. Anthropic은 심각한 보안 사고의 사후 조사를 위해 단기 보관과 엄격히 통제된 검토가 필요하다고 보는 셈입니다.

기업 시장 경쟁과 IPO 보도는 별개의 문제

이 개인정보 보호 경쟁은 양사의 기업용 AI 시장 경쟁이 치열해지는 가운데 등장했습니다. 보도에 따르면 Anthropic의 7월 말 연환산 매출 런레이트는 650억 달러를 넘어섰습니다. 이는 최근의 매출 속도를 1년 기준으로 환산한 수치이지, 실제로 확정된 연간 매출이나 감사받은 실적을 뜻하지 않습니다.

또 일부 투자자들은 Anthropic의 잠재적인 기업공개(IPO) 가치가 2조 달러 이상이 될 수 있다고 예상한 것으로 전해졌습니다. 이 역시 투자자들의 전망이며 확정된 공모가나 보장된 기업가치가 아닙니다.

이런 상황에서 OpenAI의 발표는 단순한 안전 기술 업데이트를 넘어, 금융·의료·법률·보안처럼 데이터 기밀성이 중요한 기업이 AI 도입을 검토할 때 걸림돌이 되는 데이터 보관 문제를 줄이려는 경쟁 전략으로도 읽힙니다. 310

다만 제공된 자료만으로는 OpenAI의 IPO 일정이나 조건을 확정적으로 설명하기 어렵습니다. OpenAI가 임박한 상장을 확정했다는 식의 주장은 별도의 최신 자료로 확인해야 합니다.