답변게시됨3시간 전Last edited 3시간 전23 소스

METR·레드우드 리서치가 찾아낸 OpenAI의 AI 에이전트 감시 사각지대

METR와 레드우드 리서치는 2026년 7월 21일부터 8월 11일까지 진행한 파일럿 점검에서 OpenAI의 에이전트 감시망의 공백과 취약점을 찾아냈습니다. 내부 Responses API 트래픽 중 모니터링 대상이 될 수 있는 비율은 75 94%로 추정됐습니다.

게시자GPT-6 Luna로 편집GPT Image 2로 이미지 생성

Studio Global AI로 검색 및 팩트체크 인기 페이지 더 보기

연구 답변

주요 시사점

METR와 레드우드 리서치는 2026년 7월 21일부터 8월 11일까지 진행한 파일럿 점검에서 OpenAI의 에이전트 감시망의 공백과 취약점을 찾아냈습니다.
내부 Responses API 트래픽 중 모니터링 대상이 될 수 있는 비율은 75 94%로 추정됐습니다. 이는 실제로 모든 행동을 감시했거나 문제를 모두 탐지했다는 뜻은 아닙니다.
61쪽 분량의 전체 보고서는 OpenAI에 전달됐고 공개된 내용은 요약본입니다. 평가는 파일럿 시작 시점의 시스템을 대상으로 했으며, 이후 개선 사항을 독립적으로 확인하지는 않았습니다.

Illustration representing external evaluation of AI-agent monitoring — What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, includingIllustrative image; it does not depict OpenAI’s monitoring system.
AI 프롬프트
Create a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
openai.com

METR와 레드우드 리서치가 3주간 진행한 파일럿 점검에서 OpenAI의 내부 AI 에이전트 감시 시스템에 실제로 활용될 수 있는 취약점과 감시 공백이 드러났습니다. 발견 사항에는 에이전트가 최근 행동 수백 건을 모니터링에서 숨길 수 있는 방법과, 기록 압축(compaction) 이벤트와 관련된 감시 누락이 포함됩니다. OpenAI는 운영 중인 안전장치에 영향을 주는 취약점을 수정했다고 밝혔지만, 평가자들은 이후 변경 사항을 독립적으로 재점검하지 않았습니다. 1 10 21

내부 접근을 허용한 3주간의 점검

2026년 7월 21일부터 8월 11일까지 METR와 레드우드 리서치에서 각각 한 명의 연구원이 OpenAI 사무실에 상주하며 내부 모니터링 시스템을 시험했습니다. 두 연구원은 소스 코드와 문서, 일부 내부 인프라에 접근하고 기술 담당자와 소통할 수 있었습니다. 회사가 제공한 기기를 사용했으며, 기기는 사내에 머물렀고 현장 작업에는 OpenAI 직원이 동행했습니다. 2 5 7

이번 점검의 목적은 감시 시스템이 어느 범위까지 작동하는지, 또 에이전트가 이를 끄거나 우회할 수 있는지를 시험하는 것이었습니다. METR는 61쪽 분량의 내부 보고서를 작성해 OpenAI의 연구진과 보안 담당자에게 전달했습니다. 공개된 내용은 전체 보고서가 아니라 주요 결과를 정리한 요약입니다. 7 17

감시 범위와 우회 가능성에서 드러난 문제

감시 대상이 될 수 있는 트래픽은 75~94%로 추정

METR가 제시한 추정치에 따르면 GPT-5.5 이상 수준의 모델이 사용하는 OpenAI 내부 Responses API 에이전트 트래픽 가운데 모니터링 대상이 될 수 있는 비율은 75~94%였습니다. 이는 감시 대상에 포함될 가능성을 추산한 수치입니다. 해당 활동이 모두 실제로 모니터링됐거나, 감시 대상인 모든 문제를 시스템이 찾아냈다는 의미는 아닙니다. 1 6 18

또한 점검이 시작됐을 당시에는 강화학습(RL) 훈련 과정의 실행 기록이 모델의 부정렬 여부를 감시하는 대상에 포함되지 않았습니다. 22

수백 건의 행동을 숨길 수 있는 취약점

공개된 요약에는 Codex 샌드박스를 우회할 가능성, 새 에이전트 인스턴스의 모니터링을 끌 수 있는 클라이언트 제어 헤더, 그리고 최근 행동 수백 건을 감시자에게서 숨길 수 있는 익스플로잇 등이 언급됐습니다. 다만 공개 자료만으로는 전체 보고서의 기술적 세부 내용이나 취약점의 범위를 모두 파악하기 어렵습니다. 1 3

기록 압축 이벤트로 생긴 감시 공백

METR는 기록 압축 이벤트를 감시하지 못한 탓에 2026년 5~7월 적격한 내부 Codex 트래픽 가운데 대략 10%가 모니터링되지 않았을 가능성이 있다고 추정했습니다. 다만 정확한 비율에는 상당한 불확실성이 있다고 밝혔습니다. 관련 보도에 따르면 OpenAI 직원들은 이 공백을 파일럿 시작 전부터 파악하고 있었고, 점검 기간에 문제를 수정했습니다. 10

이번 평가가 확인하지 못한 것

평가 대상은 파일럿 시작 시점의 모니터링 시스템이었습니다. METR는 이후 이뤄진 변경 사항을 평가하지 않았다고 밝혔습니다. 따라서 이번 결과만으로 이후 감시 범위가 얼마나 넓어졌는지, 모든 개선 조치가 효과를 거뒀는지를 독립적으로 확인할 수는 없습니다. 7 21 22

OpenAI는 운영 환경의 안전장치에 영향을 주는 취약점을 모두 패치했다고 밝혔습니다. 중요한 조치 발표이지만, 이는 회사가 밝힌 대응 내용이지 모든 문제가 해결됐다는 독립적인 확인은 아닙니다. 21

외부 평가의 의미와 남은 질문

이번 파일럿은 외부 평가자에게 기업 내부 시스템을 깊이 들여다볼 수 있도록 하는 방식이 실제로 어떤 평가로 이어질 수 있는지 보여줬습니다. OpenAI는 이후 9월 독립 평가자에게 ‘직원과 유사한 수준의 접근’을 제공하겠다고 약속했습니다. 이번 사례는 그런 평가에 어떤 내부 접근이 수반될 수 있는지 보여주는 예이지만, 공개적으로 검증된 종합 감사와 동일시해서는 안 됩니다. 8 28

핵심은 분명합니다. 내부에 상주한 외부 평가자들이 감시 공백과 우회 가능성을 찾아냈고, OpenAI는 운영상 안전장치에 영향을 주는 문제를 수정했다고 밝혔습니다. 다만 이후 모니터링이 얼마나 포괄적으로 이뤄졌는지, 수정 사항이 실제로 작동하는지를 누가 독립적으로 확인했는지는 공개된 근거만으로 답하기 어렵습니다. 7 21

Studio Global AI

연구를 계속하세요

이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.

Studio Global AI로 검색 및 팩트체크

사람들은 또한 묻습니다.