'위험한 제일브레이크'란 무엇인가: 치열한 공방

수출 통제의 직접적 발단은 소위 '제일브레이크'(jailbreak, AI의 안전장치를 무력화하는 공격 기법) 신고였습니다. 그러나 그 심각성을 두고 양측의 입장은 크게 갈렸습니다.

• 앤트로픽의 입장: CEO 아모데이는 긴급 통화에서 해당 제일브레이크가 '좁고(narrow), 보편적이지 않은(non-universal)' 결함으로, 광범위하게 악용될 수 있는 시스템적 우회 경로가 아니라고 주장했습니다. 앤트로픽은 성명을 통해 "정부로부터 잠재적인 좁고 보편적이지 않은 제일브레이크에 대한 구두 증거만 제공받았다"고 밝혔습니다 . 블로그 게시물에서는 "좁은 잠재적 제일브레이크 발견이 상용 모델을 리콜하는 이유가 되어야 한다는 점에 동의하지 않는다"고 강하게 반발했습니다 .
• 정부의 입장: 백악관은 고급 사이버 공격 능력(페이블 5는 소프트웨어 취약점 식별 기능을 갖춤)을 가진 모델의 안전장치가 단 한 번이라도 무력화됐다는 점 자체를 용납할 수 없는 국가 안보 위험으로 간주했습니다. 특히 외국 적대 세력이 접근할 수 있는 상황을 우려했습니다 .

이견은 빠르게 고조되었습니다. 복수의 보도에 따르면 아모데이는 관리들과의 통화에서 강하게 반발하며 정부의 우려를 '오해'라고 규정했고, 한때 협상은 완전히 결렬될 위기까지 갔습니다 .

백악관은 페이블 5를 새로운 AI 행정명령에 따른 안전장치의 테스트 케이스로 지정하고, 상무부, 재무부, 백악관을 총동원해 대응했습니다 . 행정부는 이 모델의 능력이 중국의 사이버 보안 공격 도구 접근 및 기타 위험한 이중 용도 기술로 이어질 수 있다고 우려했습니다 .

대립에서 협상으로: 통합 준수 프레임워크 구축

수출 통제 위기가 있은 지 며칠 만에, 백악관과 앤트로픽은 대립에서 구조화된 협상으로 전환했습니다 . 2026년 4월 17일, 아모데이는 백악관 관료들을 만나 생산적인 휴전 협상을 진행했으며, 이는 앤트로픽과 국방부 사이의 이전 마찰 이후 처음 있는 고위급 접촉이었습니다 .

이후 고위급 회의에는 미국 상무장관 하워드 러트닉(Howard Lutnick), 국가사이버국장 숀 케언크로스(Sean Cairncross), 앤트로픽 공동 창업자 톰 브라운(Tom Brown) 등이 참여했습니다 . 행정부는 페이블 5 테스트 케이스를 위해 상무부, 재무부, 백악관 간의 공조를 이끌어냈습니다 .

이러한 회담에서 탄생한 핵심 프로젝트는 프론티어 AI 모델의 보안 취약점, 특히 제일브레이크의 심각성을 평가하기 위한 통합 준수 프레임워크입니다 . 이 프레임워크는 안전 결함이 정부 개입을 정당화하는지 여부를 평가하기 위한 공통 벤치마크를 만드는 것을 목표로 합니다 .

통합 등급 시스템: 세 가지 평가 기준

이 노력의 핵심에는 제일브레이크에 대한 통합 등급 시스템이 있습니다. '치명적', '높음', '중간', '낮음'과 같은 공식적인 분류명이나 세부 평가표가 아직 공개되지는 않았지만, 이 프레임워크는 세 가지 위험 평가 기준을 사용하는 것으로 알려졌습니다 :

1. 우회된 보호 장치: 어떤 안전장치(예: 헌법 분류기, 실시간 필터)가 무력화되었는가.
2. 노출된 능력: 어떤 위험한 모델 능력(사이버 공격, 생물학적 지침, 화학 합성 등)에 접근할 수 있게 되었는가.
3. 실제 세계 영향: 해당 제일브레이크가 얼마나 쉽게 대규모로 악용될 수 있으며, 그 결과로 어떤 피해가 발생할 수 있는가.

정부의 목표는 이 등급 시스템을 사용하여, 위기 발생 후 임시방편으로 대응하는 것이 아니라, 수출 통제 부과, 완화 조치 요구, 배포 차단 등을 자동으로 결정하는 명확하고 사전 정의된 위험 임계값을 확립하는 것입니다 .

정부의 전략적 목표: '사후 대응형'에서 '규칙 기반 시스템'으로

백악관의 궁극적인 목표는 '사후 대응적이고 위기 주도적인 개입'에서 '규칙 기반 시스템'으로 전환하는 것입니다 . 앤트로픽과 함께 등급 프레임워크와 위험 임계값을 공동 개발함으로써, 백악관은 다음을 목표로 합니다:

• AI 연구소가 정부의 어떤 조치가 자신들을 자극하는지 예측 가능하게 만듭니다.
• 취약점 심각도를 설명하는 공유 용어를 확립합니다.
• 페이블 5와 미토스 5에서 발생했던 것처럼, 모델이 공개적으로 출시된 후 수출 통제로 갑자기 중단되는 상황을 미리 방지합니다.

핵심 불확실성: 프레임워크의 세부 기준, 범위, 일정 등은 아직 공개되지 않았습니다. 3가지 위험 평가 기준(우회된 보호 장치, 노출된 능력, 실제 세계 영향)은 여러 매체를 통해 보도되었지만 구체적인 점수 매기기 방법론은 공개되지 않았습니다 .

더 넓은 G7 맥락

미국-앤트로픽 프레임워크 개발은 G7 차원의 AI 안전 표준 논의를 배경으로 이루어지고 있습니다. G7은 프론티어 AI 위험 평가를 위한 국제적으로 조화된 벤치마크를 마련하기 위해 노력해 왔습니다 . 백악관과 앤트로픽이 구축 중인 통합 등급 시스템은 이러한 G7의 다자간 논의에 정보를 제공하고, 반대로 그 논의 내용을 반영할 것으로 예상되지만, 구체적인 G7 결과물은 아직 협상 중입니다 .

향후 전망

이 프레임워크의 개발은 미국 AI 정책에서 중요한 전환점을 의미합니다. 수출 통제가 있기 불과 며칠 전, 아모데이는 정부가 독립적인 안전 테스트를 통과하지 못한 프론티어 AI 모델의 배포를 차단하거나 되돌릴 수 있는 강제적 법적 권한을 보유해야 한다는 내용의 정책 에세이를 발표했습니다 . 6월 12일의 위기는 이 원칙을 예상치 못한 대립으로 시험대에 올렸습니다.

여전히 남아있는 핵심 질문은 '좁고 관리 가능한 취약점'과 '정부 개입을 정당화하는 시스템적 위험' 사이의 경계선을 어떻게 정의할 것인가입니다. 이에 대한 답변은 앤트로픽의 미래 모델 출시뿐만 아니라, 프론티어 AI 개발에 대한 광범위한 규제 환경을 결정짓는 중요한 요소가 될 것입니다.

'위험한 제일브레이크'란 무엇인가: 치열한 공방

수출 통제의 직접적 발단은 소위 '제일브레이크'(jailbreak, AI의 안전장치를 무력화하는 공격 기법) 신고였습니다. 그러나 그 심각성을 두고 양측의 입장은 크게 갈렸습니다.

• 앤트로픽의 입장: CEO 아모데이는 긴급 통화에서 해당 제일브레이크가 '좁고(narrow), 보편적이지 않은(non-universal)' 결함으로, 광범위하게 악용될 수 있는 시스템적 우회 경로가 아니라고 주장했습니다. 앤트로픽은 성명을 통해 "정부로부터 잠재적인 좁고 보편적이지 않은 제일브레이크에 대한 구두 증거만 제공받았다"고 밝혔습니다 . 블로그 게시물에서는 "좁은 잠재적 제일브레이크 발견이 상용 모델을 리콜하는 이유가 되어야 한다는 점에 동의하지 않는다"고 강하게 반발했습니다 .
• 정부의 입장: 백악관은 고급 사이버 공격 능력(페이블 5는 소프트웨어 취약점 식별 기능을 갖춤)을 가진 모델의 안전장치가 단 한 번이라도 무력화됐다는 점 자체를 용납할 수 없는 국가 안보 위험으로 간주했습니다. 특히 외국 적대 세력이 접근할 수 있는 상황을 우려했습니다 .

이견은 빠르게 고조되었습니다. 복수의 보도에 따르면 아모데이는 관리들과의 통화에서 강하게 반발하며 정부의 우려를 '오해'라고 규정했고, 한때 협상은 완전히 결렬될 위기까지 갔습니다 .

백악관은 페이블 5를 새로운 AI 행정명령에 따른 안전장치의 테스트 케이스로 지정하고, 상무부, 재무부, 백악관을 총동원해 대응했습니다 . 행정부는 이 모델의 능력이 중국의 사이버 보안 공격 도구 접근 및 기타 위험한 이중 용도 기술로 이어질 수 있다고 우려했습니다 .

대립에서 협상으로: 통합 준수 프레임워크 구축

수출 통제 위기가 있은 지 며칠 만에, 백악관과 앤트로픽은 대립에서 구조화된 협상으로 전환했습니다 . 2026년 4월 17일, 아모데이는 백악관 관료들을 만나 생산적인 휴전 협상을 진행했으며, 이는 앤트로픽과 국방부 사이의 이전 마찰 이후 처음 있는 고위급 접촉이었습니다 .

이후 고위급 회의에는 미국 상무장관 하워드 러트닉(Howard Lutnick), 국가사이버국장 숀 케언크로스(Sean Cairncross), 앤트로픽 공동 창업자 톰 브라운(Tom Brown) 등이 참여했습니다 . 행정부는 페이블 5 테스트 케이스를 위해 상무부, 재무부, 백악관 간의 공조를 이끌어냈습니다 .

이러한 회담에서 탄생한 핵심 프로젝트는 프론티어 AI 모델의 보안 취약점, 특히 제일브레이크의 심각성을 평가하기 위한 통합 준수 프레임워크입니다 . 이 프레임워크는 안전 결함이 정부 개입을 정당화하는지 여부를 평가하기 위한 공통 벤치마크를 만드는 것을 목표로 합니다 .

통합 등급 시스템: 세 가지 평가 기준

이 노력의 핵심에는 제일브레이크에 대한 통합 등급 시스템이 있습니다. '치명적', '높음', '중간', '낮음'과 같은 공식적인 분류명이나 세부 평가표가 아직 공개되지는 않았지만, 이 프레임워크는 세 가지 위험 평가 기준을 사용하는 것으로 알려졌습니다 :

1. 우회된 보호 장치: 어떤 안전장치(예: 헌법 분류기, 실시간 필터)가 무력화되었는가.
2. 노출된 능력: 어떤 위험한 모델 능력(사이버 공격, 생물학적 지침, 화학 합성 등)에 접근할 수 있게 되었는가.
3. 실제 세계 영향: 해당 제일브레이크가 얼마나 쉽게 대규모로 악용될 수 있으며, 그 결과로 어떤 피해가 발생할 수 있는가.

정부의 목표는 이 등급 시스템을 사용하여, 위기 발생 후 임시방편으로 대응하는 것이 아니라, 수출 통제 부과, 완화 조치 요구, 배포 차단 등을 자동으로 결정하는 명확하고 사전 정의된 위험 임계값을 확립하는 것입니다 .

정부의 전략적 목표: '사후 대응형'에서 '규칙 기반 시스템'으로

백악관의 궁극적인 목표는 '사후 대응적이고 위기 주도적인 개입'에서 '규칙 기반 시스템'으로 전환하는 것입니다 . 앤트로픽과 함께 등급 프레임워크와 위험 임계값을 공동 개발함으로써, 백악관은 다음을 목표로 합니다:

• AI 연구소가 정부의 어떤 조치가 자신들을 자극하는지 예측 가능하게 만듭니다.
• 취약점 심각도를 설명하는 공유 용어를 확립합니다.
• 페이블 5와 미토스 5에서 발생했던 것처럼, 모델이 공개적으로 출시된 후 수출 통제로 갑자기 중단되는 상황을 미리 방지합니다.

핵심 불확실성: 프레임워크의 세부 기준, 범위, 일정 등은 아직 공개되지 않았습니다. 3가지 위험 평가 기준(우회된 보호 장치, 노출된 능력, 실제 세계 영향)은 여러 매체를 통해 보도되었지만 구체적인 점수 매기기 방법론은 공개되지 않았습니다 .

더 넓은 G7 맥락

미국-앤트로픽 프레임워크 개발은 G7 차원의 AI 안전 표준 논의를 배경으로 이루어지고 있습니다. G7은 프론티어 AI 위험 평가를 위한 국제적으로 조화된 벤치마크를 마련하기 위해 노력해 왔습니다 . 백악관과 앤트로픽이 구축 중인 통합 등급 시스템은 이러한 G7의 다자간 논의에 정보를 제공하고, 반대로 그 논의 내용을 반영할 것으로 예상되지만, 구체적인 G7 결과물은 아직 협상 중입니다 .

향후 전망

이 프레임워크의 개발은 미국 AI 정책에서 중요한 전환점을 의미합니다. 수출 통제가 있기 불과 며칠 전, 아모데이는 정부가 독립적인 안전 테스트를 통과하지 못한 프론티어 AI 모델의 배포를 차단하거나 되돌릴 수 있는 강제적 법적 권한을 보유해야 한다는 내용의 정책 에세이를 발표했습니다 . 6월 12일의 위기는 이 원칙을 예상치 못한 대립으로 시험대에 올렸습니다.

여전히 남아있는 핵심 질문은 '좁고 관리 가능한 취약점'과 '정부 개입을 정당화하는 시스템적 위험' 사이의 경계선을 어떻게 정의할 것인가입니다. 이에 대한 답변은 앤트로픽의 미래 모델 출시뿐만 아니라, 프론티어 AI 개발에 대한 광범위한 규제 환경을 결정짓는 중요한 요소가 될 것입니다.