백악관, “젤브레이크 완전 차단” 요구…AI 연구계 “컴퓨터 과학상 불가능한 요구”

중요한 것은 여기서 끝이 아니라는 점입니다. 수출 통제 이후 백악관은 한 단계 더 나아가 앤트로픽에 ‘제로 젤브레이크(zero-jailbreak)’를 요구했습니다. 즉, 향후 프론티어 모델을 출시하려면 “어떤 방식으로든 안전장치를 우회할 수 있는 경로를 완전히 차단하라”는 것입니다. 이는 “버그 몇 개를 고쳐라”가 아니라 “절대적인 완벽함”을 요구하는 조건입니다.

왜 ‘제로 젤브레이크’는 기술적으로 불가능한가

AI 연구자들은 이 요구가 ‘어렵다’는 차원을 넘어 ‘이론적으로 불가능’하다고 입을 모읍니다. 이유는 대규모 언어 모델(LLM)의 수학적 기반과 관련 있습니다.

젤브레이크 역설(The Jailbreak Paradox)

2024년 arXiv에 발표된 논문(2026년 5월 업데이트)은 두 가지 역설을 공식적으로 증명했습니다. 첫째, 완벽한 젤브레이크 탐지기를 만드는 것은 불가능하다. 둘째, 약한 모델은 강한 모델이 젤브레이크되었는지 여부를 일관되게 탐지할 수 없다. 이는 ‘버그’가 아니라 ‘정의상의 한계’입니다. AI 정렬(alignment)이라는 개념 자체에 내재된 수학적 굴레인 셈입니다.

적대적 공방: 풀 수 없는 문제

젤브레이킹은 근본적으로 적대적(adversarial) 문제입니다. 공격자들은 새로운 프롬프트 패턴, 인코딩 트릭, 다중 턴 전략을 끊임없이 발굴합니다. 한 유형의 젤브레이크를 막아도 새로운 변종이 나옵니다. 마치 사이버 보안의 ‘제로 데이(Zero-Day)’와 같지만 훨씬 더 근본적인 문제입니다.

자율적 젤브레이크 확장

2026년 3월 《네이처 커뮤니케이션즈》에 발표된 연구에 따르면, 대형 추론 모델(LRM)이 스스로 자율적 젤브레이크 에이전트로 작동할 수 있습니다. 이 방식으로 실험한 결과, 모든 모델 조합에서 평균 97.14%의 젤브레이크 성공률을 기록했습니다. 공격 표면은 줄어들지 않고 오히려 빠르게 확장되고 있습니다.

전문가 합의

보안 전문가들은 “젤브레이크를 완전히 차단하려면 모든 프론티어 AI 배포를 중단해야 한다”고 말합니다. 이는 ‘버그를 고치는 수준의 타겟’이 아니라 ‘존재 자체가 증명 불가능한 요구’라는 의미입니다.

백악관의 요구, 왜 이런 지경까지 왔나

이번 사태는 갑작스럽게 터진 것이 아닙니다. 일련의 긴장 고조 과정이 있었습니다.

1. 펜타곤과의 갈등 선행: 앤트로픽은 이미 미 국방부(펜타곤)와 마찰을 빚고 있었습니다. 펜타곤은 앤트로픽을 ‘공급망 리스크’로 지정해 연방 기관들이 자사 제품 사용을 제한하거나 중단하도록 지시했습니다.

2. 아마존의 방아쇠: 아마존 CEO 앤디 재시(Andy Jassy)가 백악관에 페이블 5의 특정 보안 취약점을 직접 경고했다는 보도가 나왔습니다. 최소 5개 다른 기업들도 유사한 경고를 한 것으로 알려졌습니다.

3. 돌발 셧다운: 6월 12일 오후 5시 21분(ET), 앤트로픽은 상무부의 서한을 받았습니다. 약 90분의 시간이 주어졌고, 오후 10시경 두 모델은 전 세계에서 완전히 차단되었습니다.

4. 제로 젤브레이크 최후통첩: 셧다운 이후 백악관은 수출 제한이라는 카드에서 ‘기술적으로 불가능한 보안 기준’이라는 카드로 수위를 높였습니다.

테크크런치(TechCrunch)는 이 사태 전체를 “AI 젤브레이크 자체가 문제가 아니었다”고 분석했습니다. 정부가 언제든 일방적으로 ‘위험한 AI 모델’을 판단하고 강제 종료할 수 있다는 신호를 보낸 것이라는 해석입니다.

정부가 실제로 원하는 것은

복수 매체의 보도에 따르면, 백악관의 입장은 명확합니다. “젤브레이크가 불가능해질 때까지 페이블 5는 돌아올 수 없다”. 이는 ‘절대적인 이분법’입니다. 어떤 젤브레이크도 존재하지 않거나, 아니면 모델을 배포할 수 없다는 것입니다.

앤트로픽은 반발했습니다. “아직 아무도 유니버셜 젤브레이크(보편적 우회 방법)를 찾지 못했다”며, “모든 젤브레이크를 완전히 회피하는 것은 우리뿐 아니라 어떤 기업도 불가능하다”고 밝혔습니다. 또한 “해로운 결과를 초래한 논유니버셜 젤브레이크에 대한 제보조차 받지 못했다”고 덧붙였습니다.

앤트로픽의 세 가지 전략적 선택지

복수의 매체 보도를 종합하면, 앤트로픽은 세 가지 길을 고민하고 있습니다.

1. 협상과 준수(Compliance and Negotiation)
앤트로픽 CEO 다리오 아모데이(Dario Amodei)는 6월 15일 백악관 관료들과 만나 ‘취약점 평가 프레임워크’를 논의했습니다. 이는 제로 젤브레이크라는 절대 기준을 단계별 심각도 기준으로 대체하는 방안입니다. 현재 앤트로픽이 가장 적극적으로 추진 중인 경로입니다.

2. 사법적/정치적 도전(Judicial or Political Challenge)
앤트로픽은 법원에 수출 통제를 이의 제기할 수 있습니다. 정부가 법적 권한을 초과했거나, 이미 공개된 상업 제품에 소급 적용해 적법 절차를 위반했다는 논리입니다. 이는 성공 시 큰 판례를 남기지만, 매우 높은 위험을 감수해야 하는 선택지입니다.

3. 사업 구조 변경 또는 이전(Restructure or Relocate)
예측 가능한 규제 환경을 가진 국가로 모델 출시를 제한하거나, 미국 내 제품과 글로벌 제품을 분리하는 방안입니다. 일부 분석가는 이를 ‘핵 옵션(nuclear option)’이라고 부르며, 앤트로픽의 비즈니스 모델을 근본적으로 바꾸는 선택이라고 평가합니다.

왜 이번 사태가 AI 업계의 분수령인가

이번 충돌은 프론티어 AI의 미래를 규정할 세 가지 근본적 긴장 관계를 극명하게 드러냈습니다.

기술적 현실 vs. 규제적 절대주의
정부는 컴퓨터 공학이 불가능하다고 증명한 ‘완벽한 보장’을 요구하고 있습니다. 만약 행정부가 이 기준을 고수한다면, 사실상 어떤 프론티어 모델 출시에도 거부권을 행사할 수 있습니다.

공개 소프트웨어에 대한 수출 통제
이미 공개된 상업용 AI 모델에 대해 사상 처음으로 수출 통제가 적용되었습니다. 이는 어떤 AI 연구소든 정부의 일방적 국가 안보 판단에 따라 제품이 ‘하룻밤 사이에’ 강제 종료될 수 있다는 선례를 남겼습니다.

독립성 vs. 사실상의 감독
앤트로픽은 안전성과 독립성을 핵심 가치로 창업된 회사였습니다. 이번 조치는 가장 ‘책임감 있는’ 연구소조차 기술적으로 비현실적인 정부 기준에 따르지 않으면 제품이 꺼질 수 있다는 사실을 보여줍니다. 블룸버그는 이번 차단을 “미국의 대전환”이자 “실리콘밸리에 대한 경고”라고 보도했습니다. 자율 규제 시대는 끝났을지도 모릅니다.