발단: 사이버보안 연구원 케이티 무수리스는 해당 모델들이 "Fix this code" 라는 단 세 단어의 명령어로 소프트웨어 취약점을 자동으로 역설계하고 무기화할 수 있음을 증명했고, 이는 국가 안보에 경보를 울렸습니다 . 앤트로픽의 투자사인 아마존은 자체 보안 검토 후 백악관에 이 사실을 알렸습니다
.
2026년 4월, 앤트로픽은 소규모 그룹이 이전 버전의 클로드 미토스 프리뷰 모델에 무단 접근했다는 의혹을 조사 중이라고 발표했습니다. 앤트로픽은 이 시스템이 공개 출시하기에는 너무 강력하다고 설명했습니다 . 이 사건은 이후 페이블 5 중단을 초래한 광범위한 확산 위험에 대한 우려를 예고했습니다.
오픈AI는 2026년 5월 11일 대규모 사이버보안 이니셔티브인 '데이브레이크' 를 출시했습니다. 이는 구글 위협 인텔리전스 그룹이 공격자가 AI를 사용해 제로데이 익스플로잇을 구축한 첫 사례를 공개한 바로 그 날이었습니다 . 데이브레이크는 GPT-5.5 모델 계층(레드팀용 'GPT-5.5-사이버' 변형 포함)을 코드스 시큐리티 에이전트 및 20개 이상의 보안 파트너(클라우드플레어, 크라우드스트라이크, 팔로알토 네트웍스 등)와 결합하여 취약점 발견, 패치 검증 및 수정을 기계 속도로 자동화합니다
. 이는 앤트로픽의 프로젝트 글래스윙/미토스에 대한 오픈AI의 직접적인 경쟁 대응으로 널리 간주되었습니다
.
2026년 5월 1일, 파이브 아이즈 소속 6개 사이버보안 기관(CISA, NSA, ASD ACSC, CCCS, NZ NCSC, UK NCSC)은 "자율 AI 서비스의 신중한 도입" 보고서를 발표했습니다. 이는 자율 AI 에이전트를 대상으로 한 최초의 다국적 공동 보안 지침이었습니다 . 이 지침은 5가지 위험 범주(권한, 설계/구성, 행동, 책임, 데이터/운영 위험)를 식별하고, 예측, 감사 또는 통제하기 어려운 방식으로 시스템 간에 '행동, 결정, 상호 작용'하는 자율 에이전트가 이미 불충분한 보호 장치로 중요 인프라에서 운영되고 있다고 경고했습니다
. 이 5월 권고는 6월 22일 성명이 더 광범위하고 긴급한 행동 촉구로 확대될 수 있는 정책적 기반을 마련했습니다.
5월의 자율 AI 에이전트 권고는 체계적인 위험을 식별했습니다. 미토스 접근 사건과 페이블 5의 'Fix this code' 취약점은 그러한 위험이 실제 프론티어 모델에서 이미 현실화되고 있음을 증명했습니다. 오픈AI의 데이브레이크 출시는 경쟁 및 보안 역학을 더욱 고조시켰습니다. 6월 22일 성명은 파이브 아이즈가 방어를 위한 시간이 몇 년에서 몇 달로 줄어들었다는 통일된 결론을 내린 것을 의미합니다.