Anthropic의 Project Glasswing: 한 달 만에 1만 개 취약점을 찾은 AI의 실체

첫 달 성과: 1만 개 이상의 취약점 발견

Anthropic이 발표한 초기 보고서에 따르면 결과는 상당히 공격적이다.

• 고위험 또는 치명적 취약점 10,000개 이상 발견
• 약 50개 파트너 조직이 참여
• 대부분의 참여 기관이 수백 개의 취약점을 발견
• 일부 조직은 버그 발견 속도가 10배 이상 증가했다고 보고

대표 사례로 Cloudflare는 Claude Mythos를 활용해 자사 핵심 서비스에서 **약 2,000개의 버그(그중 400개는 고위험)**를 발견했다고 밝혔다.

이 결과는 기존 수동 코드 감사보다 훨씬 빠른 속도로 취약점을 찾아낼 수 있음을 시사한다.

보안 벤치마크 성능

외부 평가에서도 보안 능력은 상당히 높은 것으로 나타났다.

영국 **AI Security Institute(AISI)**는 Claude Mythos Preview가 전문가 수준의 CTF(캡처 더 플래그) 보안 문제의 73%를 해결했다고 보고했다.

CTF 문제는 실제 취약점 탐지와 익스플로잇 개발 능력을 평가하기 위해 보안 연구자들이 사용하는 대표적인 테스트다.

Anthropic과 관련 분석에 따르면 이 모델은 다음과 같은 능력을 보였다.

• 운영체제와 브라우저에서 제로데이 취약점 발견
• 여러 취약점을 연결해 권한 상승 공격 체인 구성
• 실제 공격 가능성을 증명하는 작동하는 익스플로잇 코드 생성

이는 단순 정적 분석 도구 수준을 넘어, 숙련된 보안 연구자의 작업 일부를 자동화하는 단계에 가깝다는 평가가 나온다.

실제로 발견된 취약점 사례

대부분의 취약점은 아직 패치 과정에 있기 때문에 상세 내용은 공개되지 않았다. 다만 일부 사례는 알려졌다.

보고된 사례는 다음과 같다.

• OpenBSD 커널에서 27년 동안 존재했던 TCP SACK 관련 취약점
• FFmpeg에 존재하던 16년 된 버그, 수백만 번의 자동 테스트에서도 발견되지 않았던 문제
• Linux 커널 취약점 체인, 일반 사용자 권한에서 시스템 전체 권한으로 상승 가능

Anthropic은 현재 발견된 취약점의 99% 이상이 아직 공개 패치되지 않았기 때문에 상세 공개가 어렵다고 설명했다.

참여 기업과 기관

Project Glasswing은 하나의 연구 프로젝트라기보다 대규모 보안 협력 네트워크에 가깝다.

초기 참여 조직으로 알려진 곳은 다음과 같다.

• Amazon Web Services (AWS)
• Apple
• Google
• Microsoft
• NVIDIA
• Cisco
• Broadcom
• CrowdStrike
• Palo Alto Networks
• JPMorgan Chase
• Linux Foundation

이외에도 여러 기업과 보안 조직을 포함해 약 50개 기관이 참여하고 있다.

각 참여 기관은 자체 소프트웨어와 주요 오픈소스 프로젝트에 모델을 적용해 취약점을 찾고 패치를 진행한다.

왜 공개되지 않았을까

Anthropic이 Mythos를 공개하지 않는 이유는 단순하다.

같은 기술이 대규모 사이버 공격에도 사용될 수 있기 때문이다.

자동으로 제로데이 취약점을 발견하고 익스플로잇까지 생성하는 시스템이 공개될 경우, 공격자의 진입 장벽이 크게 낮아질 수 있다.

그래서 Anthropic은 다음 전략을 택했다.

• 먼저 주요 소프트웨어 취약점을 최대한 수정
• 이후에야 더 넓은 공개 여부를 검토

보안 전문가들의 회의론

헤드라인 수치가 인상적인 만큼, 보안 업계에서는 신중한 시각도 존재한다.

1. 독립적 검증 부족

현재까지 보고된 대규모 수치(예: 1만 개 취약점)는 대부분 Anthropic 자체 보고에 기반한다.

취약점의 99% 이상이 아직 공개되지 않았기 때문에 외부 연구자가 직접 검증하기 어렵다는 점이 지적된다.

2. 기존 모델로도 가능하다는 주장

일부 보안 연구자들은 공개 모델과 도구 조합으로도 비슷한 취약점 발견이 가능하다고 주장한다.

또 다른 분석에서는 Anthropic이 발견한 취약점 일부가 더 저렴한 공개 모델로도 재현됐다는 주장도 나왔다.

3. 실제 패치율 데이터 부족

벤치마크 성능은 일부 공개됐지만, AI가 발견한 취약점 중 얼마나 많은 것이 실제로 확인되고 패치됐는지에 대한 구체적 통계는 아직 제한적이다.

정리

Anthropic의 발표가 사실이라면 Project Glasswing은 역사상 가장 큰 규모의 AI 기반 취약점 탐지 프로젝트 중 하나다.

• 첫 달에만 1만 개 이상의 고위험 취약점 발견
• 주요 기술 기업과 보안 조직 약 50곳 참여
• 일부 기업에서 버그 발견 속도 10배 증가 보고

다만 대부분의 취약점이 아직 공개되지 않았기 때문에, 보안 커뮤니티에서는 실제 영향과 독립적 검증을 기다리는 단계라는 평가가 많다.

확실한 것은 하나다. AI는 이제 단순한 코드 작성 도구를 넘어 소프트웨어 보안 연구 자체를 자동화하는 단계로 빠르게 이동하고 있다는 점이다.