AI가 찾은 윈도우 취약점 16개: 마이크로소프트 MDASH의 의미

2026년 5월 마이크로소프트의 ‘패치 화요일(Patch Tuesday)’ 업데이트에서 흥미로운 변화가 조용히 공개됐다. 새로운 취약점 일부가 인간 연구자가 아니라 AI 보안 시스템에 의해 발견됐다는 점이다.

마이크로소프트는 **MDASH(Microsoft Security Multi‑model Agentic Scanning Harness)**라는 AI 기반 보안 플랫폼이 윈도우 취약점 16개를 찾아냈다고 밝혔다. 이 가운데 4개는 치명적인 원격 코드 실행(RCE) 취약점이었다. 해당 취약점들은 2026년 5월 보안 업데이트에서 이미 수정됐다.

이는 AI가 단순한 코딩 도우미를 넘어, 실제 운영체제 내부의 보안 결함을 찾아내는 도구로 활용되기 시작했음을 보여주는 사례로 평가된다.

MDASH가 찾아낸 취약점

MDASH가 탐지한 취약점은 주로 윈도우의 네트워크 및 인증 관련 핵심 구성요소에서 발견됐다. 이 영역은 시스템의 중심부에 가까워 공격자들이 자주 노리는 부분이다.

AI의 도움으로 발견된 취약점에는 다음과 같은 구성요소가 포함된다.

• Windows 커널의 TCP/IP 네트워크 스택
• Internet Key Exchange 버전 2(IKEv2)
• Netlogon 인증 서비스
• DNS API 라이브러리

특히 원격 코드 실행(RCE) 취약점은 공격자가 원격에서 임의 코드를 실행할 수 있게 해주기 때문에 매우 위험하다. 공격자가 시스템이나 기업 네트워크 전체를 장악할 수도 있기 때문이다.

이 취약점들은 2026년 5월 패치 화요일 업데이트에 포함되어 수정됐으며, 이 업데이트에서는 전체적으로 약 120개의 보안 취약점이 패치됐다.

MDASH란 무엇인가

MDASH는 기존 보안 스캐너와 달리 **여러 AI 모델과 에이전트가 협력하는 ‘에이전트 기반 보안 시스템’**이다.

마이크로소프트에 따르면 이 플랫폼은 100개 이상의 전문 AI 에이전트를 조율해 대규모 코드베이스를 분석한다. 각 에이전트는 서로 다른 관점에서 취약점을 탐지하고 검증한다.

이 시스템은 마이크로소프트의 Autonomous Code Security 팀과 Windows Attack Research and Protection 그룹이 공동으로 개발했다.

목표는 간단하다. 인간 연구자만으로는 분석하기 어려운 거대한 소프트웨어(예: Windows)의 코드에서 취약점을 더 빠르게 발견하는 것이다.

여러 AI 에이전트가 협력하는 방식

공개된 설명에 따르면 MDASH는 여러 단계로 구성된 분석 파이프라인을 사용한다.

1. 준비 및 위협 모델링
시스템이 먼저 소스 코드를 분석해 공격 표면(attack surface)을 모델링하고 위험할 가능성이 높은 영역을 식별한다.

2. 대규모 에이전트 스캔
수십~수백 개의 AI 감사 에이전트가 동시에 코드를 분석하며 취약점 가설과 증거를 생성한다.

3. 에이전트 토론 및 검증
다른 에이전트들이 해당 결과를 반박하거나 검증하며 실제 취약점인지 논쟁하는 단계가 이어진다.

4. 중복 제거
비슷한 결과들을 의미적으로 비교해 동일한 취약점 보고서를 하나로 통합한다.

5. 실제 취약성 입증
마지막으로 시스템은 취약점을 실제로 트리거하거나 악용 가능한지 테스트해 증거를 생성한다.

이 구조는 인간 보안 연구팀의 작업 방식—가설 생성, 검증, 증명—을 모방하지만 훨씬 빠른 속도로 자동화되어 진행된다는 특징이 있다.

성능 테스트 결과

초기 테스트에서도 MDASH는 꽤 강력한 성능을 보였다.

보도에 따르면 이 시스템은 CyberGym 취약점 벤치마크에서 약 88% 성능을 기록하며 경쟁 도구보다 높은 결과를 냈다.

또한 내부 실험에서는 테스트용 드라이버 코드에 의도적으로 삽입된 취약점을 모두 탐지한 것으로 보고됐다.

물론 이러한 결과가 실제 환경에서도 항상 동일하게 나타난다고 보장할 수는 없지만, 대형 코드베이스에서 AI 에이전트 협력이 실제 취약점 탐지에 도움이 될 수 있다는 신호로 해석된다.

실전에서 확인된 첫 성과

이번 사례에서 중요한 점은 MDASH가 단순한 연구 프로젝트가 아니라 실제 윈도우 업데이트에 반영된 취약점을 발견했다는 것이다.

보안 도구는 연구 환경에서는 뛰어난 성능을 보여도 실제 소프트웨어에서는 유용한 결과를 내지 못하는 경우가 많다.

하지만 MDASH는 윈도우의 핵심 네트워크 및 인증 스택에서 취약점을 찾아냈으며, 이는 AI가 고위험 공격 표면까지 분석할 수 있음을 보여주는 사례로 평가된다.

마이크로소프트의 ‘AI 속도 보안’ 전략

마이크로소프트는 MDASH를 “AI 속도의 방어(Defense at AI speed)” 전략의 일부로 설명한다.

핵심 논리는 단순하다.

공격자들이 AI로 취약점 발견 속도를 높인다면, 방어 측도 AI로 더 빠르게 취약점을 찾아 수정해야 한다는 것이다.

이 시스템은 앞으로 기업 고객을 대상으로 프라이빗 프리뷰 형태로 제공될 예정이다. 이를 통해 조직들은 자체 코드나 시스템에서도 AI 기반 취약점 탐지를 실험할 수 있게 된다.

장기적으로 이런 시스템은 다음과 같은 변화를 가져올 가능성이 있다.

• 거대한 코드베이스에서 취약점 연구 규모 확대
• 취약점 발견부터 패치까지 걸리는 시간 단축
• 인간 보안 연구자를 보조하는 자동화된 가설 생성 및 검증

결국 MDASH가 보여주는 방향은 분명하다. 앞으로 보안 팀에는 인간 연구자뿐 아니라 지속적으로 코드를 분석하는 AI 에이전트가 함께 일하게 될 가능성이 크다는 것이다.

2026년 5월 패치 화요일 결과는 그 변화가 이미 시작됐음을 보여주는 첫 사례로 볼 수 있다.