마이크로소프트의 2026년 5월 보안 업데이트가 기업 AI 거버넌스를 바꾸는 방식

기업의 AI 도입 속도는 빠르게 증가하고 있지만, 동시에 데이터 유출, 그림자 AI(Shadow AI), 자율 AI 에이전트 통제 문제도 함께 커지고 있다. 마이크로소프트는 2026년 5월 21일 발표한 보안 업데이트를 통해 이러한 문제를 해결하기 위한 기업용 AI 거버넌스 체계를 크게 확장했다.

이번 업데이트의 핵심은 네 가지다. Microsoft Purview의 외부 AI 모니터링 확대, 이미지 기반 데이터 탐지(OCR), Data Security Posture Management(DSPM)를 통한 AI 활동 가시성, 그리고 Windows 365 for Agents라는 새로운 실행 환경이다. 이 변화는 단순히 마이크로소프트 앱을 감시하는 수준에서 벗어나 AI 상호작용·데이터 흐름·에이전트 실행 환경까지 관리하는 체계로 거버넌스를 확장한다는 의미가 있다.

Purview, 이제 Anthropic의 Claude까지 모니터링

이번 업데이트에서 가장 눈에 띄는 변화 중 하나는 Microsoft Purview가 외부 AI 서비스까지 감시 범위를 확대했다는 점이다. 대표적으로 Anthropic의 대형 언어 모델 서비스 Claude 사용 여부를 조직 차원에서 탐지하고 조사할 수 있게 됐다.

그동안 기업의 AI 거버넌스는 주로 Microsoft 365 Copilot 같은 자사 서비스 중심으로 설계돼 있었다. 그러나 실제 기업 환경에서는 직원들이 다양한 외부 생성형 AI 서비스를 사용하기 때문에 관리 사각지대가 발생하기 쉽다.

Purview의 네트워크 데이터 보안 기능은 웹 트래픽을 분석해 데이터를 분류하고 보호 정책을 적용할 수 있다. 이를 통해 조직은 다음과 같은 상황을 관리할 수 있다.

• 직원이 AI 서비스에 입력한 프롬프트
• 파일 업로드나 문서 공유
• AI가 생성한 결과물

이 과정에서 기존 데이터 유출 방지(DLP) 정책과 분류 규칙을 동일하게 적용할 수 있어, 민감한 정보가 AI 도구로 전송되는 상황을 통제할 수 있다.

결과적으로 그동안 관리되지 않았던 "Shadow AI 사용"을 정책 기반 활동으로 전환할 수 있게 된다.

OCR로 이미지 속 민감 데이터까지 탐지

또 다른 중요한 업데이트는 이미지에 포함된 텍스트를 분석하는 OCR(광학 문자 인식) 기능이다.

Microsoft Purview의 Data Security Investigations 기능에 OCR이 추가되면서, 보안 팀은 다음과 같은 파일에서도 민감 정보를 탐지할 수 있게 됐다.

• 대시보드 화면을 캡처한 스크린샷
• 스캔된 계약서
• 신분증 사진
• 문서에 포함된 이미지

기존 보안 시스템은 대부분 텍스트 기반 콘텐츠만 분석했기 때문에 이미지에 포함된 데이터는 탐지하기 어려웠다. OCR을 활용하면 이미지에서 텍스트를 추출해 기존 보안 정책과 동일한 방식으로 검사할 수 있다.

이 기능은 다음 서비스에서도 활용 가능하다.

• Exchange
• SharePoint
• OneDrive
• Microsoft Teams
• 사용자 단말(엔드포인트)

OCR이 활성화되면 DLP 정책, 내부자 위험 관리 정책 등 기존 데이터 보호 규칙이 이미지 콘텐츠에도 적용된다.

보안 조사 관점에서는 이것이 데이터 유출 분석의 큰 사각지대를 줄이는 효과를 가져온다.

DSPM: AI 활동을 지속적으로 관찰하는 보안 레이어

이번 업데이트에서 또 하나의 핵심은 **Data Security Posture Management(DSPM)**이다.

DSPM은 조직 전반의 데이터 위험을 분석하고 보호 상태를 평가하는 시스템으로, 이제 AI 애플리케이션과 에이전트까지 포함해 데이터 위험을 모니터링한다.

특히 AI 중심 DSPM 기능은 다음 환경을 통합적으로 관찰한다.

• Microsoft 365 Copilot 같은 Copilot 경험
• Azure AI 환경에서 만든 맞춤형 AI 애플리케이션
• 외부 LLM을 사용하는 서드파티 AI 앱

DSPM은 이러한 시스템의 AI 활동, 프롬프트 상호작용, 에이전트 동작, 데이터 접근 패턴을 분석해 위험 신호를 식별한다. 이를 통해 보안 팀은 다음을 수행할 수 있다.

• 조직 내 AI 사용 현황 파악
• 숨겨진 AI 서비스(Shadow AI) 발견
• 민감 데이터 접근 위험 분석

또한 Microsoft Security Copilot과 연동하면 자연어 질문을 통해 데이터 노출이나 의심스러운 활동을 빠르게 조사할 수 있다.

Windows 365 for Agents: AI 에이전트를 위한 실행 환경

AI 거버넌스는 이제 단순히 AI 사용을 감시하는 것에서 끝나지 않는다. 중요한 질문은 AI 에이전트가 어디에서 실행되는가이다.

마이크로소프트는 이를 위해 Windows 365 for Agents라는 새로운 플랫폼을 도입했다. 이 서비스는 AI 에이전트 전용 관리형 실행 환경을 제공한다.

이 환경에서는 조직이 다음과 같은 정책을 적용할 수 있다.

• 보안 정책
• 접근 제어
• 실행 환경 관리
• 감사 및 모니터링

이는 마이크로소프트의 Agent 365 전략과도 연결된다. Agent 365는 조직이 인프라 전반에서 AI 에이전트를 관찰하고 보호하며 관리할 수 있는 제어 플랫폼이다.

결국 AI 에이전트도 사용자 계정, 엔드포인트, 클라우드 워크로드처럼 관리 대상이 되는 것이다.

기업 AI 거버넌스의 변화

이번 업데이트는 기업의 AI 보안 모델을 네 가지 계층으로 확장한다.

1. AI 상호작용 모니터링 — Purview가 Claude 같은 외부 AI 도구까지 감시
2. 콘텐츠 심층 분석 — OCR로 이미지 속 텍스트까지 검사
3. 지속적인 위험 관리 — DSPM으로 AI 활동과 데이터 접근을 통합 분석
4. 에이전트 실행 통제 — Windows 365 for Agents로 관리형 실행 환경 제공

결과적으로 AI 거버넌스는 단순히 AI 애플리케이션을 관리하는 문제에서 벗어나고 있다. 이제 기업은 프롬프트, 데이터 흐름, AI 에이전트 행동, 실행 환경까지 포함하는 전체 AI 생태계를 관리해야 한다.

마이크로소프트의 2026년 5월 보안 업데이트는 바로 이러한 변화에 대응하기 위한 엔드투엔드 AI 거버넌스 모델을 구축하는 방향을 보여준다.