그동안 기업의 AI 거버넌스는 주로 Microsoft 365 Copilot 같은 자사 서비스 중심으로 설계돼 있었다. 그러나 실제 기업 환경에서는 직원들이 다양한 외부 생성형 AI 서비스를 사용하기 때문에 관리 사각지대가 발생하기 쉽다.
Purview의 네트워크 데이터 보안 기능은 웹 트래픽을 분석해 데이터를 분류하고 보호 정책을 적용할 수 있다. 이를 통해 조직은 다음과 같은 상황을 관리할 수 있다.
이 과정에서 기존 데이터 유출 방지(DLP) 정책과 분류 규칙을 동일하게 적용할 수 있어, 민감한 정보가 AI 도구로 전송되는 상황을 통제할 수 있다.
결과적으로 그동안 관리되지 않았던 "Shadow AI 사용"을 정책 기반 활동으로 전환할 수 있게 된다.
또 다른 중요한 업데이트는 이미지에 포함된 텍스트를 분석하는 OCR(광학 문자 인식) 기능이다.
Microsoft Purview의 Data Security Investigations 기능에 OCR이 추가되면서, 보안 팀은 다음과 같은 파일에서도 민감 정보를 탐지할 수 있게 됐다.
기존 보안 시스템은 대부분 텍스트 기반 콘텐츠만 분석했기 때문에 이미지에 포함된 데이터는 탐지하기 어려웠다. OCR을 활용하면 이미지에서 텍스트를 추출해 기존 보안 정책과 동일한 방식으로 검사할 수 있다.
이 기능은 다음 서비스에서도 활용 가능하다.
OCR이 활성화되면 DLP 정책, 내부자 위험 관리 정책 등 기존 데이터 보호 규칙이 이미지 콘텐츠에도 적용된다.
보안 조사 관점에서는 이것이 데이터 유출 분석의 큰 사각지대를 줄이는 효과를 가져온다.
이번 업데이트에서 또 하나의 핵심은 **Data Security Posture Management(DSPM)**이다.
DSPM은 조직 전반의 데이터 위험을 분석하고 보호 상태를 평가하는 시스템으로, 이제 AI 애플리케이션과 에이전트까지 포함해 데이터 위험을 모니터링한다.
특히 AI 중심 DSPM 기능은 다음 환경을 통합적으로 관찰한다.
DSPM은 이러한 시스템의 AI 활동, 프롬프트 상호작용, 에이전트 동작, 데이터 접근 패턴을 분석해 위험 신호를 식별한다. 이를 통해 보안 팀은 다음을 수행할 수 있다.
또한 Microsoft Security Copilot과 연동하면 자연어 질문을 통해 데이터 노출이나 의심스러운 활동을 빠르게 조사할 수 있다.
AI 거버넌스는 이제 단순히 AI 사용을 감시하는 것에서 끝나지 않는다. 중요한 질문은 AI 에이전트가 어디에서 실행되는가이다.
마이크로소프트는 이를 위해 Windows 365 for Agents라는 새로운 플랫폼을 도입했다. 이 서비스는 AI 에이전트 전용 관리형 실행 환경을 제공한다.
이 환경에서는 조직이 다음과 같은 정책을 적용할 수 있다.
이는 마이크로소프트의 Agent 365 전략과도 연결된다. Agent 365는 조직이 인프라 전반에서 AI 에이전트를 관찰하고 보호하며 관리할 수 있는 제어 플랫폼이다.
결국 AI 에이전트도 사용자 계정, 엔드포인트, 클라우드 워크로드처럼 관리 대상이 되는 것이다.
이번 업데이트는 기업의 AI 보안 모델을 네 가지 계층으로 확장한다.
결과적으로 AI 거버넌스는 단순히 AI 애플리케이션을 관리하는 문제에서 벗어나고 있다. 이제 기업은 프롬프트, 데이터 흐름, AI 에이전트 행동, 실행 환경까지 포함하는 전체 AI 생태계를 관리해야 한다.
마이크로소프트의 2026년 5월 보안 업데이트는 바로 이러한 변화에 대응하기 위한 엔드투엔드 AI 거버넌스 모델을 구축하는 방향을 보여준다.