싱가포르·마이크로소프트의 프런티어 AI 안전 협약, 실제로 담긴 내용은

2. 지식과 거버넌스 관행 공유

양측은 AI 안전과 보안에 관한 정보, 모범 사례, 거버넌스 프레임워크를 공유할 계획이다. 이를 통해 기술 테스트 결과를 실제 운영 정책과 연결할 수 있다. 어떤 위험을 시험할지, 허용 기준은 무엇인지, 누가 모델에 접근할 수 있는지, 심각한 결함이 발견되면 어떻게 대응할지를 함께 검토하는 방식이다.

이는 단순한 성능 벤치마크보다 넓은 접근이다. 벤치마크에서 뛰어난 성적을 낸 모델이라도 접근 권한이 지나치게 넓거나, 모니터링과 취약점 공개 절차가 부족하거나, 인간의 감독 체계가 불분명하다면 공공서비스나 중요 인프라에 적합하다고 보기 어렵다.

3. ‘신뢰할 수 있는 접근’ 정책 마련

세 번째 축은 프런티어 모델에 대한 신뢰할 수 있는 접근(trusted access) 정책을 검토하는 것이다. 고성능 모델을 정당한 연구와 방어적 보안 업무에 활용할 수 있도록 하되, 모델의 능력과 위험에 맞는 안전장치 없이 광범위하게 공개하지 않는다는 취지다.

결국 MOU가 지향하는 것은 여러 겹의 안전망이다. 먼저 모델을 평가하고, 결과와 경험을 공유하며, 필요하면 접근 범위를 제한하고, 책임과 대응 방식을 정책으로 정하는 구조다.

클로드 미토스는 왜 주목받았나

앤트로픽의 비공개 모델인 ‘클로드 미토스 프리뷰’는 프런티어 AI의 이중용도 위험을 보여주는 사례다. 앤트로픽은 약 50개 프로젝트 글래스윙 파트너와 함께 이 모델을 사용해 시스템적으로 중요한 소프트웨어에서 고위험 또는 치명적 수준의 취약점 1만 건 이상을 발견했다고 밝혔다. 또한 주요 운영체제와 웹브라우저에서 제로데이 취약점을 식별하고 이를 악용할 수 있었다고 설명했다.

이런 능력은 방어적 보안에 큰 도움이 될 수 있다. 공격자가 발견하기 전에 연구자가 결함을 찾아 수정하도록 지원하기 때문이다. 반대로 모델이 널리 공개되거나 통제가 부실하면, 취약점 발견부터 실제 공격까지 걸리는 시간을 줄일 위험도 있다. 앤트로픽이 미토스를 일반에 공개하지 않고 프로젝트 글래스윙을 통해 제한적으로 제공한 배경이다.

그러나 현재 확인되는 자료만으로는 클로드 미토스가 6월 12일 싱가포르·마이크로소프트 MOU를 직접 촉발했다는 사실이 입증되지 않는다. 미토스는 협약의 직접적인 원인이라기보다, 체계적인 평가와 제한적 접근, 명확한 거버넌스가 왜 필요한지를 보여주는 사례로 보는 편이 정확하다.

실제 안전 조치는 무엇을 의미하나

제한적 접근 자체가 통제 수단

프로젝트 글래스윙은 미토스에 대한 접근을 선별된 파트너로 제한했다. 방어적 보안 연구를 허용하면서도 고위험 기능을 일반에 그대로 노출하지 않는 방식이다.

물론 제한적 접근만으로 안전이 보장되는 것은 아니다. 참여자 검증, 사용 내역 모니터링, 안전한 데이터 처리, 책임 있는 취약점 공개 절차가 함께 필요하다. 그럼에도 이 방식은 모든 프런티어 모델을 일반 소프트웨어처럼 공개해서는 안 되며, 접근 권한이 모델의 능력과 위험 수준에 맞춰져야 한다는 원칙을 보여준다.

취약점 발견 뒤에는 수정과 노출 축소가 따라야

취약점을 찾아내는 것은 첫 단계일 뿐이다. 싱가포르 사이버보안청(CSA)은 조직에 치명적·고위험 취약점의 신속한 패치, 모든 인터페이스와 게이트웨이에서의 다중요소 인증(MFA) 적용, 불필요한 사용자 권한 검토 등을 권고했다. 이런 조치는 결함을 조사하고 수정하는 동안 공격자가 악용할 수 있는 기회를 줄인다.

다만 미토스가 찾아낸 약 1만 건의 취약점이 대거 해결됐다고 단정해서는 안 된다. 이후 한 평가에서는 유지관리자에게 공개된 취약점이 1,596건이었지만 실제 수정된 사례는 97건이라고 보고했다. 이는 프로젝트의 방어적 가치가 없다는 뜻은 아니지만, ‘많은 취약점이 수정됐다’는 표현은 신중하게 사용해야 한다는 의미다.

여기서 드러나는 교훈은 기술을 넘어 운영에 있다. AI 안전에는 위험 식별, 책임 있는 공개, 수리 우선순위 설정, 수정이 끝날 때까지의 노출 축소를 연결하는 절차가 필요하다.

마이크로소프트의 역할과 확인되지 않은 주장

마이크로소프트는 프런티어 모델 개발 경험과 기업용 인프라를 보유하고 있으며, AI 시스템을 평가하고 접근을 통제하는 운영 역량도 제공할 수 있다. 다만 이번 MOU의 공식적인 범위는 마이크로소프트의 단일 모델에 한정되지 않는다. 프런티어 모델 전반에 적용할 수 있는 안전성 평가와 신뢰할 수 있는 접근 방식을 다룬다.

제공된 자료만으로는 마이크로소프트의 MAI 모델, Azure AI Foundry를 통한 오픈AI 및 앤트로픽 모델 접근, 영국 AI 보안연구소(UK AI Security Institute)와 미국 AI 표준·혁신센터(US Centre for AI Standards and Innovation)와의 유사 협약이 이번 싱가포르·마이크로소프트 MOU의 공식 내용이라는 주장을 뒷받침하기 어렵다. 따라서 이들 사항을 이번 협약의 확정된 약속으로 소개해서는 안 된다.

궁극적인 목표는 ‘신뢰할 수 있는 AI 생태계’

이번 협약의 의미는 다음과 같은 안전 연쇄를 만들려는 데 있다.

1. 평가한다 — 고성능 및 에이전트형 AI를 시험하고, 여러 언어에서의 작동 방식도 확인한다.
2. 공유한다 — 기술적 발견과 거버넌스 관행, 테스트 결과를 교환한다.
3. 접근을 통제한다 — 위험이 큰 모델은 능력에 맞는 조건 아래에서만 사용하도록 한다.
4. 대응한다 — 책임 있는 공개, 패치, 인증, 권한 관리로 취약점에 대응한다.
5. 정책을 세운다 — 프런티어 AI를 민감한 환경에서 언제, 어떤 조건으로 사용할지 정한다.

MOU가 프런티어 AI를 그 자체로 안전하게 만들어주는 것은 아니다. 클로드 미토스가 보여준 사이버 보안 위험도 이 협약 하나로 해소되지 않는다. 다만 이번 협력은 기술 평가를 접근 거버넌스와 일반적인 사이버보안 실무에 연결한다. AI의 성능이 높다는 사실만으로 실제 환경에 투입할 준비가 끝났다고 판단하지 않도록, 안전하고 신뢰할 수 있으며 책임 있는 사용 조건을 먼저 세우려는 접근이다.