EU는 시험하고 영국은 놓쳤다…프런티어 AI 안전성의 핵심은 ‘접근권’

EU와 영국의 차이는 기술력 자체보다 접근권을 누가, 어떤 조건으로 확보하느냐의 문제를 부각한다. 개발사의 동의에 최종적으로 의존한다면, 국가 평가기관은 최첨단 모델을 제때 독립적으로 검증할 수 없다. 유럽연합 사이버보안기구 ENISA가 Anthropic의 Mythos 5와 OpenAI의 GPT-6 Astra에 접근해 시험한다는 사실은 중요하다. 그러나 이것이 EU가 모든 후속 모델을 상시적으로 시험할 권리를 얻었다는 뜻도, Mythos 5.1에 접근했다는 뜻도 아니다. 920

핵심은 모델별로 갈리는 접근권

유럽연합 집행위원회 대변인에 따르면 ENISA는 Mythos 5와 GPT-6 Astra를 시험할 수 있는 접근권을 부여받았다. 9 반면 Anthropic은 영국 AI Security Institute(AISI)에 Mythos 5.1을 출시 전 시험용으로 제공하지 않았으며, 이는 이 기관의 사전 평가 절차에서 Anthropic의 주요 모델이 제외된 첫 사례로 보도됐다. 2023

이를 단순히 ‘EU의 승리, 영국의 패배’로 정리하기는 어렵다. ENISA의 접근은 특정한 약정 아래 두 개의 명시된 모델에 관한 것이다. Mythos 5.1은 별도 출시 모델이자 더 제한된 접근 체계를 적용받는 사례다. 실제로 안전성 평가는 이제 모델 버전, 성능, 사용 목적, 관할권, 개발사의 협력 파트너 선정 기준에 따라 세분화되고 있다.

Mythos 5.1이 더 까다로운 거버넌스 사례인 이유

Anthropic은 Claude Fable 5.1과 Claude Mythos 5.1이 기반 모델은 같지만 안전장치 수준이 다르다고 설명한다. Fable 5.1은 일반적으로 이용할 수 있는 반면, Mythos 5.1은 사이버보안 및 생명과학 업무를 지원하도록 설계된 ‘신뢰 기반 접근 프로그램’을 통해서만 제공된다. 12

이는 단순한 제품 시험 이상의 문제다. 민감한 사이버보안 또는 과학 업무에 활용될 수 있는 시스템은 통제된 시험 환경, 오남용 감시, 이용자 검증, 국가안보 수준의 취급 절차를 함께 요구한다. 보도에 따르면 Mythos 5.1 접근은 처음에는 심사를 거친 미국 기관들로 제한됐다. 1824

제공된 근거만으로 Anthropic이 영국이나 AISI를 신뢰하지 않아 배제했다고 단정할 수는 없다. 제한 프로그램의 설계, 운영 보안 문제, 접근권에 대한 기업의 통제는 모두 가능한 설명이다. 그럼에도 결과는 분명하다. 기존 협력 관계와 평가기관의 평판만으로는 고위험 모델에 대한 시의적절한 접근이 보장되지 않았다.

ENISA 접근권이 보여준 EU의 지렛대

EU는 순수한 자율 협력 체계보다 강한 법적 기반을 갖고 있다. EU AI Act 제55조는 체계적 위험을 가진 범용 AI 모델 제공자에게 표준화된 절차와 도구에 따른 모델 평가, 체계적 위험의 평가·완화, 중대 사고의 추적·보고, 적절한 수준의 사이버보안 확보를 요구한다. 4337

이 법은 모델이 처음 시장에 출시되기 전에 평가를 수행하고, 필요에 따라 내부 또는 독립 외부 시험을 통한 적대적 시험을 문서화하는 방안도 규정한다. 3534

다만 이러한 제공자 의무가 ENISA에 모델 가중치, 무제한 시스템 접근, 모든 프런티어 모델의 출시 전 접근을 포괄적으로 보장하는 권리와 같은 것은 아니다. ENISA의 시험 약정이 중요한 이유는 EU의 폭넓은 규제 위치뿐 아니라 기업들과의 협의를 통해 확보된 것으로 보이기 때문이다. 49

즉, 규제는 EU가 안전성 근거, 위험 관리, 준수 여부를 요구할 수 있는 역량을 높인다. 하지만 민감한 사이버·생물학·에이전트형 AI를 시험할 때 필요한 안전한 협력의 현실적 필요까지 없애지는 못한다.

영국이 더 취약해진 이유

Mythos 5.1의 영국 사전 시험 배제 보도는 자발적 접근 체계의 한계를 선명하게 보여준다. 이 사건 이후 영국 AISI에 더 강한 법적 지위와 권한을 부여해야 한다는 요구가 제기됐다고 보도됐다. 23

자발적 방식은 AI 연구소가 협력의 가치를 인정할 때 효과적으로 작동할 수 있고, 경직된 규정보다 빠르고 기술적으로 유연할 수도 있다. 하지만 예측 가능성이 약점이다. 개발사는 접근을 제한하거나, 허용 파트너 범주를 바꾸거나, 특정 모델을 더 엄격한 국가안보 채널에서만 다루기로 결정할 수 있다.

이는 영국에 전략적 위험을 만든다. 평가기관이 프런티어 시스템을 출시 뒤에야 받거나 다른 정부 및 승인 파트너가 먼저 시험한 뒤에야 받는다면, 영국은 안전성 근거를 만드는 주체에서 다른 곳이 만든 근거를 소비하는 주체로 밀려날 수 있다.

영국이 마련할 수 있는 더 지속적인 해법

당장의 정책 목표가 모델 가중치의 강제 제출일 필요는 없다. 고성능 모델의 경우 그러한 요구 자체가 보안 및 지식재산권 위험을 낳을 수 있기 때문이다. 대신 더 강한 체계는 통제 가능하고 감사 가능한 접근에 초점을 맞출 수 있다.

가능한 방안은 다음과 같다.

1. 지정 프런티어 모델의 배치 전 통지: 정의된 성능 또는 위험 기준을 충족하는 모델을 배치하기 전, 개발사가 지정 기관에 통지하도록 할 수 있다.
2. 안전성 근거 제출 요구권의 법제화: AISI가 안전성 사례 문서, 평가 결과, 사고 정보, 관련 기술 문서를 요청할 명확한 권한을 갖도록 할 수 있다.
3. 보안 평가 환경 구축: 가중치 제공 대신 감시되는 API, 샌드박스 시스템 등 통제된 환경에서 기간을 제한한 접근을 요구할 수 있다.
4. 국가안보 검토 경로 마련: 사이버, 생명과학, 자율 에이전트 측면에서 중대한 영향을 지닌 모델에는 사이버보안·바이오보안·정보·AI 평가 전문성을 연계한 공동 검토를 적용할 수 있다.
5. EU와의 공식 협력: 공동 평가 절차, 상호 보안 시험 채널, 호환 가능한 중대 사고 처리 체계를 구축하면 중복을 줄이고 영국이 유럽의 시험 네트워크에서 제외되는 위험도 낮출 수 있다.

이 제안들의 공통점은 이번 사례가 드러낸 핵심 취약점에 대응한다는 것이다. 접근권은 개별 AI 연구소와의 관계에만 맡길 것이 아니라 거버넌스 체계 안에 설계돼야 한다.

프런티어 AI 시험은 계층화될 가능성이 크다

앞으로는 다층적 평가 체계가 자리 잡을 가능성이 높다. 대중 시장을 겨냥한 모델은 제공자 시험, 규제 문서화, 사고 보고 의무의 적용을 받을 것이다. 더 민감한 사이버·생물학·자율 에이전트 기능은 제한된 환경에서 평가되는 일이 늘어날 수 있다. 가장 고위험인 시스템은 검증을 거친 소수의 정부·연구소·보안 파트너만 접근할 수 있게 될 가능성도 있다.

ENISA의 접근 약정과 영국의 Mythos 5.1 사전 시험 배제는 이 구분이 왜 중요한지 보여준다. 이제 경쟁의 핵심은 가장 강력한 모델을 누가 만드느냐에만 있지 않다. 더 넓은 배치 이전에 가장 중대한 버전을 누가 검사하고, 시험하고, 통제할 수 있느냐의 경쟁이기도 하다. 91220

영국에 기술적 평가 역량은 여전히 중요하지만, 그것만으로 충분하지는 않다. 영향력을 유지하려면 국내의 신뢰할 수 있는 법적 권한과 해외 파트너와의 지속 가능하고 보안을 고려한 접근 약정이 필요하다.