싱가포르는 프런티어 AI발 사이버공격에 어떻게 대비하고 있나

프런티어 AI는 사이버공격의 비용 구조를 바꾸고 있다. 소프트웨어 분석과 공격 추론 능력이 뛰어난 모델은 취약점을 찾고 공격 코드를 작성하며, 맞춤형 사회공학 공격을 설계하는 작업을 더 빠르게, 더 적은 전문 인력으로 수행하게 만들 수 있다. 싱가포르 당국은 이를 AI를 포기해야 할 이유가 아니라, 기존 보안 위험이 가속되는 신호로 보고 있다. 공격자가 움직이기 전에 시스템을 강화해야 한다는 의미다.

핵심 위험은 ‘공격 속도’다

가장 우려되는 지점은 취약점이 발견된 뒤 실제 공격에 악용되기까지의 시간이 짧아지는 것이다. 싱가포르 사이버보안청(CSA)은 프런티어 AI가 위협 행위자의 취약점 발견을 앞당겨 조직이 시스템을 찾아내고, 패치하고, 검증할 수 있는 시간을 줄일 수 있다고 설명한다. 특히 인터넷에 연결된 자산은 자동화된 공격에 더 많이 노출되며, 침해될 경우 광범위한 피해로 이어질 수 있어 CSA의 주요 경고 대상이 됐다.

위험은 일반적인 사무용 IT 시스템에만 머물지 않는다. 정부 플랫폼, 클라우드 서비스, 그리고 전력·통신·금융·교통 등 필수 서비스를 뒷받침하는 핵심 정보 인프라(CII)는 운영기술(OT) 환경으로 이어지는 통로가 될 수 있다. 공격자가 노출된 시스템을 자동으로 정찰하고 악용할 수 있다면, 한 곳의 놓친 취약점도 대규모로 찾아내고 공격하기 쉬워진다.

프런티어 모델은 피싱과 사칭 공격도 고도화할 수 있다. CSA에 따르면 AI는 설득력 있는 피싱 문구를 대량으로 만들고, 실제와 구분하기 어려운 음성 복제와 영상 딥페이크를 제작하며, 다중요소인증(MFA)을 우회하도록 설계된 도구를 개발하는 데 활용될 수 있다. 따라서 공격 표면은 기술적 취약점에만 국한되지 않는다. 신원, 권한, 그리고 사람이 내리는 판단 역시 중요한 표적이 된다.

Claude Mythos Preview, 알려진 것과 확인되지 않은 것

Anthropic은 Claude Mythos Preview를 컴퓨터 보안 작업에 매우 강한 모델로 소개했으며, 핵심 소프트웨어를 방어하기 위해 이 모델을 활용하는 Project Glasswing을 시작했다. 다만 모델의 가장 강력한 공개 주장은 신중하게 받아들일 필요가 있다. 독립적인 검증은 아직 제한적이며, Anthropic도 모델을 대중에게 광범위하게 공개하지 않고 통제된 방식으로 제공하고 있다.

싱가포르 정부는 Mythos에 접근할 수 없으며, 앞으로 등장할 모든 프런티어 모델에 조기 접근할 수 있다고 전제하지 않는다고 밝혔다. 대신 AI 연구소, 사이버보안 기업 및 관련 파트너들과 협력해 모델 역량의 변화를 추적하고 안전·보안 영향을 평가하고 있다.

이 구분은 중요하다. 조직이 특정 모델 하나를 직접 검사할 수 있다는 전제로 보안 계획을 세울 수는 없기 때문이다. 서로 다른 모델과 도구, 공격 방식이 등장하더라도 효과를 유지할 수 있는 통제가 필요하다.

싱가포르가 우선 추진하는 방어 조치

CSA와 정부기술청(GovTech)은 핵심 정보 인프라 운영자와 정부기관에 프런티어 AI 위험을 알리고 다음과 같은 즉각적인 조치를 제시했다.

• 노출된 시스템부터 패치한다. 인터넷에 연결된 시스템의 중요 및 고위험 취약점을 모두 해결하고, 침해될 경우 광범위한 피해를 낳을 수 있는 자산을 우선순위에 둔다.
• 관리자 접근을 보호한다. 관리자 인터페이스, 게이트웨이, 클라우드 관리 콘솔에 MFA를 적용한다. 기술적으로 MFA를 지원하지 않는 시스템은 IP 허용 목록 등으로 접근을 승인된 출처로 제한한다.
• 권한을 재검토한다. 특권 계정, 장기간 사용되지 않은 계정, 불필요한 접근 권한을 점검한다. 최소권한 원칙과 네트워크 분할은 최초 침해 이후 공격자가 접근할 수 있는 범위를 줄이는 데 도움이 된다.
• 가시성을 높인다. 핵심 시스템, 인터넷 노출 자산, 클라우드 서비스, 외부 공급업체와의 의존관계를 정확히 목록화하고 지속적으로 모니터링한다.
• 대응을 미리 연습한다. 사고 대응 계획에 명확한 보고·확대 절차, 검증된 백업, 더 빠르고 자동화된 공격을 가정한 훈련을 포함한다.

이 조치들은 새로운 발명이라기보다 기본적인 사이버보안 원칙에 가깝다. 그러나 프런티어 AI 시대에는 지연의 대가가 더 커진다. 공격자가 이용할 수 있는 취약점의 수를 줄이고, 탐지부터 조치까지 걸리는 시간을 단축하는 것이 목표다.

AI로 방어하되, AI 자체도 보호해야 한다

AI 기반 사이버보안은 위협 탐지, 경보 분류, 사고 조사, 취약점 식별과 해결을 빠르게 하는 데 활용될 수 있다. 싱가포르 정보통신보안연구소(CSIT)는 핵심 소프트웨어에서 제로데이 취약점을 찾아 조기 패치를 가능하게 하는 AI 기반 작업 흐름과 퍼징 시스템, 그리고 공격자보다 먼저 설계상의 약점을 드러내는 다단계 공격자 모사 활동을 소개하고 있다.

그러나 방어용 AI에도 자체적인 보안 책임이 따른다. CSA는 모델만 강화하는 것으로는 충분하지 않다고 지적한다. 시스템 운영자는 기획·설계, 개발, 배포, 운영·유지보수, 수명 종료에 이르는 AI 전체 생애주기에서 위험을 평가해야 한다. 여기에는 모델의 행동뿐 아니라 학습·운영 데이터, 인터페이스, 의존성, 공급망, 접근통제, 모니터링 체계를 보호하는 일이 포함된다.

특히 AI가 패치를 권고하거나 사고를 분류하고, 운영기술이나 공공서비스에 영향을 줄 수 있는 대응을 제안할 때는 사람의 검증이 반드시 뒤따라야 한다.

핵심 인프라 운영자와 기업이 함께 해야 할 일

싱가포르의 정책 방향은 기본 보안 수준을 높이는 동시에 지속적으로 시험하는 데 맞춰져 있다. 핵심 정보 인프라 운영자는 이미 외부 기관의 감사와 정기 침투 테스트를 실시하고 그 결과를 CSA에 제출하고 있다. 정부는 여기에 더해 보안 통제가 정기 감사 때만 검증되는 데 그치지 않고 계속 강화돼야 한다고 강조했다.

운영 원칙은 간결하다. 잠그고, 먼저 찾아내고, 신속히 고친다. 이를 실제 업무로 옮기면 자산 목록을 최신 상태로 유지하고, 취약점을 지속적으로 검색하며, 신속하게 패치하고, 네트워크와 권한을 분리하고, 소프트웨어와 외부 의존성을 테스트하며, 복구 훈련을 반복하는 것이다. CII로 지정되지 않은 기업도 인터넷 연결 서비스, 계정·인증 시스템, 클라우드 콘솔, 민감한 외부 연결을 같은 우선순위로 관리할 필요가 있다.

위협정보 공유와 공동 대응

어떤 조직도 모든 프런티어 AI 역량이나 공격 경로를 혼자 파악할 수는 없다. 정부기관, CII 운영자, 클라우드·기술 제공업체, 보안 연구자와 학계는 실행 가능한 공격 지표, 취약점 정보, 훈련에서 얻은 교훈을 가능한 한 신속하게 공유해야 한다.

일부 정보는 기밀로 남을 수밖에 없다. 싱가포르는 CII 운영자가 시스템을 공격하는 위협을 더 빠르게 파악하고 대응할 수 있도록 기밀 위협정보를 선별적으로 공유하는 한편, 방어 도구도 제공하겠다고 밝혔다. 따라서 조직은 세부 출처를 공개할 수 없는 경우에도 CSA 권고와 정제된 공유 가능 위협정보를 바탕으로 즉시 조치해야 한다.

국가 차원의 훈련도 이 모델의 일부다. 싱가포르의 핵심 인프라 방어 훈련(CIDeX)은 산업계 파트너들과 함께 11개 핵심 분야를 대상으로 AI 기반 사이버공격 시뮬레이션을 실시해 국가 차원의 회복력과 기관 간 협업을 강화해 왔다.

실질적인 결론

프런티어 AI가 기존 사이버보안의 기본 원칙을 대체하는 것은 아니다. 다만 기본을 소홀히 했을 때 치러야 할 비용을 높인다. 싱가포르가 제시하는 단기 방어책은 신속한 패치, MFA, 최소권한 접근, 지속적인 모니터링, 공격자 관점의 보안 테스트, 안전한 AI 도입, 신속한 정보 공유를 결합하는 것이다.

프런티어 모델의 역량이 계속 발전하는 상황에서 가장 유리한 조직은 자동화된 공격자가 발견하기 전에 스스로 취약점을 찾아내는 곳이다.