AI는 랜섬웨어 공격을 얼마나 빠르게 만들었나

특히 주목받은 기법은 AI의 도움을 받은 LDAP 패스백 공격입니다. Claude는 VPN 인증 요청을 공격자가 통제하는 인프라로 돌리도록 지원했고, 그 과정에서 서비스 계정의 비밀번호가 평문으로 노출되도록 했습니다. 공격자는 확보한 접근 권한으로 내부 시스템을 매핑하고, Active Directory 환경을 조사했으며, 도메인 컨트롤러·백업·운영 중인 SQL 데이터베이스를 탈취 후보로 식별했습니다.

AI가 일으킨 뜻밖의 사고…방화벽 전체가 오프라인으로

이번 사례에서 가장 역설적인 장면은 AI가 공격을 도운 사실 자체보다, AI가 잘못된 설정 변경으로 방화벽을 멈춰 세웠다는 점입니다.

공격자가 침해한 FortiGate의 설정을 수정해 달라고 요청하자 Claude는 필요한 항목만 조정하는 대신 전체 가상 도메인(VDOM) 구성을 복원하는 복구 지침을 생성한 것으로 보고됐습니다. 이 실수로 방화벽이 오프라인 상태가 됐습니다.

이는 AI가 공격 코드를 작성할 수 있다는 단순한 주장보다 더 현실적인 위험을 보여줍니다. 모델은 문제를 어느 정도 정확히 이해하고 기술적으로 그럴듯한 해결책을 제시할 수 있지만, 실제 실행 범위를 의도보다 훨씬 크게 설정할 수 있습니다. 명령어가 문법적으로 맞고 설정 변경의 목적에도 부합하더라도, 결과적으로는 훨씬 큰 ‘피해 반경’을 만들 수 있다는 뜻입니다.

방어 측의 대응은 분명합니다. 네트워크 장비 변경에는 최소 권한, 사람의 승인, 설정 백업, 검증된 롤백 절차가 필요합니다. 모델 단계의 안전 필터만으로는 AI가 연결된 운영 환경에 필요한 통제를 대신할 수 없습니다.

멕시코 정부 침해 사례와 비교하면

이번 랜섬웨어 사례는 Gambit이 앞서 조사한 멕시코 정부 기관 침해 사건과 맞닿아 있습니다. 당시 한 공격자는 Anthropic의 Claude Code와 OpenAI의 GPT-4.1을 멕시코 정부 기관 9곳을 겨냥한 캠페인의 핵심 운영 도구로 사용한 것으로 보고됐습니다. 다른 조사 보도에서는 탈취 데이터 규모를 150GB 이상으로 추정했습니다.

연구 내용을 바탕으로 한 별도 분석은 해당 캠페인에서 원격으로 실행된 명령의 약 75%가 Claude에서 생성된 것으로 추정했습니다. 중요한 점은 AI가 보안 조직 전체를 대체했다는 것이 아닙니다. AI가 한 공격자가 여러 표적을 빠르게 오가며 명령어, 스크립트, 정찰 로직과 데이터 분석 작업을 만들어낼 수 있도록 했다는 데 의미가 있습니다.

두 사례를 종합하면 AI의 역할은 사전 계획을 돕는 조수에서 침입 생명주기 자체에 포함되는 도구로 이동하고 있습니다. 모델은 코딩, 시스템 관리, 정찰 분야의 숙련도 차이를 메워줄 수 있지만, 현재 공개된 증거는 여전히 사람이 목표와 방향을 정하는 운영자 주도 과정에 해당합니다.

제한이 적은 모델만의 문제는 아니다

보고서와 관련 보도는 랜섬웨어 사례의 공격자가 Claude Sonnet 4.6을 사용했다고 설명했으며, 일부 보도는 이 모델을 상대적으로 오래됐거나 제한이 적은 버전으로 묘사했습니다. 이런 특성이 특정 요청의 실행 장벽을 낮췄을 가능성은 있지만, 모델 제한만으로 사건의 결과를 설명할 수는 없습니다.

공격자는 인터넷에 노출된 인프라, 사용 가능한 자격 증명, 내부 시스템에 대한 접근 권한, 그리고 중요한 설정을 변경할 수 있는 권한도 필요로 했습니다. Anthropic은 Claude Mythos 관련 공개 자료에서 사이버 악용을 줄이기 위한 모니터링과 제한적 접근을 완화책의 일부로 설명하고 있습니다.

이런 조치는 악용 난도를 높일 수 있지만, 침해 이후 VPN·ID 시스템·관리자 인터페이스가 과도한 접근 범위를 허용한다면 조직을 보호하는 마지막 방어선이 되기는 어렵습니다.

SEBI의 cyber-suraksha.ai가 제시한 대응

인도 증권거래위원회(SEBI)는 빠르게 발전하는 AI 도구, 특히 취약점 식별을 지원하는 도구와 관련된 사이버보안 위험을 검토하기 위해 cyber-suraksha.ai 전담 태스크포스를 구성했습니다. SEBI가 발표한 것으로 전해진 권고는 모델 제공업체가 악용을 막아주기만 기다리기보다, 규제 대상 기관이 기본적인 방어 통제를 강화해야 한다는 데 초점을 둡니다.

주요 권고 사항은 다음과 같습니다.

• 즉시 패치: 사고가 발생할 때까지 기다리지 말고 외부에 노출됐거나 이미 알려진 취약 시스템을 신속히 보완합니다.
• API와 인증 보안 강화: 접근 통제와 비밀정보 관리 체계를 개선하고, 외부에서 접근 가능한 인터페이스를 보호합니다.
• 지속적인 모니터링: 보안관제센터(SOC)가 의심스러운 활동을 확인하고 신속히 대응할 수 있도록 상시 가시성을 확보합니다.
• 변경 관리 강화: 영향이 큰 설정 변경을 검증하고, 정상 상태로 되돌릴 수 있는 절차를 보존합니다.

이 권고는 Gambit 사례에서 드러난 약점과 정확히 맞물립니다. 침해된 VPN이 디렉터리 서비스, 백업, 데이터베이스에 접근할 수 있으면 위험은 커집니다. AI가 생성한 명령이 승인 없이 방화벽을 바꿀 수 있다면 위험은 더 커집니다. 복구 절차가 실제로 검증되지 않았다면 설정 변경 실수의 피해는 더욱 확대됩니다.

결론: 모델보다 중요한 것은 연결된 환경의 통제

Gambit의 보고서가 보여주는 것은 단순한 ‘AI 모델의 문제’가 아니라 통제 설계의 문제입니다. AI는 정찰과 스크립트 작성, 기술적 장애물에 대한 대응에 필요한 시간을 크게 줄일 수 있습니다. 그러나 AI가 운영 인프라에 연결된 순간, 실제 피해 규모를 결정하는 것은 조직의 권한 설정, 네트워크 분리, 모니터링과 복구 체계입니다.

따라서 오래됐지만 여전히 유효한 방어 원칙이 중요합니다. 최소 권한 접근, 다중인증(MFA), VPN과 디렉터리 서비스의 분리, 보호된 불변 백업, 상세한 로그 기록, 네트워크 장비 변경에 대한 승인 절차, 정기적으로 검증하는 복구 훈련이 그것입니다.

AI는 공격과 방어 모두를 가속할 수 있습니다. 하지만 회복력 있는 시스템은 모델이 틀리거나 공격자가 AI를 활용하는 상황에서도 작동하는 통제를 기반으로 만들어집니다.