인공지능(AI)은 이제 사이버공격의 전 과정에 스며드는 ‘운영 계층’이 되고 있다. 공격자는 대규모 언어 모델(LLM)을 이용해 악성코드 구성 요소를 작성하고, 피싱 문구를 만들거나 번역하며, 스크립트 오류를 수정하고, 표적별 변형을 더 빠르게 생산할 수 있다.

다만 현재까지 확인된 증거가 말해주는 결론은 조금 더 정확하게 표현할 필요가 있다. AI가 모든 공격을 자율적으로 수행하는 단계에 이르렀다기보다, 기존 공격 기법을 더 빠르고 저렴하며 유연하게 만드는 쪽에 가깝다.

가장 큰 변화는 ‘공격 주기’의 단축

대부분의 침입은 여전히 피싱, 악성 스크립트, 원격접속 트로이목마(RAT), 정보 탈취처럼 익숙한 기법에 의존한다. AI가 바꾸는 것은 이 기법의 본질보다는 제작과 실행에 필요한 시간과 전문성이다.

공격자는 LLM으로 초안 스크립트를 만든 뒤 표적의 언어와 업종에 맞게 피싱 문구를 바꾸고, 테스트 결과에 따라 코드를 수정하거나 여러 변종을 생성할 수 있다. 캠페인 구상부터 배포까지 걸리는 시간이 짧아지고 실험 비용도 낮아진다. 결과적으로 그럴듯한 공격의 규모는 커지고, 방어자가 대응할 수 있는 시간은 줄어든다.

이 구분은 중요하다. AI를 미끼로 내세운 모든 공격을 ‘AI 공격’이라고 부르면 실제 AI 관여 수준을 과장할 수 있다. 현재 관찰되는 사례는 단순한 코드 작성 보조부터 공격 중 실시간 명령 생성까지 여러 단계로 나뉜다.

FunkSec, AI 보조 악성코드 개발의 사례

Kaspersky가 분석한 FunkSec은 AI가 악성코드 제작에 관여한 사례 중 하나다. Rust로 작성된 랜섬웨어는 하나의 실행 파일 안에서 암호화, 로컬 데이터 탈취, 자체 정리 기능을 수행한다. Kaspersky는 관련 도구인 비밀번호 생성기와 기본적인 분산서비스거부(DDoS) 도구에서도 LLM을 이용한 코드 합성의 흔적을 확인했다고 밝혔다. 2839

그렇다고 LLM이 캠페인 전체를 독자적으로 설계하고 배포·운영했다는 뜻은 아니다. 이 사례가 보여주는 것은 생성형 AI가 실제로 작동하는 악성코드 구성 요소를 만드는 데 기여할 수 있다는 점이다. 공격자는 더 적은 수작업으로 기능을 한데 모은 도구를 조립할 수 있다.

RevengeHotels: 기존 피싱 공격을 강화한 AI

2025년 RevengeHotels 캠페인은 AI가 기존 침입 방식을 대체하기보다 강화하는 모습을 보여준다. Kaspersky에 따르면 이 캠페인은 브라질과 스페인어권 시장의 호텔을 겨냥했으며, 예약 요청·송장·구직 지원서처럼 보이는 피싱 이메일을 사용했다. 피해자가 문서 저장 서비스로 위장한 웹사이트에 접속하면 스크립트가 실행되고, 최종적으로 VenomRAT 같은 원격접속 트로이목마가 전달됐다. 303136

Kaspersky는 초기 감염 코드와 다운로드 코드의 상당 부분이 대규모 언어 모델 에이전트로 생성된 것으로 보인다고 설명했다. 28 하지만 공격의 뼈대는 여전히 전형적인 사회공학, 스크립트 실행, RAT 전달이었다. AI는 감염 과정의 일부를 만들고 변형하는 데 사용돼 공격자가 지역과 표적을 바꿔가며 더 효율적으로 반복할 수 있도록 도왔다.

따라서 맥락 없이 ‘AI 기반 공격’이라고 부르는 것은 오해를 낳을 수 있다. RevengeHotels의 경우 AI 보조 코드 생성이 전통적인 피싱 작전 안에 포함된 것이다.

LameHug, 공격 실행 중 LLM을 호출하다

현재 공개된 사례 가운데 기술적으로 가장 중요한 변화는 LameHug다. 일부 보고에서는 PROMPTSTEAL로도 언급되는 이 악성코드는 단순히 AI의 도움으로 작성된 것으로 보이는 악성코드와 달리, 실행 중 LLM을 사용했다.

CERT-UA 보고서를 바탕으로 한 분석에 따르면 LameHug는 Hugging Face API에 접속해 Alibaba Cloud의 Qwen2.5-Coder-32B-Instruct 모델로부터 윈도 명령을 동적으로 생성했다. 생성된 명령은 시스템 정보를 수집하고, 탈취할 Office 문서를 검색하는 데 사용될 수 있었다. 237

이러한 실행 시점의 모델 호출은 악성코드의 작동 방식을 세 가지 측면에서 바꾼다.

1. 명령 순서를 사전에 모두 고정할 필요가 없다. 악성코드는 주어진 지침과 감염된 환경에 따라 필요한 명령을 모델에 요청할 수 있다.
2. 일반적인 시스템 도구를 활용할 수 있다. 방어자는 특정 페이로드의 고유한 특징뿐 아니라 명령의 조합과 실행 순서를 분석해야 한다. 4
3. 외부 서비스 의존성이 생긴다. 감염된 시스템이 언어 모델 API로 비정상적인 외부 통신을 시도하는 행위 자체가 탐지 신호가 될 수 있다.

LameHug는 악성코드가 완전히 자율화됐다는 증거가 아니다. 대신 공격자가 LLM을 작전 과정에 직접 연결해 정찰과 데이터 수집 행동을 실시간으로 생성하도록 할 수 있음을 보여준다.

‘AI 서비스’로 위장한 미끼도 늘어난다

AI는 공격 도구일 뿐 아니라 미끼로도 활용되고 있다. Kaspersky는 2026년 1월부터 4월까지 중소기업을 대상으로 인기 AI 서비스로 위장한 악성 또는 원치 않는 PC 소프트웨어 공격을 3만3,300건 이상 탐지했다고 밝혔다. 이는 2025년 같은 기간과 비교해 거의 5배에 해당한다. 5051

이 수치는 AI 서비스로 가장한 소프트웨어 탐지 건수다. 모든 페이로드가 AI로 생성됐거나 AI 시스템이 각 공격을 직접 운영했다는 의미는 아니다. 보다 신중한 결론은 공격자가 널리 알려진 AI 브랜드에 대한 신뢰와 기업 내 AI 도구 확산을 악용하고 있다는 것이다.

직원 입장에서 위험은 현실적이다. 가짜 이미지 생성기, 챗봇 프로그램, 생산성 보조 도구가 악성코드의 전달 수단이 될 수 있다. 따라서 공식 다운로드 경로 확인, 소프트웨어 설치 정책, 엔드포인트 보안 통제는 미끼가 AI 제품처럼 보일 때도 여전히 중요하다.

공격 규모와 지역별 노출 수치는 어떻게 봐야 하나

Kaspersky의 지역별 텔레메트리는 웹 기반 위협이 광범위하게 발생하고 있음을 보여준다. 다만 이 수치를 AI 기반 공격 건수로 해석해서는 안 된다. Kaspersky에 따르면 2026년 상반기 보안 시스템이 차단한 온라인 리소스발 공격은 남아프리카공화국 570만 건, 케냐 450만 건, 나이지리아 160만 건이었다. 보고된 META 지역 데이터셋에서 웹 기반 위협에 노출된 사용자 비율은 튀르키예가 22.8%로 가장 높았다. 14

이 통계는 웹사이트, 이메일, 웹 서비스 등을 통해 전달된 위협을 포괄한다. 따라서 온라인 공격에 대한 광범위한 노출을 보여주는 자료이지, AI가 원인인 공격이나 자율형 공격의 규모를 나타내는 수치는 아니다.

자율성보다 ‘적응 속도’가 더 현실적인 위험

당장 우려해야 할 것은 스스로 판단하는 사이버 군대가 갑자기 등장하는 상황이라기보다, 공격 과정 곳곳에서 작은 효율성이 누적되는 현상이다.

• 악성코드를 더 빠르게 작성하고 수정할 수 있다.
• 피싱 메시지를 언어, 업종, 표적의 상황에 맞게 바꿀 수 있다.
• 스크립트를 디버깅하고 다시 포장하는 작업이 빨라진다.
• 환경별로 악성코드의 행동을 달리할 수 있다.
• 정찰과 데이터 수집을 실행 중에 조정할 수 있다.

이런 효율성이 합쳐지면 침입 비용이 낮아지고 공격자는 더 많은 실험을 진행할 수 있다. 이전에는 전문 지식이 필요했던 기법을 숙련도가 낮은 공격자도 모방하기 쉬워질 수 있다.

특히 보안 인력이 제한적이거나 민감한 데이터를 대량으로 보유한 조직, 복잡한 외부 공급망을 운영하는 조직은 더 큰 영향을 받을 수 있다. 다만 핵심 인프라에 대한 공격 주장은 침해 사실, 실제 영향, AI 관여 여부를 각각 입증할 수 있는 구체적인 증거가 필요하다. 공격자의 일방적인 주장은 그 자체로 침해 확인이 아니다.

기업이 우선 강화해야 할 방어 지점

이 사례들은 계층적이고 행동 중심적인 대응이 필요하다는 점을 보여준다. 기존 악성코드 서명과 알려진 지표 차단을 계속 활용하되, AI 보조 또는 동적으로 적응하는 공격을 드러낼 수 있는 행위도 함께 감시해야 한다.

주요 탐지 신호는 다음과 같다.

• Python 또는 PyInstaller 프로세스가 예상치 못하게 언어 모델 서비스로 외부 연결을 시도하는 경우
• 평소 개발자·AI 서비스를 사용하지 않는 엔드포인트에서 Base64로 인코딩된 프롬프트나 비정상 API 호출이 발생하는 경우
• systeminfo, tasklist, dsquery, 재귀적 파일 검색 등 여러 시스템 도구가 연결된 명령 체인을 실행하는 경우
• JavaScript, PowerShell 등 스크립트 인터프리터를 통한 의심스러운 실행
• 비정상적인 자격 증명 접근, 문서 수집·압축·보관, 외부 전송
• 직원이 승인되지 않은 AI 애플리케이션이나 브라우저 도구를 설치하는 경우

Splunk의 LameHug 탐지 지침은 Python 또는 PyInstaller로 패키징된 프로세스가 Hugging Face API에 연결하고 Qwen 모델을 사용하는 행위를 구체적인 탐지 대상으로 제시한다. 4 이는 고정된 악성코드 서명을 기다리기보다 LLM이 연결된 공격 주변의 행동을 포착하는 방식이다.

결론: AI는 해킹을 대체하는 것이 아니라 가속한다

AI는 기존 공격을 더 쉽게 제작하고, 개인화하고, 수정할 수 있게 하면서 사이버공격에 깊숙이 자리 잡고 있다. FunkSec과 RevengeHotels는 AI 보조 악성코드 개발을 보여주고, LameHug는 실시간 침입 중 LLM을 호출한 사례를 제시한다. Kaspersky가 탐지한 중소기업 대상 AI 서비스 위장 공격은 AI의 인기가 새로운 미끼로 악용되고 있음을 보여준다. 283151

따라서 가장 정확한 표현은 ‘AI가 전통적인 해킹을 대체했다’가 아니다. AI가 피싱, 악성코드 개발, 정찰, 데이터 탈취 전반에서 효율성과 적응력을 높이는 계층으로 자리 잡고 있다는 것이다. 방어자는 공격 변종이 늘어나고 반복 속도가 빨라질 가능성에 대비해야 하며, 단순히 AI 브랜드를 내세운 일반 사이버범죄와 실제로 AI가 작전에 관여한 사례도 구분해서 판단해야 한다.

인공지능(AI)은 이제 사이버공격의 전 과정에 스며드는 ‘운영 계층’이 되고 있다. 공격자는 대규모 언어 모델(LLM)을 이용해 악성코드 구성 요소를 작성하고, 피싱 문구를 만들거나 번역하며, 스크립트 오류를 수정하고, 표적별 변형을 더 빠르게 생산할 수 있다.

다만 현재까지 확인된 증거가 말해주는 결론은 조금 더 정확하게 표현할 필요가 있다. AI가 모든 공격을 자율적으로 수행하는 단계에 이르렀다기보다, 기존 공격 기법을 더 빠르고 저렴하며 유연하게 만드는 쪽에 가깝다.

가장 큰 변화는 ‘공격 주기’의 단축

대부분의 침입은 여전히 피싱, 악성 스크립트, 원격접속 트로이목마(RAT), 정보 탈취처럼 익숙한 기법에 의존한다. AI가 바꾸는 것은 이 기법의 본질보다는 제작과 실행에 필요한 시간과 전문성이다.

공격자는 LLM으로 초안 스크립트를 만든 뒤 표적의 언어와 업종에 맞게 피싱 문구를 바꾸고, 테스트 결과에 따라 코드를 수정하거나 여러 변종을 생성할 수 있다. 캠페인 구상부터 배포까지 걸리는 시간이 짧아지고 실험 비용도 낮아진다. 결과적으로 그럴듯한 공격의 규모는 커지고, 방어자가 대응할 수 있는 시간은 줄어든다.

이 구분은 중요하다. AI를 미끼로 내세운 모든 공격을 ‘AI 공격’이라고 부르면 실제 AI 관여 수준을 과장할 수 있다. 현재 관찰되는 사례는 단순한 코드 작성 보조부터 공격 중 실시간 명령 생성까지 여러 단계로 나뉜다.

FunkSec, AI 보조 악성코드 개발의 사례

Kaspersky가 분석한 FunkSec은 AI가 악성코드 제작에 관여한 사례 중 하나다. Rust로 작성된 랜섬웨어는 하나의 실행 파일 안에서 암호화, 로컬 데이터 탈취, 자체 정리 기능을 수행한다. Kaspersky는 관련 도구인 비밀번호 생성기와 기본적인 분산서비스거부(DDoS) 도구에서도 LLM을 이용한 코드 합성의 흔적을 확인했다고 밝혔다. 2839

그렇다고 LLM이 캠페인 전체를 독자적으로 설계하고 배포·운영했다는 뜻은 아니다. 이 사례가 보여주는 것은 생성형 AI가 실제로 작동하는 악성코드 구성 요소를 만드는 데 기여할 수 있다는 점이다. 공격자는 더 적은 수작업으로 기능을 한데 모은 도구를 조립할 수 있다.

RevengeHotels: 기존 피싱 공격을 강화한 AI

2025년 RevengeHotels 캠페인은 AI가 기존 침입 방식을 대체하기보다 강화하는 모습을 보여준다. Kaspersky에 따르면 이 캠페인은 브라질과 스페인어권 시장의 호텔을 겨냥했으며, 예약 요청·송장·구직 지원서처럼 보이는 피싱 이메일을 사용했다. 피해자가 문서 저장 서비스로 위장한 웹사이트에 접속하면 스크립트가 실행되고, 최종적으로 VenomRAT 같은 원격접속 트로이목마가 전달됐다. 303136

Kaspersky는 초기 감염 코드와 다운로드 코드의 상당 부분이 대규모 언어 모델 에이전트로 생성된 것으로 보인다고 설명했다. 28 하지만 공격의 뼈대는 여전히 전형적인 사회공학, 스크립트 실행, RAT 전달이었다. AI는 감염 과정의 일부를 만들고 변형하는 데 사용돼 공격자가 지역과 표적을 바꿔가며 더 효율적으로 반복할 수 있도록 도왔다.

따라서 맥락 없이 ‘AI 기반 공격’이라고 부르는 것은 오해를 낳을 수 있다. RevengeHotels의 경우 AI 보조 코드 생성이 전통적인 피싱 작전 안에 포함된 것이다.

LameHug, 공격 실행 중 LLM을 호출하다

현재 공개된 사례 가운데 기술적으로 가장 중요한 변화는 LameHug다. 일부 보고에서는 PROMPTSTEAL로도 언급되는 이 악성코드는 단순히 AI의 도움으로 작성된 것으로 보이는 악성코드와 달리, 실행 중 LLM을 사용했다.

CERT-UA 보고서를 바탕으로 한 분석에 따르면 LameHug는 Hugging Face API에 접속해 Alibaba Cloud의 Qwen2.5-Coder-32B-Instruct 모델로부터 윈도 명령을 동적으로 생성했다. 생성된 명령은 시스템 정보를 수집하고, 탈취할 Office 문서를 검색하는 데 사용될 수 있었다. 237

이러한 실행 시점의 모델 호출은 악성코드의 작동 방식을 세 가지 측면에서 바꾼다.

1. 명령 순서를 사전에 모두 고정할 필요가 없다. 악성코드는 주어진 지침과 감염된 환경에 따라 필요한 명령을 모델에 요청할 수 있다.
2. 일반적인 시스템 도구를 활용할 수 있다. 방어자는 특정 페이로드의 고유한 특징뿐 아니라 명령의 조합과 실행 순서를 분석해야 한다. 4
3. 외부 서비스 의존성이 생긴다. 감염된 시스템이 언어 모델 API로 비정상적인 외부 통신을 시도하는 행위 자체가 탐지 신호가 될 수 있다.

LameHug는 악성코드가 완전히 자율화됐다는 증거가 아니다. 대신 공격자가 LLM을 작전 과정에 직접 연결해 정찰과 데이터 수집 행동을 실시간으로 생성하도록 할 수 있음을 보여준다.

‘AI 서비스’로 위장한 미끼도 늘어난다

AI는 공격 도구일 뿐 아니라 미끼로도 활용되고 있다. Kaspersky는 2026년 1월부터 4월까지 중소기업을 대상으로 인기 AI 서비스로 위장한 악성 또는 원치 않는 PC 소프트웨어 공격을 3만3,300건 이상 탐지했다고 밝혔다. 이는 2025년 같은 기간과 비교해 거의 5배에 해당한다. 5051

이 수치는 AI 서비스로 가장한 소프트웨어 탐지 건수다. 모든 페이로드가 AI로 생성됐거나 AI 시스템이 각 공격을 직접 운영했다는 의미는 아니다. 보다 신중한 결론은 공격자가 널리 알려진 AI 브랜드에 대한 신뢰와 기업 내 AI 도구 확산을 악용하고 있다는 것이다.

직원 입장에서 위험은 현실적이다. 가짜 이미지 생성기, 챗봇 프로그램, 생산성 보조 도구가 악성코드의 전달 수단이 될 수 있다. 따라서 공식 다운로드 경로 확인, 소프트웨어 설치 정책, 엔드포인트 보안 통제는 미끼가 AI 제품처럼 보일 때도 여전히 중요하다.

공격 규모와 지역별 노출 수치는 어떻게 봐야 하나

Kaspersky의 지역별 텔레메트리는 웹 기반 위협이 광범위하게 발생하고 있음을 보여준다. 다만 이 수치를 AI 기반 공격 건수로 해석해서는 안 된다. Kaspersky에 따르면 2026년 상반기 보안 시스템이 차단한 온라인 리소스발 공격은 남아프리카공화국 570만 건, 케냐 450만 건, 나이지리아 160만 건이었다. 보고된 META 지역 데이터셋에서 웹 기반 위협에 노출된 사용자 비율은 튀르키예가 22.8%로 가장 높았다. 14

이 통계는 웹사이트, 이메일, 웹 서비스 등을 통해 전달된 위협을 포괄한다. 따라서 온라인 공격에 대한 광범위한 노출을 보여주는 자료이지, AI가 원인인 공격이나 자율형 공격의 규모를 나타내는 수치는 아니다.

자율성보다 ‘적응 속도’가 더 현실적인 위험

당장 우려해야 할 것은 스스로 판단하는 사이버 군대가 갑자기 등장하는 상황이라기보다, 공격 과정 곳곳에서 작은 효율성이 누적되는 현상이다.

• 악성코드를 더 빠르게 작성하고 수정할 수 있다.
• 피싱 메시지를 언어, 업종, 표적의 상황에 맞게 바꿀 수 있다.
• 스크립트를 디버깅하고 다시 포장하는 작업이 빨라진다.
• 환경별로 악성코드의 행동을 달리할 수 있다.
• 정찰과 데이터 수집을 실행 중에 조정할 수 있다.

이런 효율성이 합쳐지면 침입 비용이 낮아지고 공격자는 더 많은 실험을 진행할 수 있다. 이전에는 전문 지식이 필요했던 기법을 숙련도가 낮은 공격자도 모방하기 쉬워질 수 있다.

특히 보안 인력이 제한적이거나 민감한 데이터를 대량으로 보유한 조직, 복잡한 외부 공급망을 운영하는 조직은 더 큰 영향을 받을 수 있다. 다만 핵심 인프라에 대한 공격 주장은 침해 사실, 실제 영향, AI 관여 여부를 각각 입증할 수 있는 구체적인 증거가 필요하다. 공격자의 일방적인 주장은 그 자체로 침해 확인이 아니다.

기업이 우선 강화해야 할 방어 지점

이 사례들은 계층적이고 행동 중심적인 대응이 필요하다는 점을 보여준다. 기존 악성코드 서명과 알려진 지표 차단을 계속 활용하되, AI 보조 또는 동적으로 적응하는 공격을 드러낼 수 있는 행위도 함께 감시해야 한다.

주요 탐지 신호는 다음과 같다.

• Python 또는 PyInstaller 프로세스가 예상치 못하게 언어 모델 서비스로 외부 연결을 시도하는 경우
• 평소 개발자·AI 서비스를 사용하지 않는 엔드포인트에서 Base64로 인코딩된 프롬프트나 비정상 API 호출이 발생하는 경우
• systeminfo, tasklist, dsquery, 재귀적 파일 검색 등 여러 시스템 도구가 연결된 명령 체인을 실행하는 경우
• JavaScript, PowerShell 등 스크립트 인터프리터를 통한 의심스러운 실행
• 비정상적인 자격 증명 접근, 문서 수집·압축·보관, 외부 전송
• 직원이 승인되지 않은 AI 애플리케이션이나 브라우저 도구를 설치하는 경우

Splunk의 LameHug 탐지 지침은 Python 또는 PyInstaller로 패키징된 프로세스가 Hugging Face API에 연결하고 Qwen 모델을 사용하는 행위를 구체적인 탐지 대상으로 제시한다. 4 이는 고정된 악성코드 서명을 기다리기보다 LLM이 연결된 공격 주변의 행동을 포착하는 방식이다.

결론: AI는 해킹을 대체하는 것이 아니라 가속한다

AI는 기존 공격을 더 쉽게 제작하고, 개인화하고, 수정할 수 있게 하면서 사이버공격에 깊숙이 자리 잡고 있다. FunkSec과 RevengeHotels는 AI 보조 악성코드 개발을 보여주고, LameHug는 실시간 침입 중 LLM을 호출한 사례를 제시한다. Kaspersky가 탐지한 중소기업 대상 AI 서비스 위장 공격은 AI의 인기가 새로운 미끼로 악용되고 있음을 보여준다. 283151

따라서 가장 정확한 표현은 ‘AI가 전통적인 해킹을 대체했다’가 아니다. AI가 피싱, 악성코드 개발, 정찰, 데이터 탈취 전반에서 효율성과 적응력을 높이는 계층으로 자리 잡고 있다는 것이다. 방어자는 공격 변종이 늘어나고 반복 속도가 빨라질 가능성에 대비해야 하며, 단순히 AI 브랜드를 내세운 일반 사이버범죄와 실제로 AI가 작전에 관여한 사례도 구분해서 판단해야 한다.