구글 “공격자들, AI 프롬프트에서 에이전트형 공격 워크플로로 이동”

구글 위협 인텔리전스 그룹(GTIG)의 2026년 3분기 AI 위협 추적 보고서가 짚은 핵심 변화는 공격자들의 AI 활용 방식이다. 이제 AI는 피싱 문구를 한 번 작성하거나 코드 오류를 고치는 보조 도구에만 머물지 않는다. 일부 공격자는 여러 AI 작업을 연결한 에이전트형 워크플로를 구축해 침투 과정에서 사람의 개입을 줄이고 있다. 이는 ‘완전 무인’ 사이버 공격이 이미 현실화됐다는 뜻은 아니지만, 보안팀이 이상 징후를 발견하고 조사·차단할 수 있는 시간이 더 짧아질 수 있음을 의미한다. 25

핵심은 ‘AI 보조’에서 ‘연결된 자동화’로의 이동

과거의 AI 악용은 대체로 표적 조사, 피싱 메시지 작성, 코드 작성·디버깅, 번역처럼 분리된 단일 작업을 돕는 형태였다. 하지만 GTIG는 9월 업데이트에서 역량이 높은 공격자들이 여러 작업을 연동하고, AI가 지원하는 자동화를 결합한 워크플로로 발전하고 있다고 밝혔다. 25

이 차이는 작지 않다. 연결된 워크플로는 정찰, 취약점 스캔, 자격 증명 수집, 운영 중 오류 해결, 후속 활동 같은 단계를 빠르게 넘나들 수 있다. 사람의 개입이 줄수록 방어 조직이 대응할 수 있는 기존의 시간적 여유도 압축된다는 것이 GTIG의 경고다. 25

금전 목적 범죄자: 6시간 안에 대규모 자격 증명 탈취 작전

보고서에서 특히 눈에 띄는 사례는 금전적 이익을 노린 한 공격자다. 이 공격자는 멀티 에이전트 프레임워크를 활용해 6시간 이내에 대규모 자격 증명 탈취 작전을 구축하고 실행한 것으로 전해졌다. 에이전트들은 스캔, 자격 증명 수집, 기술적 문제 해결 등의 작업 자동화를 지원했다. 212

중요한 점은 범죄자가 AI로 스크립트 하나를 작성했다는 데 있지 않다. 공격 도중 일상적인 기술 문제가 발생해도 에이전트가 문제 해결을 도우면서 작전이 계속 진행될 수 있다는 것이다. 공격 단계들을 조율하는 데 필요한 수작업이 줄어들 수 있다.

국가 연계 그룹도 침투 전 과정에 AI 활용

GTIG는 국가 연계 공격자들이 초기 조사와 표적 정보 수집부터 작전 중 문제 해결에 이르기까지 폭넓게 AI를 사용하고 있다고 보고했다. 중국 연계 사이버 스파이 그룹으로 지목된 BASINCASTLE은 대규모 언어 모델(LLM)을 사전 조사와 표적 정보 수집, 침투 과정의 오류 해결에 활용한 것으로 알려졌다. 1

또 다른 중국 연계 그룹은 Gemini를 이용해 자동화된 침투 테스트 프레임워크를 구축하려 시도했다. 여기서 에이전트형 AI는 침투 초기 단계를 자율적으로 수행하도록 설계된 것으로 전해졌다. 1

이 사례들은 AI의 활용 가치가 파괴적 행위 직전에만 국한되지 않음을 보여준다. AI는 조사 속도를 높이고, 기술 실험의 문턱을 낮추며, 공격자가 작전 도중 상황 변화에 적응하도록 도울 수 있다.

피싱과 사칭이 더 우려되는 이유

생성형 AI가 가장 넓게 미칠 영향은 완전히 새로운 공격 유형보다, 사람을 노리는 기존 공격의 고도화일 수 있다. AI는 피싱·사회공학용 콘텐츠를 더 빠르게 만들고, 수신자에 맞춰 개인화하며, 여러 언어와 지역에 맞는 자연스러운 문장으로 다듬는 데 쓰일 수 있다. GTIG는 앞선 보고서에서 공격자들이 AI를 정보 수집, 사실적인 피싱 사기, 악성코드 개발에 활용하는 사례를 관찰했다고 밝힌 바 있다. 11

사칭과 영향력 공작 측면에서도 마찬가지다. AI 보조 콘텐츠는 더 정교한 위장 시나리오, 조작된 온라인 신원, 대량의 기만 메시지를 뒷받침할 수 있다. 3분기 조사 결과를 다룬 보도에 따르면 이란 정부 지원 그룹들은 피싱과 가짜 신원 생성 등을 위해 Gemini를 활용했다. 이는 AI가 사이버 작전과 영향력 활동을 함께 강화할 수 있음을 보여준다. 4

조직 입장에서는 실무적인 결론이 분명하다. 이메일이나 문서, 음성 메시지가 문법적으로 자연스럽고 전문적으로 보인다는 사실만으로는 신뢰성을 판단하기 어려워졌다.

단서: 실제 환경의 완전 자율형 공격은 아직 확인되지 않았다

GTIG의 분석을 실제 표적을 상대로 한 완전 자율형 종단간 공격 시스템이 이미 배치됐다는 증거로 해석해서는 안 된다. GTIG는 실제 환경에서 위협 행위자가 표적을 상대로 완전 자율형 파이프라인을 배포한 사례는 아직 관찰하지 못했다고 명시했다. 2

현재 보고서가 보여주는 것은 자율성으로 향하는 과정이다. 에이전트는 이미 상당한 하위 작업을 지원하고 공격 워크플로의 일부를 연결할 수 있지만, 목표 설정과 중요한 판단은 여전히 사람이 주도하는 것으로 보인다. 따라서 당장의 보안 과제는 ‘AI 슈퍼해커’ 한 명보다, 익숙한 공격이 더 빠르고 저렴해지며 제때 분류·대응하기 어려워지는 상황에 대비하는 데 있다. 25

방어 조직이 취할 점

이번 추적 보고서는 방어 측이 공격의 정교함뿐 아니라 속도에 대응해야 한다는 점을 시사한다.

• 신원 기반 공격을 핵심 위험으로 다뤄야 한다. 피싱 저항성이 높은 인증을 강화하고, 비정상적인 자격 증명 사용을 탐지해야 한다.
• 탐지와 격리 시간을 줄여야 한다. 에이전트 지원 작전은 정찰, 접근, 정보 수집 단계 사이를 빠르게 이동할 수 있다.
• 고위험 요청은 별도 경로로 검증해야 한다. 지급 계좌 변경, 계정 정보 요청, 민감한 파일 공유 지시 등은 이메일이나 문서의 겉보기 신뢰도에만 의존해 처리해서는 안 된다.
• AI 자산과 개발 워크플로도 보호해야 한다. GTIG는 공격자들이 AI 관련 지식재산, AI 사용자와 시스템, 공급망의 취약점을 점점 더 노리고 있다고 밝혔다. 15

구글의 2026년 3분기 보고서가 전하는 메시지는 신중하지만 긴급하다. AI가 완전 자율형 사이버 공격을 이미 현실로 만든 것은 아니다. 그러나 범죄자와 국가 연계 그룹은 AI를 통해 익숙한 전술을 더 연결되고 확장 가능한 작전으로 바꾸고 있으며, 그만큼 방어 측의 대응 시간은 줄어들고 있다. 25