AI는 해킹을 새로 발명한 것이 아니라, 익숙한 공격을 더 빠르고 반복 가능하게 만들고 있다

구글, 앤트로픽, 마이크로소프트의 공통된 진단은 AI가 완전히 새로운 침투 수법을 만들어 냈다는 데 있지 않다. 핵심은 정찰, 콘텐츠 작성, 코드 생성, 테스트, 수정, 배포라는 기존 공격 단계를 연결해 더 적은 전문 인력과 더 짧은 수작업 시간으로 반복할 수 있게 만들었다는 점이다. 현 시점에서 근거가 강한 것은 AI가 익숙한 공격을 가속하고 조율한다는 사실이며, 의미 있는 인간 지시 없이 완전히 독립적으로 움직이는 공격 시스템이 보편화됐다는 뜻은 아니다. 107

‘조수’에서 여러 단계를 잇는 에이전트형 도구로

구글의 위협 추적은 단발성 프롬프트 사용에서 벗어나, 여러 작업을 연계하는 에이전트형 워크플로로 이동하는 모습을 짚었다. 자동 취약점 스캔, 자격 증명 수집, 오류 해결, 공격 인프라의 순환 교체 등이 하나의 반복 파이프라인에 결합되는 방식이다. 과거에는 여러 도구와 운영자가 나눠 수행했을 작업이 훨씬 빠르게 반복될 수 있다는 의미다. 11

다만 이를 곧바로 ‘완전 자율 해킹’으로 해석해서는 안 된다. 마이크로소프트는 관찰된 악성 AI 사용의 대부분이 여전히 텍스트, 코드, 미디어 생성에 집중돼 있다고 평가했다. 즉 공격자는 AI를 이용해 메시지를 쓰고, 번역하고, 스크립트나 악성코드를 개발·디버깅하며, 인프라 구성을 보조받고 있다. 10

공격자들은 AI를 어디에 쓰고 있나

세 보고서에서 드러난 AI 활용 사례는 표적 조사와 프로파일링, 다국어 스피어피싱 문안 제작, 악성코드 및 스크립트 개발·디버깅, 공격 인프라 구성, 탈취 데이터 요약, 사회공학용 자료 제작 등에 걸쳐 있다. 10

특히 중요한 위험은 단일 악성 프롬프트가 아니라 ‘생성→테스트→수정→배포’의 피드백 고리다. 보안 제품에 탐지된 코드가 있으면 공격자는 모델에 변형 또는 재구성을 요구하고, 탈취한 계정 정보나 API 키를 저비용 연산 자원처럼 활용하면서 반복 속도를 끌어올릴 수 있다. 87

국가 연계 사례와 ShinyHunters가 보여주는 것

앤트로픽은 러시아·중국·이란 연계 행위자와 금전 목적 집단이 Claude를 악용하려 한 활동을 탐지·차단했다고 밝혔다. 사례 범위는 사이버 작전, 영향력 작전, 감시, 사기, 생물학적 악용, 재래식 무기 관련 작업, 모델 증류에 걸친다. 로이터는 이 가운데 우크라이나 관리들을 겨냥한 러시아 연계 작전과 중국 AI 기업의 Claude 악용 의혹을 보도했다. 다만 이는 기업이 제시한 귀속과 사례 연구이지, 전체 위협 활동의 규모를 측정한 통계는 아니다. 724

ShinyHunters 관련 사례는 더 익숙한 공격 수법이 AI 시대에 어떻게 강화되는지 보여준다. 마이크로소프트는 ShinyHunters, Helix 및 관련 갈취 조직과 연결된 행위자들이 기업용 Microsoft 365 계정을 노려 패스키와 싱글사인온(SSO)을 사칭한 사회공학 공격을 벌였다고 분석했다. 알려진 흐름은 사전 정찰 뒤 IT 지원팀을 사칭해 접근 권한을 얻고 클라우드 데이터를 빼내는 방식이다. 이는 AI가 침해 전 과정을 독립 실행했다는 증거라기보다, 정교한 표적화와 대량의 미끼 제작으로 기존 계정 탈취가 더 효율화될 수 있음을 시사한다. 3

‘그럴듯함’의 대량 생산이 방어를 어렵게 만든다

AI 브랜드 사칭도 같은 비용 구조를 따른다. 설득력 있는 지원 페이지, 피싱 메일, 채팅 응대, 음성·이미지 복제물, 다국어 변형본을 더 싸고 빠르게 만들고 갱신할 수 있기 때문이다. 방어자는 메시지 수량뿐 아니라 개인화와 변형의 폭까지 커진 환경에 대응해야 한다. 알려진 문구나 노골적인 문법 오류를 찾는 방식만으로는 한계가 커질 수 있다. 마이크로소프트는 피싱 미끼 생성과 번역에 AI가 사용되는 것을 관찰했다고 밝혔다. 10

모델 증류는 또 다른 공격 표면이다

구글이 강조한 모델 증류, 또는 모델 추출은 Gemini 같은 AI 모델에 체계적으로 질의해 독점적 역량을 빼내려는 시도다. 이는 통상의 네트워크 침해와는 다른 성격의 지식재산권·모델 역량 보안 문제다. 공격자는 정상적인 API 접근을 이용해 대량의 질의를 보내고, 모델의 유용한 행동이나 추론 관련 정보를 복제 모델 학습에 활용하려 할 수 있다. 제공업체는 비정상 질의 패턴을 탐지하고 모델의 역량과 안전장치를 보호해야 한다. 118

바뀐 것은 성공의 보장이 아니라 비용과 속도다

AI는 문안 작성, 현지화, 조사, 코드 보조, 반복적인 기만 작업의 한계비용을 낮춘다. 이에 따라 자원이 적은 범죄자나 핵티비스트도 과거에는 더 큰 팀이 필요했던 일부 역량을 확보할 수 있다. 반대로 방어자는 정상적인 소통과 더 개인화되고 빈번히 바뀌는 악성 콘텐츠를 구별해야 한다. 보고서들이 말하는 비대칭성은 공격의 속도와 확장성에 관한 것이지, 모든 AI 기반 공격이 성공한다는 뜻은 아니다. 610

책임 있는 AI 논의가 사이버 보안을 넘어서는 이유

접근 통제, 기능 제한, 모니터링의 문제는 피싱 방어에만 머물지 않는다. 앤트로픽 보고서는 사이버 작전 외에도 생물학적 악용과 재래식 무기 개발을 지원할 수 있는 시도를 다뤘다. 따라서 대응 논의에는 악용 감시, 계정·API 통제, 속도 제한, 모델 추출 탐지, 사고 정보 공유, 고위험 영역의 안전장치가 함께 포함된다. 162

결론적으로 이들 보고서는 탐지되고 차단된 사례를 통해 AI 악용의 능력과 운영 패턴 변화를 보여준다. 그러나 이것만으로 자율형 공격이 이미 사이버 범죄의 지배적 형태가 됐다고 단정할 수는 없다. 7