팬텀 스쿼팅: AI가 만들어낸 '유령 도메인'이 현실 공격으로

AI 환각에서 도메인 하이재킹으로 이어지는 공격 체인

팬텀 스쿼팅(Phantom Squatting)은 대규모 언어 모델(LLM)이 정보 부족 시 사실을 확인하지 않고 그럴듯한 내용을 생성하는 '환각(hallucination)' 특성을 정확히 노리는 공격이다 . Palo Alto Networks 블로그에 따르면, 이 공격은 다음의 세 단계로 진행된다 .

1단계: 환각 유발 도메인 탐색
공격자는 특정 브랜드 이름을 넣어 AI 모델에 체계적으로 질의하며, 모델이 '환각'으로 생성해내는 가짜 URL 목록을 확보한다 . LLM은 '완벽하게 구조화되고 매우 설득력 있는 URL'을 만들어내지만, 해당 도메인이 실제로 등록된 적이 없는 경우가 많다 .

2단계: 유령 도메인 선점 등록
공격자는 확인된 가상의 도메인 이름을 도메인 등록 대행사를 통해 단돈 수 달러에 매입한 후, 악성 서버를 구축하고 피해자가 방문하기를 기다린다 .

3단계: 사용자 신뢰 악용
일반 사용자나 자율 AI 에이전트가 AI의 추천을 따라 해당 링크를 클릭하면 곧바로 공격자의 함정에 빠진다 . 기존 보안 솔루션이 해당 도메인을 악성으로 탐지할 때쯤이면 이미 피해가 발생한 후인 경우가 대부분이다 .

이는 기존의 사이버스쿼팅(Cybersquatting)과 근본적으로 다르다. 전통적인 방식은 netflix-payments[.]com처럼 사용자의 오타나 유사 도메인에 의존했지만 , 팬텀 스쿼팅은 인간의 실수 대신 AI의 환각 자체를 공격 벡터로 삼는다 .

실제 사례와 유사 공격 기법

Palo Alto Networks는 아직 특정 브랜드명이나 적발된 구체적인 도메인을 공개하지 않았지만 , 다음과 같은 패턴이 확인됐다.

고객 지원 사칭
AI 시스템이 생성한 정당한 브랜드의 공식 지원 URL처럼 보이는 피싱 링크를 만드는 데 팬텀 스쿼팅이 활용될 수 있다 . 사용자는 AI 어시스턴트가 제공한 링크라는 이유로 더 신뢰하는 경향을 공격자가 교묘히 이용한다 .

AI 테마 피싱 증가
Palo Alto Networks Unit 42는 AI와 ChatGPT에 대한 관심을 악용한 전통적인 악성코드 및 피싱 기술이 급증했다고 보고했다 . 2022년 11월부터 2023년 4월까지 ChatGPT 관련 도메인의 월간 등록 건수는 910% 증가했으며, 하루 최대 118건의 악성 URL이 탐지됐다 .

관련 기법: '슬롭스쿼팅(Slopsquatting)'
도메인 대신 소프트웨어 패키지 이름을 노린다는 점을 제외하면 원리는 동일하다 . 공격자는 LLM이 코딩 작업 중 자주 환각으로 추천하는 소프트웨어 패키지 이름(npm, PyPI, RubyGems 등)을 식별해 해당 이름으로 악성코드를 담은 패키지를 등록한다 . 개발자가 AI 어시스턴트에게 코딩 해결책을 요청하면 AI는 자신 있게 이 '유령 패키지'를 추천하고, 개발자는 AI의 권위적인 어조를 믿고 설치 명령어를 복사해 실행한다 . 16개 AI 모델을 대상으로 한 연구에서는 AI 코딩 도구가 추천한 패키지 중 약 19.7%가 완전히 허구였으며, 이는 무려 20만 5천 개가 넘는 환각 패키지명에 해당한다 .

Palo Alto Networks가 권고하는 방어 전략

1. 사전 도메인 모니터링
조직은 의심스러운 스쿼팅 도메인을 지속적으로 감시해야 한다. 팬텀 스쿼팅 탐지에도 AI를 방어적으로 활용할 수 있다. 연구에 따르면 'DomainLynx'라는 복합 AI 시스템은 1,649개의 스쿼팅 도메인 데이터셋에서 94.7%의 정확도를 기록했으며, 실제 한 달간 테스트에서 209만 개의 신규 도메인 중 34,359개의 스쿼팅 도메인을 탐지했다 .

2. 신규 등록 도메인(NRD) 필터링
Palo Alto Networks의 Advanced DNS Security는 신규 등록 도메인(Newly Registered Domains, UTID 109020001)에 대한 시그니처를 제공한다 . NRD는 최근 TLD 운영자가 추가했거나 지난 32일 이내에 소유권이 변경된 도메인으로, 다수가 명령 및 제어(C2) 서버 운영이나 악성코드 유포에 악용된다 .

3. DNS 계층 보호
DNS 보안 통제를 통해 피싱 및 사회공학에 악용되는 NRD 등 위험한 도메인으로의 트래픽을 검사하거나 차단할 수 있다 . Precision AI와 실시간 딥러닝 탐지 엔진으로 구동되는 Advanced URL Filtering(AURL)은 한 번도 본 적 없는 신종 피싱 도메인도 즉시 식별해 차단한다 .

4. 사용자 교육 및 AI 출력 검증
사용자는 AI가 생성한 URL을 무조건 신뢰해서는 안 되며, 중요한 출력은 반드시 사람의 검토나 신뢰할 수 있는 데이터베이스, API를 통해 교차 검증해야 한다 .

5. AI 에이전트 가드레일 구축
자율 에이전트나 AI 기반 워크플로우는 생성된 URL, 패키지 이름 등을 페치하거나 설치, 실행하기 전에 반드시 신뢰할 수 있는 출처와 대조 검증하도록 설계해야 한다 . 이는 특히 코딩 어시스턴트에게 중요하며, 슬롭스쿼팅 변종이 개발 파이프라인에 직접적인 위협이 되기 때문이다 .

결론

팬텀 스쿼팅은 AI가 가진 잘 알려진 결함인 '환각'을 AI 출력을 신뢰하는 사용자에 대한 공격으로 전환한 실용적이고 새로운 위협이다 . 이 공격은 LLM의 가장 유용한 특징, 즉 실제 근거가 없음에도 확신에 차서 그럴듯한 내용을 생성하는 능력을 역으로 이용한다. 이에 대응하려면 조직은 사전 도메인 모니터링, 엄격한 DNS/NRD 필터링, 사용자 교육, 그리고 AI가 생성한 URL을 독립적으로 검증할 때까지 '신뢰할 수 없는 것'으로 간주하는 AI 에이전트 가드레일을 포함한 다계층 방어 전략이 필요하다 .