ChatGPT 요약만 믿었다간 큰코다친다… 신종 피싱 공격 'ChatGPhish' 등장

우리가 ChatGPT가 웹 페이지를 요약해 보여줄 때, 그 안에 담긴 링크와 정보를 당연히 신뢰하기 마련입니다. 바로 이 지점을 정확히 파고드는 신종 취약점이 발견되었습니다.

보안 전문 업체 Permiso Security가 2026년 5월 29일 공개한 'ChatGPhish'는 ChatGPT의 웹 페이지 요약 기능을 피싱 공격의 전달 채널로 변질시키는 브라우저 기반 프롬프트 인젝션 기법입니다. 단순히 데이터를 몰래 빼가는 것이 아니라, 사용자가 보는 ChatGPT 화면 자체를 도구 삼아 악성 링크나 가짜 로그인 창을 정상적인 답변인 것처럼 띄우는 것이 핵심입니다. 어떤 원리로 작동하고, 어떤 취약점들이 쌓여 지금의 위협까지 왔는지, 그리고 오픈AI는 현재 어떤 상황인지 자세히 알아보겠습니다.

어떻게 ChatGPT 인터페이스 자체가 피싱 도구가 되나

ChatGPhish 공격의 핵심은 간단하지만 치명적입니다. ChatGPT 시스템이 외부 웹사이트에서 가져온 마크다운(Markdown) 형식의 링크나 이미지를 자체적으로 검증하지 않은 채, 마치 신뢰할 수 있는 콘텐츠처럼 그대로 화면에 띄우고 링크를 자동으로 활성화시켜 준다는 점을 악용합니다.

공격은 크게 세 단계로 진행됩니다.

1. 함정 페이지 제작 — 공격자는 겉으로 보기엔 멀쩡한 웹페이지 안에 악성 마크다운 링크, 이미지, 그리고 “긴급 보안 업데이트 필요” 같은 가짜 경고 메시지를 숨겨둡니다. 이 페이지는 사람 눈에는 평범하지만, ChatGPT가 내용을 분석할 때만 해석되는 숨겨진 지시 사항들로 채워져 있습니다.
2. 사용자의 무심한 요약 요청 — 사용자가 이 페이지를 ChatGPT에게 요약해 달라고 합니다. ChatGPT는 해당 웹페이지의 내용을 분석하는 과정에서, 공격자가 심어둔 악성 마크다운을 단순 텍스트가 아닌 실행 가능한 명령어처럼 해석하여 응답에 포함시킵니다.
3. 피싱 실행 — 사용자 눈앞의 ChatGPT 화면에는 누가 봐도 AI 비서가 추천해 주는 것처럼 보이는 링크와 보안 경고가 나타납니다. 하지만 이 링크를 클릭하는 순간, 개인 정보를 입력하라고 유도하는 가짜 사이트나 악성 코드 다운로드 페이지로 연결되는 것입니다.

결국 어떤 웹페이지든 ChatGPT가 열람하고 요약하는 순간, 피싱 공격의 함정으로 돌변할 수 있는 셈입니다. 오픈AI의 서버를 해킹하는 게 아니라, 사용자와 ChatGPT 사이의 브라우저 기반 신뢰를 교묘히 파고드는 방식입니다.

끊임없이 진화해 온 프롬프트 인젝션 공격의 역사

ChatGPhish는 갑자기 나타난 취약점이 아닙니다. 챗GPT가 웹 브라우징, 코드 실행, 플러그인 지원, 메모리 기능 등 새로운 능력을 갖출 때마다 공격자들은 이에 맞춰 새로운 인젝션 경로를 발굴해 왔습니다. 이번 사태까지 이어진 주요 사건들을 돌아보면 다음과 같습니다.

• 2022년 11월: 프롬프트 인젝션의 탄생 — 챗GPT가 세상에 나오기 불과 13일 전, GPT-3를 겨냥한 첫 프롬프트 인젝션 공격이 학계에 보고되었습니다. 그리고 챗GPT 출시 직후, 사용자들은 역할극이나 페르소나 설정 같은 방식으로 AI의 안전 장치를 우회하는 데 성공했습니다.