구글 어스 AI 이미지 기능, 출시 하루 만에 전격 철회

어떤 기능이었나

구글 어스의 '이미지 생성' 도구는 브라우저용 구글 어스에 '나노 바나나 2'를 직접 통합한 방식이었다. 사용자는 전 세계 어느 위치로든 확대한 후 '이미지 생성'을 누르고 텍스트 프롬프트를 입력하면, 구글 어스가 검증한 위성 및 3D 지도 데이터에 기반한 사실적인 장면이 생성되었다 . 구글은 이 기능이 "역사를 시각화하고, 부동산 계획을 세우는 등"에 활용될 수 있다고 소개했지만, 역사적 장면을 상상하는 능력은 곧 폭격 장면을 시뮬레이션하는 데도 악용될 수 있었다.

철회를 촉발한 가짜뉴스 사례

연구자와 언론인들은 즉각 이 기능의 한계를 시험했다. 그 결과는 충격적이었다.

• BBC Verify는 에펠탑이 무너진 모습, 이집트 기자(Giza) 피라미드를 삼키는 싱크홀, 키이우(Kyiv) 거리를 질주하는 러시아 탱크 등을 만들었다 .
• 애틀랜틱(Atlantic) 기자 마테오 웡은 불타는 사무실 건물, 샌프란시스코의 대규모 파괴 장면, 에펠탑이 사라진 자리의 연기 나는 분화구, 세계무역센터 1동을 들이받는 비행기, 백악관 잔디밭의 노숙자 텐트촌, 마러라고 앞 시위대, 미-멕시코 국경을 넘는 이민 행렬, 가자 지구에 세워진 트럼프 호텔 등을 생성했다 .
• PC 게이머(PC Gamer) 기자들은 자신의 고향을 AI 프롬프트로 전쟁터로 바꿨다 .
• **AI 및 가짜뉴스 전문가 헹크 판 에스(Henk van Ess)**는 이란에 실제로는 없는 원자력 발전소, 미-멕시코 국경 난민 캠프, 가자 지구의 가짜 병원 옆 폭탄 구덩이 이미지를 만들어냈다 .
• NPR은 이란 하르크(Kharg) 섬이 피해를 입은 것처럼 보이는 이미지를 생성했다 .
• **404 미디어(404 Media)**의 조셉 콕스는 이 도구로 폭발 장면 이미지를 제작했다 .

전문가들이 '특별히 위험하다'고 평가한 이유

오픈소스 정보(OSINT) 조사관과 지리공간 분석가들은 전쟁, 재해, 인권 침해를 확인하는 데 위성 이미지에 의존해 왔기에 즉각 경보를 울렸다. 핵심 문제는 이 도구가 단순한 딥페이크(deepfake)를 만드는 것이 아니라, AI가 조작한 이미지를 실제 지리적 좌표와 실제 위성 지도에 고정시킨다는 점이었다.

헹크 판 에스는 BBC Verify에 이 도구가 "발명된 이미지를 실제 좌표에, 실제 이미지 위에 용접했다"며 "위조 자체가 설득력 있을 필요가 없다. 그것이 태어난 지도의 신뢰성을 물려받기 때문"이라고 말했다 .

**미국기업연구소(AEI) 연구 분석가 브래디 아프릭(Brady Africk)**은 이런 가짜가 "실제 위성 이미지에 고정되어 있어, 부조화로운 지형이나 축척 같은 AI 생성의 전형적인 징후를 제거한다"고 지적했다 . 그는 "사람들이 이미지를 스크롤하며 지나가거나 공유할 때 AI 생성인지 확인하는 경우는 거의 없다"고 덧붙였다 .

**수사 기자 벤 호이블(Ben Heubl)**은 이 도구가 "우크라이나, 러시아, 중동 및 기타 전쟁 지역에서 우리가 본 것과 매우 흡사한" 드론 공격 이미지를 쉽게 만들 수 있다고 적었다 .

**AI 탐지 연구원 헨리 아저(Henry Ajder)**는 급변하는 분쟁 지역의 가짜 이미지가 특히 '불안정을 야기할 수 있다'고 경고하며, "AI에 의해 훼손되지 않았다고 가정되는 공간은 특히 저널리스트와 급변하는 위기 현장에서 일하는 사람들에게 가치 있다"고 말했다 .

구글의 안전장치와 그 한계

구글은 두 가지 주요 안전장치를 마련했다. 첫째, 도구로 생성된 모든 AI 이미지에는 SynthID 디지털 워터마크가 포함되었고, 사용자는 Gemini 앱이나 구글 렌즈를 통해 AI 생성 여부를 확인할 수 있었다 . 둘째, '유해한 주제'를 묘사하는 이미지를 방지하기 위해 AI 모델에 콘텐츠 가이드라인을 구축했다 .

그러나 실제로 두 안전장치 모두 불충분한 것으로 드러났다.

• BBC Verify는 SynthID 워터마크가 일반적으로 작동하지만, 검사를 우회하여 Gemini가 가짜 구글 어스 이미지를 실제라고 판단하도록 속일 수 있음을 발견했다. 외부 AI 탐지 도구도 구글 어스 AI 콘텐츠를 식별하는 데 실패하는 경우가 있었다 .
• 프롬프트의 사소한 변경으로 콘텐츠 가이드라인을 우회할 수 있었다. 예를 들어, 의사당 근처에 '반역자를 매달기 위한 플랫폼'을 요청하는 프롬프트는 거부되었지만, 덜 구체적인 프롬프트는 허용되었다 .
• 워터마크는 사용자가 직접 확인할 때만 작동한다. 이미지는 다운로드되어 다른 플랫폼에서 쉽게 워터마크가 제거되거나 무시된 채 공유될 수 있다는 점은 비평가들이 처음부터 지적해온 문제였다 .

위성 이미지 신뢰성에 대한 더 큰 충격

이번 사건은 더 깊은 취약성을 드러냈다. 수십 년 동안 위성 이미지는 저널리즘, 전쟁 범죄 수사, 인도주의 활동에서 가장 신뢰할 수 있는 증거 형태 중 하나로 여겨져 왔다. 실제 지도에 고정된 AI 조작 이미지는 그 기반을 위협한다.

**지리공간 분석가이자 커먼 스페이스(Common Space) 공동 창업자인 빌 그리어(Bill Greer)**는 BBC Verify에 "위성 이미지는 역사적으로 특히 신뢰할 수 있는 데이터 소스로 여겨져 왔기 때문에 이는 공공 신뢰에 특히 해로울 수 있다"고 말했다 . 그는 위조된 위성 이미지가 이미 가짜뉴스 확산에 사용되었으며, 정부가 데이터 접근을 제한함에 따라 "더 많은 가짜 이미지와 더 적은 실제 이미지를 보게 될 것이며, 이는 신뢰를 더욱 침식할 것"이라고 덧붙였다 .

헨리 아저는 이 기능이 "신뢰할 수 있는 정보 출처가 AI 개입 가능성에 대한 끊임없는 의심으로 침식되는 또 다른 장소"라고 덧붙였다 .

구글의 입장과 향후 계획

구글은 2026년 7월 31일 X(구 트위터)에 게시된 성명을 통해 기능 철회를 발표했다.

"우리는 지리공간 전문가들이 이 기능을 다양한 유용한 목적으로 사용하는 것을 보았습니다. 그러나 동시에 사람들이 당사 정책을 위반하는 것으로 보이는 생성된 이미지의 스크린샷을 공유하는 것도 목격했습니다. 우리는 사람들이 구글 어스를 세상에 대한 신뢰할 수 있는 관점으로 독특하게 신뢰한다는 것을 잘 알고 있습니다. 더 강력한 안전장치를 구현하는 동안 구글 어스에서 이 기능을 철회합니다."

구글은 기능의 재출시 일정이나 더 강력한 안전장치의 구체적인 내용에 대해서는 밝히지 않았다. 이번 사건은 선의로 출시된 AI 제품이 저널리스트, 조사자, 대중이 절대적 진실의 원천으로 의존하는 플랫폼의 신뢰성을 얼마나 빠르게 무너뜨릴 수 있는지 보여주는 경고 사례로 남았다.