구글어스 AI 이미지 생성기, 출시 24시간 만에 철수…위성 사진 신뢰성 위기 초래

어떤 기능이었나

구글어스 웹 버전에 'Create image(이미지 생성)' 버튼이 추가되었습니다. 사용자가 원하는 위치로 확대한 후 버튼을 누르고 프롬프트를 입력하면, 나노 바나나 2 모델이 해당 위치의 실제 위성, 항공, 3D 이미지를 바탕으로 사실적인 이미지를 만들어냈습니다. 구글은 이를 '창의적인 지리 학습 도구'라고 포장했지만, 본질적으로 누구나 대규모로 지리 공간 증거를 조작할 수 있는 기능이었습니다.

왜 철회되었나

정책을 위반하는 가짜 이미지가 즉시 등장했습니다. 사용자들은 로스앤젤레스의 폭발 크레이터, 침수된 미 국회의사당, 이란 카르그 섬의 화재, 그리고 전문가들에게 가장 충격적이었던 이란 내 핵 시설과 키이우를 행진하는 러시아 탱크의 조작 이미지를 생성했습니다.

BBC Verify와 OSINT 연구원들은 공개적으로 위험성을 입증했습니다. AI 연구원 헹크 판 에스(Henk van Ess)와 BBC Verify는 민감한 지정학적 위치의 조작된 위성 장면을 제작하여, 이 도구가 얼마나 쉽게 실제처럼 보이는 오해의 소지가 있는 이미지를 생성할 수 있는지 보여주었습니다.

구글은 직접적으로 신뢰 문제를 인정했습니다. 철회 성명에서 구글은 "우리는 사람들이 구글어스를 세계에 대한 신뢰할 수 있는 시각으로 독특하게 신뢰한다는 것을 알고 있습니다. 지리 공간 전문가들이 다양한 유용한 목적으로 이 기능을 사용하는 것을 보았지만, 더 강력한 보호 장치를 구현하는 동안 구글어스에서 이 기능을 철회합니다"라고 밝혔습니다.

OSINT 신뢰 위기

위성 이미지는 오픈소스 정보(OSINT), 인권 조사, 전쟁 범죄 기록의 핵심적인 증거 자료로 사용되어 왔습니다. 전문가들은 가장 신뢰받는 위성 지도 플랫폼인 구글어스에 직접 AI 생성 기능을 탑재하는 것은 모든 항공 이미지의 증거 신뢰성을 근본적으로 훼손할 수 있다고 경고했습니다.

이 기능은 진짜와 가짜의 경계를 원천에서 모호하게 만들었습니다. AI 이미지가 구글어스 자체 내에서 생성되고 실제 좌표에 연결되었기 때문에, 이 이미지들은 소셜 미디어에 공유되는 일반적인 AI 이미지보다 훨씬 더 디버킹(가짜임을 입증)하기 어려운 거짓된 정통성(genuine authenticity)의 외관을 띠게 되었습니다.

인권 조사관들은 잔학 행위, 분쟁 피해, 환경 범죄를 기록하기 위해 검증된 위성 이미지에 의존합니다. 만약 구글어스 자체의 출력물조차 의심받게 된다면, 오픈소스 조사를 위한 전체 증거 체인이 손상되어 악의적인 행위자들이 실제 영상을 AI 생성물로 무시하기 더 쉬워질 것입니다.

OSINT 커뮤니티는 이 사건을 디지털 증거의 '신뢰 위기'라고 규정했습니다. OSINT 전문가들의 신속한 반발이 구글이 몇 시간 만에 결정을 번복하게 된 주요 원인이었습니다.

구글의 방어와 그 한계

구글은 모든 AI 생성 이미지에 AI 생성 콘텐츠임을 표시하도록 설계된 디지털 워터마크인 SynthID가 내장되었다고 밝혔습니다. 그러나 연구원들은 탐지 도구가 속을 수 있으며, 가짜 이미지가 유포되는 가장 일반적인 방식인 스크린샷은 플랫폼 수준의 워터마크나 맥락 정보를 모두 제거한다는 것을 입증했습니다. 출시 후 몇 시간 만에 쏟아진 설득력 있는 가짜 이미지들을 막기에는 이 방어책이 역부족이었습니다.

광범위한 시사점

이 사건은 구글 역사상 가장 빠른 제품 철회 사례 중 하나이며, 적절한 안전 장치 없이 생성형 AI를 신뢰받는 정보 플랫폼에 탑재할 때의 위험성을 보여주는 사례 연구로 남았습니다. OSINT 커뮤니티에게는 현대 디지털 증거의 초석인 위성 이미지의 신뢰성이 단 한 번의 제품 출시로 무너질 수 있다는 날카로운 경고였습니다.