‘또 다른 나’가 영상 속에 등장한다… 구글 제미니 아바타의 충격과 공포

제미니 아바타, 정확히 무엇인가?

구글의 업무용 동영상 제작 도구인 ‘Google Vids’에서 이미 제공되던 기성품 형태의 프리셋 아바타와는 궤를 달리합니다 . 제미니의 새로운 아바타는 ‘나’를 본뜬 개인 맞춤형 영구 AI 캐릭터입니다. 사용자의 실제 얼굴과 목소리를 스캔하여 ‘나처럼 생기고 말하는’ 모델을 구축한 다음, 이를 제미니 앱 안에 저장해 두고 필요할 때마다 꺼내 쓰는 개념이죠 .

이 기능은 구글 AI 프로(Pro) 또는 울트라(Ultra) 유료 구독자만 사용할 수 있으며, 웹 버전은 존재하지 않고 오로지 제미니 모바일 앱의 ‘설정 > 아바타’ 메뉴를 통해서만 접근할 수 있습니다 .

실제 작동 원리와 과정

설정 과정 자체는 의도적으로 간단하게 만들어졌지만, 그 이면에는 여러 강력한 AI 모델이 결합되어 있습니다.

• 실시간 등록: 가장 중요한 보안 절차입니다. 사진 한 장으로 조작하는 것을 막기 위해, 사용자는 반드시 자신의 스마트폰 카메라로 얼굴을 실시간 촬영해야 합니다. 이 일회성 스캔 과정에서 시스템은 사용자의 얼굴 기하학적 구조, 표정, 목소리까지 모두 캡처합니다 . 이때 화면에 표시되는 일련의 숫자를 소리 내어 읽어야 합니다 .
• 모델링: 구글의 멀티모달 AI ‘제미니 옴니’가 ‘Veo 3’ 및 ‘Veo 3.1’이라는 고성능 비디오 생성 엔진과 협력하여, 촬영된 기록을 재사용 가능한 디지털 아바타로 변환합니다 .
• 저장 및 재사용: 한번 만들어진 아바타는 계정에 저장됩니다. 이후에는 매번 사진을 올리거나 자신을 다시 촬영할 필요 없이, 새로운 프로젝트를 위해 아바타를 호출하기만 하면 됩니다 .
• 텍스트-비디오 생성: “AI 트렌드에 대한 팟캐스트 인트로를 녹음해 줘” 또는 “파리를 여행하는 내 모습을 보여 줘” 같은 텍스트 명령어를 입력하면, 아바타가 완전히 새로운 장면 속에서 자연스러운 입 모양과 몸짓, 동기화된 오디오와 함께 살아 움직입니다 .

PCWorld의 실제 사용 후기에 따르면, 설정에는 약 5분밖에 걸리지 않으며 생성된 영상은 너무 진짜 같아서 불편할 정도라고 합니다 .

구글이 촘촘히 둘러친 안전 펜스

구글은 이 기능을 ‘안전 제일주의’로 마케팅하고 있으며, 실제 안전장치도 여러 겹으로 설계되었습니다.

• 엄격한 18세 이상 연령 제한: 단순히 ‘예, 성인입니다’라고 체크하는 방식이 아닙니다. 구글은 해당 구글 계정에 등록된 생년월일 정보를 직접 대조하여 18세 미만 사용자의 접근을 원천 차단합니다 .
• 사진 도용 불가, 실시간 등록: 설정 단계에서 반드시 살아있는 얼굴을 카메라로 스캔해야 하므로, 다른 사람의 사진이나 다운로드한 영상으로는 아바타를 만들 수 없습니다. 이는 타인의 얼굴을 무단 도용하는 가장 뻔한 경로를 막는 핵심 장치입니다 .
• 투명 워터마크 ‘신스ID: 생성된 모든 영상에는 구글 딥마인드의 ‘신스ID(SynthID)’ 기술을 통해 눈에 보이지 않는 디지털 워터마크가 삽입됩니다. 이 워터마크는 영상이 편집되거나 일부가 잘려 나가도 사라지지 않아, AI 콘텐츠 탐지기가 해당 영상의 합성 여부를 확인할 수 있게 해 줍니다. 2026년 구글 I/O 발표에 따르면, 현재까지 1,000억 개 이상의 이미지와 동영상에 신스ID 워터마크가 적용되었습니다 .
• 금지된 사용 정책: 이 도구는 불법 활동, 사기, 개인정보 침해 등에 콘텐츠를 사용하는 것을 명시적으로 금지하는 구글의 ‘생성형 AI 금지 사용 정책’ 하에서 운영됩니다. 구글은 자동화된 탐지 시스템과 인력 검토를 결합하여 이를 시행합니다 .
• 생성량 제한: 악의적인 대량 생성 시도를 억제하기 위해, 대부분의 사용자는 일주일에 아바타 생성 20회, 하루 비디오 생성 10회 등 구독 플랜에 따른 용량 제한을 받습니다 .

왜 유럽에서는 이 기능을 쓸 수 없을까

구글의 안전 메시지에도 불구하고, 기능의 가용성 지도는 각국 규제당국에 대한 깊은 경계심을 드러냅니다. 이 개인 맞춤형 아바타 기능은 현재 미국 등 일부 지역에서만 이용 가능하며, 유럽경제지역(EEA), 스위스, 영국에 기반을 둔 계정에서는 명시적으로 차단되었습니다 . 이는 전 세계 230여 개 이상의 국가에서 지원되는 제미니 웹 앱과 비교하면 현저히 좁은 범위입니다 .

이러한 지역적 차단은 생체 데이터와 AI 책임에 관한 유럽의 더욱 엄격한 법적 체계, 특히 EU AI 법을 직접적으로 가리킵니다. 구글은 이러한 시장에서의 컴플라이언스 리스크를 사전에 회피하고 미국 사용자에게 먼저 기능을 선보이는 길을 택한 것으로 보입니다 .

어떤 안전장치도 완전히 해소할 수 없는 딥페이크의 근본적 우려

이번 출시가 모두에게 환영받은 것은 아닙니다. 오히려 AI 생성 미디어의 핵심 난제를 둘러싼 논의에 다시금 불을 지폈습니다.

• 도구의 대중화: 자기 복제 목적의 도구라 할지어도, 이러한 고품질 딥페이크 기술이 소비자에게 손쉽게 제공된다는 사실 자체가 악의적 행위자의 기술적 진입 장벽을 낮추고 합성 영상을 일상화시킨다는 비판이 제기됩니다 .
• 잔존하는 악용 위험: 실시간 얼굴 스캔은 사진 도용을 막을 수 있지만, 누군가를 협박하거나 속여서 카메라 앞에서 등록하게 만드는 공격 시나리오까지 막을 수는 없습니다. 이는 자동화된 시스템이 쉽게 탐지하기 어려운 공격 경로입니다.
• 끝나지 않는 탐지 경쟁: 신스ID는 편집이나 크롭에도 살아남는 이미지 픽셀 단위에 새겨지는 강력한 투명성 조치입니다 . 그러나 이는 구글 자체 미디어에 대한 독자적 해결책일 뿐, 워터마크가 전혀 적용되지 않은 오픈소스 또는 경쟁 모델로 생성된 딥페이크는 탐지할 수 없습니다. 이는 단일 기업의 해결책이 가진 명확한 한계를 드러냅니다.

구글의 새로운 아바타 기능은 소비자 대상 AI 영상 제작 분야에서 분명 획기적인 도약이지만, 동시에 한 가지 사실을 분명히 합니다. 바로 합성 미디어와 공존하기 위한 규칙, 도구, 사회적 규범은 바로 지금, 실시간으로 새롭게 쓰이고 있다는 점입니다.