구글 딥마인드와 싱가포르 정부기술청(GovTech)이 안드로이드 기기에서 사기 징후를 찾아 사용자에게 알리는 AI 모델을 개발하고 있다. 협력 계획은 2026년 10월 14일 싱가포르 국제 사이버 위크에서 발표됐다. 목표는 대화 내용을 클라우드로 보내지 않고 기기에서 분석해, 사용자가 민감한 정보를 넘기거나 돈을 보내기 전에 경고하는 것이다. 현재 공개된 내용은 개발 계획이며, 출시가 확정된 안드로이드 기능이나 정해진 배포 일정은 아니다.
6
8
11
기기 안에서 대화의 조작 신호를 살핀다
양측은 구글의 경량 AI 모델 Gemma를 현지 사기 대화 사례를 바탕으로 미세 조정했다고 밝혔다. 대화 내용을 사용자 기기 안에서 처리해 개인정보가 담긴 메시지를 클라우드 서버로 보내지 않는 방식이 구상됐다.
6
11
보도된 작동 방식은 두 단계다. 먼저 가벼운 분류 모델이 메시지를 살펴보고, 의심 신호가 포착되면 미세 조정된 Gemma 모델이 대화의 더 많은 부분을 분석해 기기에 경고를 띄우는 구조다.
2 경고의 목적은 사기를 완벽하게 걸러내는 것이 아니라, 사용자가 비밀번호 같은 인증 정보나 민감한 개인정보를 넘기거나 돈을 보내기 전에 개입하는 데 있다.
6
12
일부 보도는 왓츠앱과 텔레그램을 분석 대상 앱의 예로 들었다.
19 그러나 현재 확인 가능한 발표 자료만으로는 실제 지원 앱 전체 목록이나, 정상적인 대화와 사기성 조작을 시스템이 어떤 기준으로 구분할지 알 수 없다.
‘기기 내 처리’가 뜻하는 것과 아직 모르는 것
이 프로젝트의 핵심 개인정보 보호 구상은 메시지 내용을 원격 클라우드로 전송하지 않고 기기에서 처리하는 것이다.
6
7
11 이런 설계는 채팅 내용을 외부 서버에 보내지 않고도 분석할 수 있게 하는 방향이다. 다만 공개된 자료에는 사용자 동의를 어떤 절차로 받을지, Google과 정부 기관의 접근 통제가 어떻게 이뤄지는지에 대한 세부 설명이나 독립적인 검증이 담겨 있지 않다. 경고가 얼마나 빨리 뜨는지, 탐지 정확도가 어느 정도인지 보여주는 측정 결과도 공개되지 않았다.
모델이 현지 사기 대화로 미세 조정됐다는 점은 확인되지만, 익명화된 신고 자료와 정보 분석 자료, 합성 대화를 함께 학습에 사용했다는 구체적인 내용은 확인되지 않는다. 사기 수법 변화에 맞춰 모델을 얼마나 자주, 어떤 방식으로 업데이트할지도 알려지지 않았다.
6
출시일과 해외 적용은 미정
구글 딥마인드와 GovTech는 모델 개발 협력을 발표했지만, 공개 자료에는 출시일이 제시되지 않았다. 안드로이드에 기본 기능으로 탑재될지도 확정되지 않았다.
6
8
12 다른 나라로의 확대 계획 역시 발표된 바 없다. 각 지역의 사기 유형에 맞춰 모델을 조정할 가능성은 있지만, 현재 자료에서 국제 배포 약속은 확인되지 않는다.
이번 개발의 배경에는 싱가포르의 사기 피해 규모가 있다. 관련 보도에 따르면 2019년 이후 누적 피해액은 40억 싱가포르달러를 넘어섰다.
3
4 다만 피해 규모가 크다는 사실만으로 새 모델의 효과가 입증되는 것은 아니다. 실제 서비스가 나오고 평가되기 전까지는 탐지 성능과 개인정보 보호 구현 방식, 여러 메시지 앱에서의 적용 범위가 미지수로 남는다.