가장 먼저 기억할 원칙은 간단하다. AI는 신분증도, 진실 보증서도 아니다. 가족의 목소리처럼 들리는 전화, 실제 같은 영상, 전문적으로 보이는 웹사이트, 막힘없이 이어지는 AI 답변은 진짜일 수도 있지만 조작됐거나 그럴듯하게 생성됐을 수도 있다. 그래서 판단 기준은 “얼마나 자연스러운가”가 아니라 “독립적으로 확인할 수 있는가”여야 한다.
왜 AI 사기는 예전 스팸처럼 보이지 않을까
미국의 여러 감독기관은 AI를 활용한 속임수를 소비자 보호와 금융 피해의 문제로 다루고 있다. 미국 연방통신위원회(FCC)는 AI로 생성된 전화와 문자 문제를 다루며, 소비자가 AI 생성 자동전화와 자동문자를 더 잘 이해하도록 공공 교육이 필요하다고 권고했다 [1]. 미국 상품선물거래위원회(CFTC)는 생성형 AI가 사기꾼에게 가짜 이미지, 목소리, 영상, 실시간 영상 채팅, 소셜미디어 프로필, 진짜처럼 보이는 악성 웹사이트를 만드는 일을 더 쉽게 할 수 있다고 경고했다 [
4].
미국 연방거래위원회(FTC)도 AI를 둘러싼 허위·과장 주장에 대응하고 있다. FTC는 2024년 기만적인 AI 주장과 AI 관련 사기성 계획에 대한 조치를 발표했다 [3]. 또 AI 생성 딥페이크로 인한 사기 위험을 언급하며, 개인 사칭에 대응하기 위한 새로운 보호 조치를 제안했다 [
5]. 2025년에는 기업과 정부기관을 사칭하는 사기가 자주 신고되는 유형에 속하며, 2024년 신고된 소비자 피해액이 29억 5,000만 달러에 달했다고 밝혔다. 다만 이 수치는 사칭 사기 전체에 관한 것이며, AI로 생성된 사례만 따로 집계한 금액은 아니다 [
13].
따라서 현재 자료는 AI 기반 사기, 사칭, 그럴듯한 AI 수익 약속에 대해서는 비교적 강한 근거를 제공한다. 반면 일상에서 AI 시스템이 얼마나 자주 틀리는지에 대한 일반적인 오류율은 이 자료들만으로 확인하기 어렵다.
1. 서두르게 만들면 일단 멈춘다
사기성 연락은 대개 사람을 급하게 만든다. “지금 바로 결제해야 한다”, “링크를 눌러야 한다”, “확인 버튼을 눌러야 한다”, “아무에게도 말하지 말라”, “개인정보를 보내라”는 식이다.
이럴 때는 정해둔 정지 규칙을 적용하는 편이 안전하다.
- 바로 송금하지 않는다.
- 링크를 누르지 않는다.
- 첨부파일을 내려받지 않는다.
- 승인 버튼을 누르지 않는다.
- 개인정보나 인증정보를 넘기지 않는다.
- 반드시 별도 경로로 확인한다.
이 ‘잠깐 멈춤’이 중요한 이유는 생성형 AI가 더 그럴듯한 가짜 신원, 가짜 미디어, 가짜 웹사이트를 만드는 데 악용될 수 있기 때문이다 [4].
2. 사람 확인은 반드시 다른 채널로 한다
전화 속 목소리나 영상 속 얼굴만으로는 상대가 누구인지 증명할 수 없다. FTC는 개인 사칭에 대한 보호 조치를 제안하면서 AI 생성 딥페이크로 인한 사기 위험을 명시적으로 언급했다 [5].
실제로는 이렇게 대응하는 것이 안전하다. 지금 이어지는 통화나 채팅을 끊고, 내가 직접 고른 경로로 다시 확인한다. 이미 저장해 둔 번호로 전화를 걸거나, 공식 웹사이트 주소를 직접 입력해 접속하거나, 평소 알고 있던 별도 연락수단으로 확인하는 식이다.
도움 되는 습관은 다음과 같다.
- 가족끼리 진짜 긴급 상황에서만 쓰는 암호나 문구를 정해 둔다.
- 돈을 요구하는 연락은 무조건 기존 번호로 다시 전화한다.
- “지금 당장”이라는 말이 있어도 예외를 만들지 않는다.
- 같은 채팅방, 같은 통화, 같은 영상통화 안에서 확인을 끝내지 않는다.
3. 통화·채팅 중에는 코드, 비밀번호, 결제 승인을 넘기지 않는다
일회용 인증번호, 비밀번호, 신분증 사진, 월렛 접근정보, 결제 승인 요청은 모두 고위험 정보다. 걸려 온 전화, 채팅, 영상통화, 음성메시지에서 이런 정보를 요구한다면 답은 하나다. 끊고, 별도로 확인한다.
상대가 은행, 공공기관, 회사, 플랫폼 고객센터, 거래처, 가족, 상사처럼 보여도 마찬가지다. CFTC는 사기꾼이 AI 기반 속임수를 더 믿게 만들기 위해 가짜 목소리, 영상, 실시간 영상 채팅, 소셜미디어 프로필, 악성 웹사이트를 사용할 수 있다고 설명했다 [4].
4. 목소리·영상·스크린샷은 단서일 뿐, 증거가 아니다
딥페이크를 기술적으로 완벽하게 판별하려고 기다릴 필요는 없다. 더 중요한 질문은 이것이다. 이 이야기를 다른 방식으로 확인할 수 있는가?
다음 항목을 차례로 살펴보자.
- 그 요구가 평소 그 사람이나 기관의 행동 방식과 맞는가?
- 내가 알고 있던 번호나 공식 경로로 다시 확인할 수 있는가?
- 비밀을 지키라고 요구하는가?
- 새 계좌, 월렛, 낯선 결제수단으로 돈을 보내라고 하는가?
- 은행정보, 배송지, 로그인 정보 변경을 요구하는가?
하나라도 이상하면 절차를 멈추는 편이 낫다. 돈, 신원, 계정 접근권한이 걸린 일이라면 두 번째 확인 경로를 필수로 두어야 한다.
5. “AI로 돈 벌기” 약속은 더 의심한다
“AI-powered”, “AI 기반”이라는 말은 품질 보증이 아니다. FTC는 2024년 기만적인 AI 주장과 AI 관련 사기성 계획에 대한 단속을 발표했으며, 그중에는 “최첨단” AI 도구로 온라인 상점을 열면 매달 빠르게 수천 달러의 수동소득을 올릴 수 있다고 주장한 온라인 사업 기회 상품에 대한 소송도 포함됐다 [3].
특히 다음과 같은 표현은 조심해야 한다.
- “AI 트레이딩”으로 안전한 수익을 낸다는 주장
- AI 자동화로 “패시브 인컴”을 만든다는 광고
- 알고리즘이 “보장 수익”을 준다는 말
- 비현실적인 수익을 앞세운 고가 강의나 도구
- 검증 가능한 근거가 없는 후기, 수익 인증 화면, 데모 영상
안전한 기준은 단순하다. 운영 주체, 계약 조건, 비용, 위험, 원자료를 먼저 확인한다. 그리고 “AI”라는 말이 붙었다는 이유만으로 돈을 내지 않는다.
6. AI 답변은 초안으로 쓰고, 최종 판단으로 쓰지 않는다
AI 오류에 대해서도 사기와 같은 원칙이 적용된다. 그럴듯하다고 그대로 믿지 말고 확인해야 한다. 이 글에서 확인한 자료는 주로 사기, 사칭, 기만적인 AI 홍보에 관한 근거를 제공하며, 일상적인 AI 시스템의 일반 오류율을 제시하지는 않는다 [1][
3][
4][
5][
13].
중요한 결정을 앞두고 있다면 다음 순서가 더 안전하다.
- 원자료를 연다. 법령, 공공기관 안내, 원논문, 계약서, 계좌 내역, 제조사 문서, 의료 전문정보 등을 직접 확인한다.
- 숫자와 날짜를 확인한다. 발표일, 맥락, 발행기관, 정의가 맞는지 본다.
- 위험이 크면 사람이 다시 검토한다. 법률, 의료, 금융, 안전, 신원, 업무 관련 판단은 특히 그렇다.
- AI 요약을 그대로 전달하지 않는다. 핵심 주장만큼은 공유 전에 확인한다.
AI는 글을 다듬고, 자료를 구조화하고, 초안을 만드는 데 유용할 수 있다. 하지만 어떤 내용이 사실인지, 안전한지, 법적으로 믿을 만한지는 AI 혼자 결정하게 해서는 안 된다.
7. 가족과 직장에서 미리 규칙을 정한다
가장 좋은 방어는 일이 터진 뒤 즉흥적으로 대응하는 것이 아니라, 모두가 미리 알고 있는 절차를 갖는 것이다. 특히 사칭 사기는 큰 피해 영역이다. FTC에 따르면 기업과 정부기관을 사칭하는 사기는 자주 신고되는 사기 유형에 속하며, 2024년 신고된 소비자 피해액은 29억 5,000만 달러였다. 다만 이 금액은 AI 사례만 따로 집계한 것이 아니다 [13].
가족에게는 다음 규칙이 도움이 된다.
- 긴급 상황용 암호를 정한다.
- 돈을 요구하면 반드시 기존에 알고 있던 번호로 다시 전화한다.
- 아이, 부모, 조부모에게 목소리와 영상도 조작될 수 있다고 알려 둔다.
- 전화로 일회용 인증번호나 비밀번호를 말하지 않는다.
팀이나 회사에서는 다음 절차를 정해 두는 것이 좋다.
- 채팅, 이메일, 음성메시지, 영상통화만으로 결제를 승인하지 않는다.
- 거래처 은행정보 변경은 반드시 이중 확인한다.
- 평소와 다른 결제는 2인 이상 확인 절차를 둔다.
- 회신이 아니라 기존에 확인된 번호로 다시 전화한다.
- 외부에 내보낼 AI 생성 콘텐츠는 핵심 사실을 먼저 검증한다.
급할 때 보는 5단계 체크리스트
전화, 영상, 채팅, AI 생성 콘텐츠가 나에게 어떤 행동을 재촉한다면 다음 순서대로 확인하자.
- 멈춤: 바로 반응하지 않는다.
- 정보 보호: 코드, 비밀번호, 신분증, 결제 승인을 공유하지 않는다.
- 채널 전환: 알고 있던 번호나 직접 접속한 공식 웹사이트로 확인한다.
- 근거 확인: 원자료, 계약서, 계좌, 공공기관 안내, 직접 확인 가능한 답변을 찾는다.
- 다른 사람에게 묻기: 돈, 신원, 중요한 결정이 걸렸다면 혼자 압박 속에서 결정하지 않는다.
결론
AI 사기와 AI 오류를 피하는 가장 현실적인 방법은 특별한 도구 하나에 의존하는 것이 아니라, 정해진 확인 절차를 반복하는 것이다. 멈추고, 별도로 확인하고, 민감한 정보를 지키고, 중요한 AI 답변은 원자료와 대조한다.
이번 자료의 근거는 AI 기반 속임수, 딥페이크 사칭, AI 생성 전화, 기만적인 AI 홍보에 대해서는 비교적 강하다 [1][
3][
4][
5][
13]. 그러나 일상적인 AI 시스템 오류율을 일반화할 만큼의 근거는 제한적이다. 또한 사용된 자료는 주로 미국 기관의 자료이므로, 한국의 신고 절차나 법적 효과는 이 글에서 별도로 검증하지 않았다.
