이미지 한 장이 어딘가 이상해 보인다는 느낌은 출발점일 뿐입니다. 팩트체크에서 더 중요한 질문은 따로 있습니다. 이 게시물은 정확히 무엇을 주장하는가? 그 주장을 뒷받침하는 원본은 어디에 있는가? 날짜, 장소, 인물, 맥락은 맞는가?

생성형 AI는 이런 확인을 더 중요하게 만들었지만, 검증을 불가능하게 만든 것은 아닙니다. 미국 국립표준기술연구소 NIST의 GenAI 프로그램은 AI가 만든 텍스트가 사람의 글과 얼마나 구별되기 어려운지, 생성된 이야기가 얼마나 그럴듯하게 보일 수 있는지 등을 평가합니다.^[1] 유네스코는 딥페이크를 신뢰와 지식의 안전성을 흔드는 ‘앎의 위기’ 문제로 설명합니다.^[4] 로이터는 유엔 보고서가 허위정보와 선거 개입 위험 등을 이유로 AI 기반 딥페이크를 더 강하게 탐지하고 대응할 필요가 있다고 촉구했다고 보도했습니다.^[3]

기본 원칙: 느낌보다 주장을 먼저 본다

많은 사람이 먼저 표면을 봅니다. 손가락이 이상한지, 그림자가 맞는지, 입 모양과 목소리가 맞는지, 이미지 속 글자가 깨졌는지를 확인합니다. 이런 요소는 분명 단서가 될 수 있습니다. 하지만 그것만으로는 사실 여부를 판단하기 어렵습니다.

먼저 다음 세 가지를 확인해 보세요.

1. 정확히 무엇을 주장하는가? 게시물의 핵심 주장을 한 문장으로 써봅니다.
2. 1차 출처는 어디인가? 원본 영상, 전체 음성, 문서, 논문, 공식 발표, 최초 업로드가 있는지 봅니다.
3. 맥락이 맞는가? 날짜, 장소, 언어, 잘린 부분, 제목, 설명 문구가 실제 내용과 맞물리는지 확인합니다.

이 중 하나가 빠졌다고 해서 게시물이 곧바로 거짓이라는 뜻은 아닙니다. 다만 아직 믿을 만큼 검증된 상태가 아니라는 뜻입니다. AI 생성 미디어 속 허위정보를 알아보는 일은 디지털 미디어 리터러시의 일부로 다뤄지고 있으며, 미국 노스캐롤라이나주 협동지도 서비스 N.C. Cooperative Extension도 이를 ‘딥페이크 시대의 디지털 리터러시’ 주제로 설명합니다.^[2]

매체의 진위와 주장의 진위를 나눠서 본다

가장 흔한 실수는 이렇게 생각하는 것입니다. 영상이 진짜면 그 영상에 붙은 주장도 진짜일 것이다. 또는 이미지가 AI로 만든 것이면 관련 주장도 모두 거짓일 것이다. 실제로는 둘이 분리될 수 있습니다.

• 실제 영상이 엉뚱한 날짜나 장소 설명과 함께 퍼질 수 있습니다.
• 진짜 캡처 화면이 앞뒤 맥락 없이 잘려 사용될 수 있습니다.
• AI 이미지가 실제 뉴스를 상징적으로 설명하는 삽화일 수도 있습니다.
• 합성 영상이 사실 여부를 별도로 확인해야 하는 주장과 함께 배포될 수 있습니다.

따라서 항상 두 가지 판단을 따로 해야 합니다. 자료 자체가 진짜인가, 편집됐는가, 합성됐는가? 그리고 그 자료가 게시물이 말하는 결론을 실제로 입증하는가?

의심스러운 AI 콘텐츠를 보는 7단계 체크리스트

SNS 게시물, 짧은 영상, AI 이미지, 자극적인 AI 관련 주장을 봤을 때는 다음 순서로 확인해 보세요.

1. 핵심 주장을 적는다. 무슨 일이 일어났다는 것인가? 누가 관련돼 있는가? 무엇을 증명하려는 게시물인가?
2. 1차 출처를 찾는다. 재공유 글만 보지 말고 전체 영상, 긴 음성, 원문 문서, 논문, 제품 문서, 공식 발표를 찾습니다.
3. 맥락을 맞춰 본다. 날짜, 장소, 언어, 행사 배경, 화면이 잘린 방식, 제목과 설명 문구를 확인합니다. 진짜 일부 장면도 잘못된 맥락에 놓이면 오해를 만들 수 있습니다.
4. 매체와 주장을 분리한다. 사진, 영상, 음성, 텍스트가 진짜인지 따로 보고, 그것이 주장된 결론을 정말 뒷받침하는지도 따로 봅니다.
5. 역추적과 비교를 한다. 이미지 역검색을 하고, 영상 프레임을 따로 확인하며, 장소·로고·날씨·옷차림·그림자·배경을 다른 자료와 비교합니다.
6. 기술적 이상 징후는 조심스럽게 해석한다. 깨진 글자, 부자연스러운 입 모양, 이상한 그림자, 어색한 손, 음성 오류는 경고 신호입니다. 하지만 그것만으로 최종 증거가 되지는 않습니다.
7. 독립적인 확인을 찾는다. 큰 주장은 신뢰할 만한 여러 출처가 같은 핵심 내용을 확인하고, 가능하면 원본 자료로 연결될 때까지 사실로 받아들이지 않는 편이 안전합니다.

이 과정을 거친 뒤에도 핵심 정보가 빠져 있다면 가장 정확한 평가는 대개 검증되지 않음입니다. 거짓이라고 단정하는 것보다, 아직 확인되지 않았다고 말하는 편이 더 엄밀합니다.

딥페이크와 AI 이미지: 픽셀보다 출처가 중요하다

딥페이크의 문제는 단순히 화면을 조작한다는 데 있지 않습니다. 우리가 눈과 귀로 확인했다고 믿는 증거 자체를 흔들 수 있다는 점이 더 큽니다. 유네스코는 이를 지식과 신뢰의 위기로 설명했고, 로이터가 전한 유엔 보고서 역시 AI 기반 딥페이크와 허위정보에 대한 더 강한 탐지와 대응을 요구했습니다.^[3][4]

실전에서는 자료의 ‘출처 사슬’을 거꾸로 따라가야 합니다.

• 짧은 클립에서 전체 영상으로: 10초짜리 장면만 있는지, 전체 영상이 공개돼 있는지 봅니다.
• 재게시물에서 최초 게시물로: 누가 처음 올렸는지, 이후에 어떤 설명이 덧붙었는지 확인합니다.
• 캡처에서 링크로: 캡처 속 주장이나 문서를 실제 링크로 열 수 있는지 확인합니다.
• 장면에서 주장으로: 화면에 보이는 것이 게시물의 설명과 정말 같은 내용인지 따져봅니다.
• 이상 징후에서 증거로: 그림자나 목소리가 이상하다는 느낌은 단서입니다. 결정적인 것은 원본 자료와 독립적인 확인입니다.

유명인, 재난·분쟁, 선거, 기업 스캔들처럼 파급력이 큰 주제일수록 더 천천히 봐야 합니다. 출처와 전체 맥락을 확인할 수 없다면, 결론이 난 것처럼 공유하지 않는 편이 낫습니다.

AI에 관한 가짜뉴스: 기술 과장도 하나의 주장이다

모든 AI 관련 허위정보가 AI로 만들어지는 것은 아닙니다. 오히려 흔한 문제는 과장입니다. 연구실 시연을 완성된 제품처럼 소개하거나, 한 번의 실험 결과를 보편적 혁신처럼 포장하거나, 원문 대신 캡처 화면만 돌리는 방식입니다.

AI 기술 관련 게시물을 볼 때는 이렇게 물어보세요.

• 원 논문, 공식 제품 발표, 기술 문서가 있는가?
• 연구실 데모를 누구나 쓸 수 있는 기능처럼 말하고 있지는 않은가?
• 제한 조건, 시험 환경, 오류율, 실패 사례가 빠져 있지는 않은가?
• 하나의 예시를 전체 기술 수준으로 일반화하고 있지는 않은가?
• 이 과장으로 누가 이익을 얻는가? 조회수, 광고, 정치적 효과, 경제적 이해관계가 있는가?

‘100% 정확’, ‘완전히 증명됨’, ‘인간처럼 생각함’, ‘혁명적’, ‘모든 일자리를 당장 대체’ 같은 표현이 곧바로 거짓을 뜻하지는 않습니다. 하지만 이런 표현이 보이면 원문을 찾아보고, 실제 주장이 어디까지인지 좁혀 보는 것이 좋습니다.

AI 탐지기: 판결문이 아니라 조사 도구

AI 탐지기는 단서를 줄 수 있지만, 팩트체크를 대신하지 못합니다. NIST의 GenAI 프로그램은 생성 콘텐츠가 사람의 글과 얼마나 구별되기 어려운지, 그럴듯한 생성 서사가 어떻게 평가될 수 있는지를 다루며, NIST 설명은 그럴듯하지만 오도할 수 있는 서사 데이터를 탐지기 훈련에 활용할 수 있다고 밝힙니다.^[1]

탐지기를 쓸 때는 다음을 확인해야 합니다.

• 이 도구가 텍스트, 이미지, 음성, 영상 중 무엇을 검사하는가?
• AI 생성 여부를 보는가, 조작 여부를 보는가, 아니면 통계적 이상만 보는가?
• 판단 근거를 설명하는가, 아니면 퍼센트 숫자만 보여주는가?
• 결과가 원본 출처와 맥락 확인에 맞아떨어지는가, 아니면 그 과정을 건너뛰게 만드는가?

중요한 점은 이것입니다. 탐지기는 어떤 자료가 만들어졌을 가능성에 대해 힌트를 줄 수 있을 뿐입니다. 그 게시물이 주장하는 내용이 사실인지까지 자동으로 증명하지는 않습니다.

팩트체크에 AI를 활용하는 안전한 방식

AI 도구는 조사 과정을 정리하는 데 도움이 될 수 있습니다. 다만 무엇이 입증됐는지 판단하는 일까지 맡겨서는 안 됩니다.

도움이 되는 활용법은 다음과 같습니다.

• 게시물의 핵심 주장을 검증 가능한 문장으로 바꾸기
• 날짜, 장소, 인물, 발언, 맥락 중 빠진 정보를 찾기
• 확인해야 할 1차 출처 후보를 정리하기
• 이미지 역검색, 영상 프레임 확인, 공식 문서 대조 같은 반대 검증 방법 제안받기
• 주장과 증거 사이의 빈틈이나 모순을 드러내기

그다음에는 반드시 직접 링크를 열어 확인해야 합니다. 출처를 확인할 수 없는 AI 답변은 증거가 아니라 조사 메모에 가깝습니다.

공유 전 멈춰야 할 빨간불

다음 신호가 여러 개 겹치면 공유하기 전에 멈추는 것이 좋습니다.

• 링크 없이 캡처 화면만 있습니다.
• 인용문이 잘려 있거나 원문을 찾을 수 없습니다.
• 작성자, 날짜, 최초 게시 위치가 빠져 있습니다.
• 지금 당장 공유하라고 재촉합니다.
• 같은 주장을 퍼뜨리는 출처가 하나뿐입니다.
• 분노를 자극하는 표현은 많은데 확인 가능한 사실은 적습니다.
• AI 탐지기 결과 캡처 하나를 유일한 증거로 내세웁니다.
• 주장은 큰데 근거는 얇습니다.

일상에서 쓰는 짧은 공식

의심스러운 AI 콘텐츠를 봤을 때는 이 순서만 기억해도 좋습니다.

1. 원본 출처를 찾는다.
2. 맥락을 확인한다.
3. 독립적인 확인을 찾는다.
4. 그다음 믿거나 공유한다.

생성형 AI가 그럴듯한 이야기를 만들 수 있고, 딥페이크가 눈과 귀로 보는 증거에 대한 신뢰까지 흔들 수 있기 때문에, 성급한 단정보다는 아직 검증되지 않음이라는 판단이 더 정확할 때가 많습니다.^[1][4]