구조 현장에 쏟아진 AI 홍수 영상…네팔이 메타·틱톡에 삭제를 요구한 이유

왜 네팔 정부가 플랫폼에 삭제를 요구했나

네팔 정부의 요청은 8월 26일 트리슐리강 일대에서 발생한 대규모 홍수와 구조 작업이 계속되는 가운데 유해한 게시물이 급증한 데서 비롯됐다. 네팔·티베트 국경 인근에서 빙하 붕괴로 암석과 얼음, 토사가 한꺼번에 쏟아졌을 가능성이 제기된 실제 재난 속에서, 조작된 ‘실시간’ 홍수 영상과 과거 영상이 네팔 현지 장면인 것처럼 퍼졌다. 24

여기에 잔혹한 이미지와 허위 게시물, 가짜 기부 QR코드까지 확산하자 당국은 메타와 틱톡에 AI 생성 영상, 재활용 영상, 기만적 게시물, 그래픽 콘텐츠, 사기성 QR코드를 즉시 삭제해 달라고 요청했다. 핵심은 단순한 콘텐츠 정리가 아니라, 신고 후 24~48시간이 걸리는 것으로 알려진 처리 속도를 앞당기고 네팔어 및 재난 특화 허위정보를 자동으로 더 잘 식별하라는 요구였다. 15

어떤 영상이 가짜로 확인됐나

AFP는 네팔 홍수 영상으로 공유된 여러 게시물이 실제로는 다른 시기와 지역의 영상임을 확인했다.

• 인도 케랄라의 산사태 영상
• 인도 우타라칸드와 파키스탄의 과거 홍수 영상
• 칠레 파타고니아에서 수년 전 촬영된 빙하 붕괴 영상 2345

또 다른 영상은 생성형 AI 특유의 시각적 오류가 나타나 AI로 만들어진 것으로 분석됐다. BBC Verify는 위성 자료와 위치가 확인된 실제 영상을 조작된 주장과 대조했고, 네팔 홍수를 묘사한 한 바이럴 영상이 AI 생성물인 이유도 별도로 설명했다. 11315

AI 영상인지 확인할 때 볼 신호

검증 과정에서 지적된 단서로는 다음과 같은 현상이 있다.

• 프레임이 바뀔 때 사람이나 물체가 갑자기 사라지는 현상
• 건물과 차량의 형태가 일그러지는 현상
• 물살이나 잔해의 움직임이 장면마다 일치하지 않는 경우
• 실제로 가능하기 어려운 공간 구조와 원근감

다만 이런 특징만으로 영상의 진위를 단정할 수는 없다. 역이미지·역영상 검색, 최초 게시물 추적, 촬영 위치 확인, 출처와 생성 이력 데이터 확인이 더 강력한 검증 방법이다. AFP는 여러 영상이 네팔 참사보다 훨씬 이전에 게시됐다는 사실을 추적해 재활용된 콘텐츠임을 밝혀냈다. 2345

‘OpenAI Verify가 구글 SynthID 워터마크를 발견했다’는 식의 주장은 신중하게 봐야 한다. SynthID는 구글의 콘텐츠 출처·워터마크 기술이지 OpenAI의 기술이 아니다. 또한 워터마크가 탐지되더라도 생성 도구가 실제로 이를 삽입했고 탐지기가 안정적으로 읽어낸 경우에 한해 파일의 출처를 제한적으로 보여줄 뿐이다. 유통 중인 모든 영상의 진위를 단독으로 입증하는 증거는 아니다. 제공된 자료만으로는 특정 홍수 영상에 대해 메타나 OpenAI가 공식적으로 판정했다는 사실도 확인되지 않는다.

가짜 기부 QR코드가 특히 위험한 이유

가짜 QR코드는 재난 현장에서 단순한 허위정보를 넘어 직접적인 피해를 일으킬 수 있다. 유가족과 기부자의 절박함을 악용해 돈을 검증되지 않은 계좌로 빼돌릴 수 있고, 공식 구호기관으로 가야 할 자금을 가로챌 수 있다. 또한 대피 장소, 실종자, 구호품 배분 정보를 찾는 사람들에게 잘못된 안내를 제공할 위험도 있다.

이번 허위정보는 주로 메타 계열 플랫폼과 틱톡에서 확산됐으며, 재게시된 재난 영상은 여러 소셜미디어 생태계로 퍼졌다. 확인된 사례에는 인도, 파키스탄, 칠레의 과거 영상이 네팔 참사와 연결돼 유통된 경우가 포함된다. 다만 제공된 자료만으로 게시물의 확산 경로를 언어별로 완전히 구분하기는 어렵다.

피해 규모는 집계 시점에 따라 달라졌다

피해 규모는 구조와 수색이 진행되면서 크게 변했다. 로이터는 8월 28일 사망자가 600명에 육박하고 실종자가 약 2,500명에 이른다고 보도했으며, 다른 집계에서는 사망자 579명, 실종자 약 2,400명, 구조자 3,742명이 제시됐다. 18

중국 측 초기 보도에서는 티베트 지역 실종자가 554명이 아니라 558명으로 제시됐다. 3 따라서 질문에 언급된 사망자 553~579명, 실종자 1,900명 이상, 구조자 3,700명 이상이라는 수치는 당시의 잠정 집계로는 가능하지만, 최종 확정 수치로 보기는 어렵다.

캐나다는 긴급 인도적 지원으로 500만 달러를 제공하겠다고 발표했다. 13 이처럼 실제 지원이 시급한 상황에서 플랫폼이 허위 영상과 가짜 모금 정보를 신속히 차단해야 한다는 것이 네팔 정부의 요구였다. 한편 가톨릭구호서비스(CRS)가 카리타스 네팔과 이번 대응을 조율했다는 구체적인 주장은 제공된 자료만으로는 독립적으로 확인되지 않는다.