OpenAI가 AI 생성 이미지를 더 쉽게 검증하도록 만드는 방법

이미지 파일에는 다음과 같은 정보가 메타데이터 형태로 저장될 수 있다.

• 콘텐츠 생성 방식
• AI 생성 여부
• 편집 또는 수정 이력

또한 암호화 서명과 provenance 기록을 사용하기 때문에, 호환되는 도구에서는 콘텐츠의 생성 과정과 변경 기록을 검증할 수 있다.

현재 이 표준은 AI 기업뿐 아니라 카메라 제조사, 언론사, 소프트웨어 업체 등 다양한 산업에서 채택이 확대되고 있다.

메타데이터만으로는 부족한 이유

문제는 메타데이터가 매우 쉽게 사라질 수 있다는 점이다.

이미지가 인터넷을 통해 공유되는 과정에서 다음과 같은 작업이 이루어지면 메타데이터가 삭제되거나 손상될 수 있다.

• 이미지 다운로드
• 스크린샷 촬영
• 파일 압축
• 편집
• 다른 플랫폼으로 재업로드

이 경우 원래 파일에 있던 출처 정보가 사라질 수 있다.

이러한 취약점 때문에 OpenAI는 메타데이터만 사용하는 방식 대신 두 번째 식별 레이어를 추가했다.

SynthID 보이지 않는 워터마크의 역할

SynthID는 Google DeepMind가 개발한 기술로, 사람 눈에는 보이지 않는 신호를 이미지 픽셀 안에 직접 삽입한다.

메타데이터와 달리 이 워터마크는 이미지 내부에 포함되기 때문에 다음과 같은 상황에서도 비교적 유지될 수 있다.

• 이미지 크롭
• 압축
• 포맷 변환
• 스크린샷

검증 도구는 이 픽셀 수준의 신호를 분석해 이미지가 AI로 생성됐는지 확인할 수 있다.

따라서 C2PA 메타데이터와 SynthID를 함께 사용하면 **한쪽 신호가 사라져도 다른 신호로 확인할 가능성이 남는 ‘중복 검증 구조’**가 된다.

공개 ‘Verify’ 도구는 어떻게 작동하나

OpenAI는 이러한 출처 신호를 활용하는 **공개 검증 도구(Verify)**도 시험적으로 공개하고 있다.

사용자는 이미지를 업로드해 다음과 같은 질문에 대한 답을 확인할 수 있다.

• 이 이미지가 OpenAI 모델로 생성됐는가?

초기 단계에서는 다음 서비스에서 생성된 이미지를 대상으로 한다.

• ChatGPT
• Codex
• OpenAI API

검증 과정에서는 이미지에 포함된 C2PA 메타데이터 또는 SynthID 워터마크 신호를 확인해 OpenAI 시스템에서 생성됐는지 판단한다.

다만 이 도구에도 한계가 있다. 이미지가 크게 수정되거나 모든 신호가 제거된 경우에는 정확히 식별하지 못할 가능성이 있다.

왜 중요한가: 가짜 이미지 시대의 신뢰 문제

인터넷에는 이미 매우 사실적인 **AI 합성 이미지(synthetic media)**가 빠르게 늘어나고 있다. 모델 성능이 높아질수록 일반 사용자가 사진이 실제인지 AI 생성인지 판단하기는 더 어려워진다.

OpenAI는 이러한 문제를 해결하기 위해 다음과 같은 이해관계자들이 이미지 출처를 확인할 수 있도록 하려 한다.

• 기자와 언론사
• 온라인 플랫폼
• 연구자
• 일반 사용자

물론 이러한 기술만으로 모든 가짜 이미지를 막을 수는 없다. 특히 출처 표준을 적용하지 않는 다른 AI 도구에서 생성된 콘텐츠까지 통제할 수는 없다.

그럼에도 불구하고 OpenAI는 자사 시스템에서 생성된 이미지에 대해 최소한 투명성과 추적 가능성을 높이려는 시도라고 설명한다.

업계 전반으로 확산되는 ‘콘텐츠 출처’ 기술

OpenAI의 이번 발표는 기술 업계에서 진행 중인 더 큰 흐름을 보여준다. 바로 디지털 콘텐츠의 출처를 표준화된 방식으로 기록하려는 움직임이다.

최근에는 다음과 같은 방식이 함께 사용되는 추세다.

• 메타데이터 기반 출처 기록
• 픽셀 수준 워터마킹
• 자동 검증 도구

이 접근 방식이 얼마나 효과적인지는 플랫폼, AI 기업, 카메라 제조사, 미디어 기업 등 다양한 참여자의 채택 여부에 달려 있다.

하지만 C2PA와 SynthID 같은 기술이 널리 채택된다면, 생성형 AI 시대에 온라인 콘텐츠의 진위를 확인하는 핵심 인프라로 자리 잡을 가능성이 크다.