오픈AI, AI 생성 이미지 식별을 더 쉽게 만드는 3가지 기술

AI로 생성된 이미지에는 다음과 같은 정보가 포함될 수 있다.

• 이미지가 AI로 생성되었는지 여부
• 어떤 모델이나 도구가 사용되었는지
• 이후 편집이 이루어졌는지 여부

C2PA는 AI 기업만 사용하는 기술이 아니다. 카메라 제조사, 언론사, 콘텐츠 플랫폼 등도 동일한 표준을 사용해 사진의 촬영 장비나 편집 이력을 기록할 수 있다.

하지만 큰 한계가 있다. 메타데이터는 쉽게 사라질 수 있다.

이미지가 다음과 같은 과정을 거치면 정보가 제거될 수 있다.

• 스크린샷 촬영
• 이미지 압축
• 메타데이터를 제거하는 편집 프로그램 사용
• 메타데이터를 보존하지 않는 플랫폼에 업로드

이 때문에 메타데이터만으로는 완전한 해결책이 되기 어렵다.

SynthID: 이미지 내부에 숨겨진 워터마크

이 약점을 보완하기 위해 오픈AI는 **구글 딥마인드(Google DeepMind)**와 협력해 SynthID라는 보이지 않는 워터마크 기술을 적용하고 있다.

SynthID는 메타데이터와 달리 이미지 파일 바깥이 아니라 이미지 픽셀 자체에 신호를 삽입한다.

즉, 이미지를 보는 사람에게는 변화가 거의 보이지 않지만 검증 도구는 해당 신호를 감지할 수 있다.

이 방식의 장점은 다음과 같다.

• 일반적인 공유나 파일 변환 이후에도 신호가 남을 수 있음
• 사람 눈에는 거의 보이지 않음
• 전용 검증 시스템으로 탐지 가능

관련 연구에 따르면 이 기술은 이미 구글 서비스에서 수십억 개 이상의 이미지와 영상 프레임에 적용된 바 있다.

하지만 워터마킹도 완벽하지 않다. 다음과 같은 경우 탐지가 약해질 수 있다.

• 강한 이미지 편집
• 크롭이나 리사이즈
• 필터나 변형
• 의도적인 제거 시도

또한 워터마크는 해당 기술을 적용한 AI 시스템에서 생성된 이미지에만 존재한다는 한계도 있다.

메타데이터 vs 워터마킹: 무엇이 다른가

두 기술은 모두 이미지의 출처를 추적하려는 목적을 갖지만 역할이 다르다.

메타데이터(C2PA)

• 풍부한 정보를 제공
• 생성 및 편집 이력 확인 가능
• 플랫폼이나 편집 과정에서 쉽게 삭제될 수 있음

보이지 않는 워터마크(SynthID)

• 이미지 자체에 포함되어 제거가 더 어려움
• 공유나 변환에도 비교적 강함
• 일반적으로 단순한 신호만 제공
• 탐지에는 전용 도구가 필요

그래서 오픈AI는 두 기술을 함께 사용한다. 메타데이터는 맥락과 투명성을 제공하고, 워터마킹은 유통 과정에서의 내구성을 제공한다.

공개 이미지 검증 도구

오픈AI는 또 하나의 단계로 누구나 이미지를 업로드해 확인할 수 있는 공개 검증 도구를 시험적으로 공개하고 있다.

이 도구는 업로드된 이미지를 분석해 다음 신호를 확인한다.

• C2PA 메타데이터 존재 여부
• SynthID 워터마크 탐지 여부

신호가 발견되면 해당 이미지가 ChatGPT나 OpenAI API 등 오픈AI 모델에서 생성됐을 가능성을 알려준다.

다만 중요한 점이 있다.

신호가 없다고 해서 인간이 만든 이미지라고 확정할 수는 없다.

• 메타데이터가 제거됐을 수 있고
• 워터마크가 손상됐을 수 있으며
• 다른 AI 시스템이 만든 이미지일 수도 있기 때문이다.

왜 이런 기술이 필요한가

생성형 AI의 발전으로 사실적인 합성 이미지가 온라인에서 빠르게 확산되고 있다. 이에 따라 업계에서는 “AI를 완벽하게 탐지하는 기술”보다 콘텐츠의 출처를 설명해 주는 시스템을 구축하는 방향으로 움직이고 있다.

오픈AI의 접근 방식도 같은 흐름이다.

• 개방형 표준(C2PA)
• 보이지 않는 워터마크(SynthID)
• 공개 검증 도구

이 세 가지를 결합해 플랫폼, 언론, 일반 사용자 모두가 이미지의 출처를 확인할 수 있는 환경을 만드는 것이 목표다.

결국 핵심 메시지는 단순하다.

AI 이미지 식별은 하나의 기술로 해결되지 않는다. 여러 신호와 생태계 협력이 함께 작동해야 한다.