여러 신호를 함께 사용하면 하나의 기술이 실패하더라도 다른 기술이 보완할 수 있다.
오픈AI는 **C2PA(Coalition for Content Provenance and Authenticity)**라는 개방형 기술 표준을 채택했다. 이 표준은 이미지나 영상 파일에 암호학적으로 검증 가능한 메타데이터를 붙여 콘텐츠의 출처를 기록하도록 설계됐다.
AI로 생성된 이미지에는 다음과 같은 정보가 포함될 수 있다.
C2PA는 AI 기업만 사용하는 기술이 아니다. 카메라 제조사, 언론사, 콘텐츠 플랫폼 등도 동일한 표준을 사용해 사진의 촬영 장비나 편집 이력을 기록할 수 있다.
하지만 큰 한계가 있다. 메타데이터는 쉽게 사라질 수 있다.
이미지가 다음과 같은 과정을 거치면 정보가 제거될 수 있다.
이 때문에 메타데이터만으로는 완전한 해결책이 되기 어렵다.
이 약점을 보완하기 위해 오픈AI는 **구글 딥마인드(Google DeepMind)**와 협력해 SynthID라는 보이지 않는 워터마크 기술을 적용하고 있다.
SynthID는 메타데이터와 달리 이미지 파일 바깥이 아니라 이미지 픽셀 자체에 신호를 삽입한다.
즉, 이미지를 보는 사람에게는 변화가 거의 보이지 않지만 검증 도구는 해당 신호를 감지할 수 있다.
이 방식의 장점은 다음과 같다.
관련 연구에 따르면 이 기술은 이미 구글 서비스에서 수십억 개 이상의 이미지와 영상 프레임에 적용된 바 있다.
하지만 워터마킹도 완벽하지 않다. 다음과 같은 경우 탐지가 약해질 수 있다.
또한 워터마크는 해당 기술을 적용한 AI 시스템에서 생성된 이미지에만 존재한다는 한계도 있다.
두 기술은 모두 이미지의 출처를 추적하려는 목적을 갖지만 역할이 다르다.
메타데이터(C2PA)
보이지 않는 워터마크(SynthID)
그래서 오픈AI는 두 기술을 함께 사용한다. 메타데이터는 맥락과 투명성을 제공하고, 워터마킹은 유통 과정에서의 내구성을 제공한다.
오픈AI는 또 하나의 단계로 누구나 이미지를 업로드해 확인할 수 있는 공개 검증 도구를 시험적으로 공개하고 있다.
이 도구는 업로드된 이미지를 분석해 다음 신호를 확인한다.
신호가 발견되면 해당 이미지가 ChatGPT나 OpenAI API 등 오픈AI 모델에서 생성됐을 가능성을 알려준다.
다만 중요한 점이 있다.
신호가 없다고 해서 인간이 만든 이미지라고 확정할 수는 없다.
생성형 AI의 발전으로 사실적인 합성 이미지가 온라인에서 빠르게 확산되고 있다. 이에 따라 업계에서는 “AI를 완벽하게 탐지하는 기술”보다 콘텐츠의 출처를 설명해 주는 시스템을 구축하는 방향으로 움직이고 있다.
오픈AI의 접근 방식도 같은 흐름이다.
이 세 가지를 결합해 플랫폼, 언론, 일반 사용자 모두가 이미지의 출처를 확인할 수 있는 환경을 만드는 것이 목표다.
결국 핵심 메시지는 단순하다.
AI 이미지 식별은 하나의 기술로 해결되지 않는다. 여러 신호와 생태계 협력이 함께 작동해야 한다.