이미지 파일에는 다음과 같은 정보가 메타데이터 형태로 저장될 수 있다.
문제는 메타데이터가 매우 쉽게 사라질 수 있다는 점이다.
이미지가 인터넷을 통해 공유되는 과정에서 다음과 같은 작업이 이루어지면 메타데이터가 삭제되거나 손상될 수 있다.
이러한 취약점 때문에 OpenAI는 메타데이터만 사용하는 방식 대신 두 번째 식별 레이어를 추가했다.
메타데이터와 달리 이 워터마크는 이미지 내부에 포함되기 때문에 다음과 같은 상황에서도 비교적 유지될 수 있다.
사용자는 이미지를 업로드해 다음과 같은 질문에 대한 답을 확인할 수 있다.
초기 단계에서는 다음 서비스에서 생성된 이미지를 대상으로 한다.
인터넷에는 이미 매우 사실적인 **AI 합성 이미지(synthetic media)**가 빠르게 늘어나고 있다. 모델 성능이 높아질수록 일반 사용자가 사진이 실제인지 AI 생성인지 판단하기는 더 어려워진다.
OpenAI는 이러한 문제를 해결하기 위해 다음과 같은 이해관계자들이 이미지 출처를 확인할 수 있도록 하려 한다.
물론 이러한 기술만으로 모든 가짜 이미지를 막을 수는 없다. 특히 출처 표준을 적용하지 않는 다른 AI 도구에서 생성된 콘텐츠까지 통제할 수는 없다.
OpenAI의 이번 발표는 기술 업계에서 진행 중인 더 큰 흐름을 보여준다. 바로 디지털 콘텐츠의 출처를 표준화된 방식으로 기록하려는 움직임이다.
최근에는 다음과 같은 방식이 함께 사용되는 추세다.
이 접근 방식이 얼마나 효과적인지는 플랫폼, AI 기업, 카메라 제조사, 미디어 기업 등 다양한 참여자의 채택 여부에 달려 있다.
Comments
0 comments