AI 이미지 생성에서 특정 작가의 흔적은 왜 사라질까

연구가 확인한 핵심 현상

MIT 컴퓨터과학·인공지능연구소(CSAIL)의 Zheng Dai와 David Gifford 연구진은 확산 기반 AI 이미지 생성기가 학습하는 데이터가 많아질수록 특정 학습 이미지 하나가 특정 결과물에 미친 인과적 영향이 너무 작아져 감지하기 어려워질 수 있다는 점을 확인했다. 경우에 따라서는 해당 이미지를 학습 데이터에서 정확히 제거해도 결과물이 눈에 띄게 달라지지 않았다. 연구진은 이 현상을 **‘어트리뷰션 디케이(attribution decay)’**라고 명명했다.

이는 AI가 만든 이미지의 출처를 추적할 때 중요한 문제를 제기한다. 생성 결과가 특정 작가의 작품이나 사진과 비슷하더라도, 그 결과가 학습 데이터 속 특정 이미지 또는 작가의 전체 작품군 때문에 만들어졌다고 인과적으로 입증하기가 더 어려워질 수 있기 때문이다. 다만 이 연구는 저작권 침해 여부에 대한 법적 판단이 아니다.

‘확산 앙상블’로 무엇을 시험했나

연구진은 한 이미지가 모델의 결과에 얼마나 영향을 미쳤는지를 수학적으로 추정하는 대신, 여러 개의 소형 확산 모델을 서로 다른 데이터 조각으로 학습한 뒤 결합하는 ‘확산 앙상블(diffusion ensemble)’ 구조를 만들었다.

이 방식의 장점은 특정 원본이 없었을 때의 모델을 비교적 정확하게 구성할 수 있다는 점이다. 연구진은 특정 이미지를 학습한 구성 요소를 모두 끄는 방식으로 해당 이미지가 빠진 반사실적 모델을 만들었다. 따라서 모델을 처음부터 다시 학습하거나 영향력을 근사해 계산할 필요가 없었다.

연구진은 같은 데이터로 학습한 일반적인 확산 모델 24개와 확산 앙상블을 비교했으며, 표준적인 평가 지표에서 두 접근법의 결과물 품질은 대체로 비슷했다. 실험에는 256개부터 16만 개가 넘는 이미지로 구성된 데이터셋이 사용됐다.

검증 대상은 다음 세 가지였다.

• 학습 이미지 한 장
• 특정 작가가 만든 모든 작품
• 특정 인물이 등장하는 사진 전체

데이터 규모가 커질수록 이들 자료를 제거해도 생성 결과에 뚜렷한 변화가 나타나지 않는 경우가 많았다. 즉, 개별 출처의 측정 가능한 영향력이 데이터셋 규모와 함께 희미해지는 것이다.

AI 저작권 소송에는 어떤 의미가 있나

이 결과는 특정 AI 시스템이 만든 결과물이 원고의 특정 이미지 또는 작품 전체 때문에 발생했다고 주장하는 사건을 복잡하게 만들 수 있다. 해당 자료를 모두 제거한 뒤에도 관련 결과물이 사실상 변하지 않는다면, 적어도 이 연구가 사용한 반사실적 검증에서는 그 결과물을 특정 자료에 직접 귀속할 근거가 약해지기 때문이다.

그러나 연구가 답하지 않은 법적 쟁점은 여전히 많다. 예를 들어 다음 문제는 별도로 판단해야 한다.

• 기업이 학습 데이터를 수집하는 과정에서 저작물을 복제했는가
• 저작권 저작물로 모델을 학습하는 행위가 침해인지, 또는 공정 이용에 해당하는가
• 생성 결과가 보호되는 저작물과 실질적으로 유사한가
• 모델이 특정 작가의 화풍을 모방하도록 의도적으로 프롬프트되거나 설정됐는가

따라서 이번 연구는 특정 결과물의 원인을 데이터 속 개별 출처에 연결하는 일이 얼마나 어려워지는지를 보여주는 증거이지, 저작권 책임에 대한 법원의 판결이나 법률적 면책이 아니다.

‘복제는 불가능하다’는 뜻은 아니다

어트리뷰션 디케이는 확산 모델이 학습 이미지를 절대 기억하거나 복제할 수 없다는 의미가 아니다. 일부 조건에서는 모델이 학습 사례를 기억하거나 그대로 재현할 수 있다. 연구가 보여준 것은 데이터셋이 커질수록 특정 출처 하나의 효과를 측정하기 어려워지는 경향이지, 복제가 결코 일어나지 않는다는 주장이 아니다.

또한 실험 대상은 확산 기반 이미지 생성기였다. 따라서 같은 결론을 언어 모델이나 다른 생성형 AI 구조에 자동으로 확대 적용해서는 안 된다.

향후 법적 판단에서는 이미지 한 장과 결과물 하나를 일대일로 연결하는 인과성 외에도 데이터 수집·관리 기록, 결과물 사이의 직접적인 유사성, 특정 프롬프트에 대한 모델의 반응, 이미지 출처 정보, 전문가 분석 등이 함께 검토될 가능성이 있다. 이는 대규모 학습에서 개별 결과물의 원인을 특정하기 어렵다는 이번 연구의 관찰에서 도출되는 시사점이다.