이 방식의 장점은 특정 원본이 없었을 때의 모델을 비교적 정확하게 구성할 수 있다는 점이다. 연구진은 특정 이미지를 학습한 구성 요소를 모두 끄는 방식으로 해당 이미지가 빠진 반사실적 모델을 만들었다. 따라서 모델을 처음부터 다시 학습하거나 영향력을 근사해 계산할 필요가 없었다.

연구진은 같은 데이터로 학습한 일반적인 확산 모델 24개와 확산 앙상블을 비교했으며, 표준적인 평가 지표에서 두 접근법의 결과물 품질은 대체로 비슷했다. 실험에는 256개부터 16만 개가 넘는 이미지로 구성된 데이터셋이 사용됐다.

검증 대상은 다음 세 가지였다.

• 학습 이미지 한 장
• 특정 작가가 만든 모든 작품
• 특정 인물이 등장하는 사진 전체

데이터 규모가 커질수록 이들 자료를 제거해도 생성 결과에 뚜렷한 변화가 나타나지 않는 경우가 많았다. 즉, 개별 출처의 측정 가능한 영향력이 데이터셋 규모와 함께 희미해지는 것이다.

AI 저작권 소송에는 어떤 의미가 있나

이 결과는 특정 AI 시스템이 만든 결과물이 원고의 특정 이미지 또는 작품 전체 때문에 발생했다고 주장하는 사건을 복잡하게 만들 수 있다. 해당 자료를 모두 제거한 뒤에도 관련 결과물이 사실상 변하지 않는다면, 적어도 이 연구가 사용한 반사실적 검증에서는 그 결과물을 특정 자료에 직접 귀속할 근거가 약해지기 때문이다.

그러나 연구가 답하지 않은 법적 쟁점은 여전히 많다. 예를 들어 다음 문제는 별도로 판단해야 한다.

• 기업이 학습 데이터를 수집하는 과정에서 저작물을 복제했는가
• 저작권 저작물로 모델을 학습하는 행위가 침해인지, 또는 공정 이용에 해당하는가
• 생성 결과가 보호되는 저작물과 실질적으로 유사한가
• 모델이 특정 작가의 화풍을 모방하도록 의도적으로 프롬프트되거나 설정됐는가

따라서 이번 연구는 특정 결과물의 원인을 데이터 속 개별 출처에 연결하는 일이 얼마나 어려워지는지를 보여주는 증거이지, 저작권 책임에 대한 법원의 판결이나 법률적 면책이 아니다.

‘복제는 불가능하다’는 뜻은 아니다

어트리뷰션 디케이는 확산 모델이 학습 이미지를 절대 기억하거나 복제할 수 없다는 의미가 아니다. 일부 조건에서는 모델이 학습 사례를 기억하거나 그대로 재현할 수 있다. 연구가 보여준 것은 데이터셋이 커질수록 특정 출처 하나의 효과를 측정하기 어려워지는 경향이지, 복제가 결코 일어나지 않는다는 주장이 아니다.

또한 실험 대상은 확산 기반 이미지 생성기였다. 따라서 같은 결론을 언어 모델이나 다른 생성형 AI 구조에 자동으로 확대 적용해서는 안 된다.

향후 법적 판단에서는 이미지 한 장과 결과물 하나를 일대일로 연결하는 인과성 외에도 데이터 수집·관리 기록, 결과물 사이의 직접적인 유사성, 특정 프롬프트에 대한 모델의 반응, 이미지 출처 정보, 전문가 분석 등이 함께 검토될 가능성이 있다. 이는 대규모 학습에서 개별 결과물의 원인을 특정하기 어렵다는 이번 연구의 관찰에서 도출되는 시사점이다.

이 방식의 장점은 특정 원본이 없었을 때의 모델을 비교적 정확하게 구성할 수 있다는 점이다. 연구진은 특정 이미지를 학습한 구성 요소를 모두 끄는 방식으로 해당 이미지가 빠진 반사실적 모델을 만들었다. 따라서 모델을 처음부터 다시 학습하거나 영향력을 근사해 계산할 필요가 없었다.

연구진은 같은 데이터로 학습한 일반적인 확산 모델 24개와 확산 앙상블을 비교했으며, 표준적인 평가 지표에서 두 접근법의 결과물 품질은 대체로 비슷했다. 실험에는 256개부터 16만 개가 넘는 이미지로 구성된 데이터셋이 사용됐다.

검증 대상은 다음 세 가지였다.

• 학습 이미지 한 장
• 특정 작가가 만든 모든 작품
• 특정 인물이 등장하는 사진 전체

데이터 규모가 커질수록 이들 자료를 제거해도 생성 결과에 뚜렷한 변화가 나타나지 않는 경우가 많았다. 즉, 개별 출처의 측정 가능한 영향력이 데이터셋 규모와 함께 희미해지는 것이다.

AI 저작권 소송에는 어떤 의미가 있나

이 결과는 특정 AI 시스템이 만든 결과물이 원고의 특정 이미지 또는 작품 전체 때문에 발생했다고 주장하는 사건을 복잡하게 만들 수 있다. 해당 자료를 모두 제거한 뒤에도 관련 결과물이 사실상 변하지 않는다면, 적어도 이 연구가 사용한 반사실적 검증에서는 그 결과물을 특정 자료에 직접 귀속할 근거가 약해지기 때문이다.

그러나 연구가 답하지 않은 법적 쟁점은 여전히 많다. 예를 들어 다음 문제는 별도로 판단해야 한다.

• 기업이 학습 데이터를 수집하는 과정에서 저작물을 복제했는가
• 저작권 저작물로 모델을 학습하는 행위가 침해인지, 또는 공정 이용에 해당하는가
• 생성 결과가 보호되는 저작물과 실질적으로 유사한가
• 모델이 특정 작가의 화풍을 모방하도록 의도적으로 프롬프트되거나 설정됐는가

따라서 이번 연구는 특정 결과물의 원인을 데이터 속 개별 출처에 연결하는 일이 얼마나 어려워지는지를 보여주는 증거이지, 저작권 책임에 대한 법원의 판결이나 법률적 면책이 아니다.

‘복제는 불가능하다’는 뜻은 아니다

어트리뷰션 디케이는 확산 모델이 학습 이미지를 절대 기억하거나 복제할 수 없다는 의미가 아니다. 일부 조건에서는 모델이 학습 사례를 기억하거나 그대로 재현할 수 있다. 연구가 보여준 것은 데이터셋이 커질수록 특정 출처 하나의 효과를 측정하기 어려워지는 경향이지, 복제가 결코 일어나지 않는다는 주장이 아니다.

또한 실험 대상은 확산 기반 이미지 생성기였다. 따라서 같은 결론을 언어 모델이나 다른 생성형 AI 구조에 자동으로 확대 적용해서는 안 된다.

향후 법적 판단에서는 이미지 한 장과 결과물 하나를 일대일로 연결하는 인과성 외에도 데이터 수집·관리 기록, 결과물 사이의 직접적인 유사성, 특정 프롬프트에 대한 모델의 반응, 이미지 출처 정보, 전문가 분석 등이 함께 검토될 가능성이 있다. 이는 대규모 학습에서 개별 결과물의 원인을 특정하기 어렵다는 이번 연구의 관찰에서 도출되는 시사점이다.