이는 해당 이미지가 모델 학습 과정에서 전혀 역할을 하지 않았다는 뜻은 아니다. 특정 결과물에 대해, 해당 이미지가 만들어낸 개별적인 인과 기여가 너무 작아 측정되지 않을 수 있다는 의미다.

연구진은 어떻게 영향력을 측정했나

이 문제를 직접 검증하는 일은 쉽지 않다. 일반적인 방법이라면 원본 이미지 하나를 제거한 뒤 모델을 처음부터 다시 훈련하고, 새 결과물을 기존 결과물과 비교해야 한다. 이미지 한 장, 작가 한 명, 특정 인물의 사진을 대상으로 이 과정을 반복하면 비용이 매우 커진다. 근사 기법을 사용할 경우에는 해당 데이터가 학습 과정에서 남긴 모든 후속 영향을 정확히 제거하지 못할 수도 있다.

Dai와 Gifford 연구진은 이를 위해 **디퓨전 앙상블(diffusion ensemble)**이라는 구조를 설계했다. 하나의 거대한 모델 대신, 서로 다른 데이터 부분집합을 학습한 여러 소형 확산 구성 요소를 결합하는 방식이다. 특정 학습 이미지의 영향을 확인할 때는 그 이미지를 학습한 구성 요소를 모두 비활성화해, 해당 이미지가 없었다면 나왔을 결과인 반사실적 출력을 생성했다. 전체 모델을 다시 훈련할 필요가 없다는 점이 특징이다.

연구진은 이 앙상블 방식을 동일한 데이터로 훈련한 24개 기존 확산 모델과 비교했다. 표준적인 평가 지표에서 두 방식은 대체로 비슷한 수준의 출력 품질을 보였다.

이 구조는 연구진에게 아키텍처 내부에서의 정밀한 제거 실험을 가능하게 했다. 특정 자료를 본 모든 구성 요소를 끈 뒤에도 출력이 변하지 않는다면, 해당 실험에서는 그 자료가 해당 결과를 만들었다는 측정 가능한 증거를 찾을 수 없다는 뜻이다.

저작권 소송에는 어떤 의미가 있나

이번 결과는 특정 유형의 저작권 주장을 더 어렵게 만들 수 있다. 예를 들어 특정 생성 이미지가 원고의 이미지 한 장 또는 작가의 작품 전체 때문에 만들어졌거나 이를 복제한 것이라는 주장을 입증하는 경우다. 해당 자료를 정확히 제거한 반사실적 실험에서도 결과물이 달라지지 않는다면, 그 결과를 제거된 자료에 귀속할 근거가 약해진다.

이 문제는 Midjourney, OpenAI, Microsoft 같은 기업이 제공하거나 개발한 이미지 생성 시스템을 둘러싼 분쟁에서 제기될 수 있다. 그러나 이번 연구가 특정 기업의 법적 책임을 판단한 것은 아니다. 연구가 보여준 것은 개별 학습 데이터와 개별 출력 사이의 인과관계를 입증하는 일이 얼마나 어려워질 수 있는지다.

법정에서는 다음과 같은 질문을 따로 검토해야 한다.

• 학습 데이터는 어떻게 확보됐나? 이번 연구는 저작권 있는 작품을 학습에 수집·사용한 행위가 적법한지 판단하지 않는다.
• 결과물이 보호되는 작품과 실질적으로 유사한가? 특정 학습 파일 하나로의 인과적 귀속이 어렵더라도 시각적 유사성은 별도로 중요한 증거가 될 수 있다.
• 모델이 원본을 암기하거나 재현했나? 모델이 특정 학습 자료를 재현하는 경우가 있을 수 있지만, 이는 모든 결과물을 단일 원본에 귀속할 수 있다는 주장과는 다르다.
• 시스템이 특정 작가를 모방하도록 설정됐나? 특정 프롬프트, 추가 학습, 모델의 작동 방식은 단일 이미지 제거 실험으로 포착되지 않는 별도의 증거를 제공할 수 있다.

따라서 법원과 조사기관은 데이터 확보 기록, 출처·생성 이력 정보, 직접적인 유사성 분석, 특정 프롬프트에 대한 모델 반응, 모델 행동 분석, 전문가 의견 등을 함께 살펴야 할 가능성이 있다. 이는 대규모 모델에서 단일 이미지와 단일 출력의 인과관계를 특정하기 어렵다는 연구 결과에서 도출되는 실무적 시사점이지, 연구가 새로 만든 법적 규칙은 아니다.

그렇다고 AI 개발사의 면죄부는 아니다

귀속성 감쇠를 확산 모델이 결코 복제하지 않는다는 뜻으로 해석해서는 안 된다. 연구 결과는 학습 데이터셋이 커질수록 특정 자료 하나의 측정 가능한 영향이 무시할 수 있을 정도로 작아질 수 있다는 것이다. 일부 환경에서는 모델이 학습 사례를 암기하거나 재현할 가능성이 여전히 존재한다.

연구의 적용 범위에도 한계가 있다. 이번 작업은 확산 기반 이미지 생성 모델을 대상으로 했으므로, 그 결과를 언어 모델이나 다른 생성형 AI 구조에 그대로 확대 적용해서는 안 된다.

가장 정확한 해석은 신중해야 한다. 대규모 확산 모델에서는 학습 데이터에 특정 이미지나 작가의 작품이 포함돼 있더라도, 특정 결과물을 그 자료에 직접 연결하기가 어려워질 수 있다. 이는 특정 출력에 대한 책임을 입증하는 한 가지 경로를 약화시킬 수 있지만, 학습 관행, 복제, 작가 스타일 모방, 지식재산권 침해 여부에 관한 더 큰 질문까지 해결해 주는 것은 아니다.

이는 해당 이미지가 모델 학습 과정에서 전혀 역할을 하지 않았다는 뜻은 아니다. 특정 결과물에 대해, 해당 이미지가 만들어낸 개별적인 인과 기여가 너무 작아 측정되지 않을 수 있다는 의미다.

연구진은 어떻게 영향력을 측정했나

이 문제를 직접 검증하는 일은 쉽지 않다. 일반적인 방법이라면 원본 이미지 하나를 제거한 뒤 모델을 처음부터 다시 훈련하고, 새 결과물을 기존 결과물과 비교해야 한다. 이미지 한 장, 작가 한 명, 특정 인물의 사진을 대상으로 이 과정을 반복하면 비용이 매우 커진다. 근사 기법을 사용할 경우에는 해당 데이터가 학습 과정에서 남긴 모든 후속 영향을 정확히 제거하지 못할 수도 있다.

Dai와 Gifford 연구진은 이를 위해 **디퓨전 앙상블(diffusion ensemble)**이라는 구조를 설계했다. 하나의 거대한 모델 대신, 서로 다른 데이터 부분집합을 학습한 여러 소형 확산 구성 요소를 결합하는 방식이다. 특정 학습 이미지의 영향을 확인할 때는 그 이미지를 학습한 구성 요소를 모두 비활성화해, 해당 이미지가 없었다면 나왔을 결과인 반사실적 출력을 생성했다. 전체 모델을 다시 훈련할 필요가 없다는 점이 특징이다.

연구진은 이 앙상블 방식을 동일한 데이터로 훈련한 24개 기존 확산 모델과 비교했다. 표준적인 평가 지표에서 두 방식은 대체로 비슷한 수준의 출력 품질을 보였다.

이 구조는 연구진에게 아키텍처 내부에서의 정밀한 제거 실험을 가능하게 했다. 특정 자료를 본 모든 구성 요소를 끈 뒤에도 출력이 변하지 않는다면, 해당 실험에서는 그 자료가 해당 결과를 만들었다는 측정 가능한 증거를 찾을 수 없다는 뜻이다.

저작권 소송에는 어떤 의미가 있나

이번 결과는 특정 유형의 저작권 주장을 더 어렵게 만들 수 있다. 예를 들어 특정 생성 이미지가 원고의 이미지 한 장 또는 작가의 작품 전체 때문에 만들어졌거나 이를 복제한 것이라는 주장을 입증하는 경우다. 해당 자료를 정확히 제거한 반사실적 실험에서도 결과물이 달라지지 않는다면, 그 결과를 제거된 자료에 귀속할 근거가 약해진다.

이 문제는 Midjourney, OpenAI, Microsoft 같은 기업이 제공하거나 개발한 이미지 생성 시스템을 둘러싼 분쟁에서 제기될 수 있다. 그러나 이번 연구가 특정 기업의 법적 책임을 판단한 것은 아니다. 연구가 보여준 것은 개별 학습 데이터와 개별 출력 사이의 인과관계를 입증하는 일이 얼마나 어려워질 수 있는지다.

법정에서는 다음과 같은 질문을 따로 검토해야 한다.

• 학습 데이터는 어떻게 확보됐나? 이번 연구는 저작권 있는 작품을 학습에 수집·사용한 행위가 적법한지 판단하지 않는다.
• 결과물이 보호되는 작품과 실질적으로 유사한가? 특정 학습 파일 하나로의 인과적 귀속이 어렵더라도 시각적 유사성은 별도로 중요한 증거가 될 수 있다.
• 모델이 원본을 암기하거나 재현했나? 모델이 특정 학습 자료를 재현하는 경우가 있을 수 있지만, 이는 모든 결과물을 단일 원본에 귀속할 수 있다는 주장과는 다르다.
• 시스템이 특정 작가를 모방하도록 설정됐나? 특정 프롬프트, 추가 학습, 모델의 작동 방식은 단일 이미지 제거 실험으로 포착되지 않는 별도의 증거를 제공할 수 있다.

따라서 법원과 조사기관은 데이터 확보 기록, 출처·생성 이력 정보, 직접적인 유사성 분석, 특정 프롬프트에 대한 모델 반응, 모델 행동 분석, 전문가 의견 등을 함께 살펴야 할 가능성이 있다. 이는 대규모 모델에서 단일 이미지와 단일 출력의 인과관계를 특정하기 어렵다는 연구 결과에서 도출되는 실무적 시사점이지, 연구가 새로 만든 법적 규칙은 아니다.

그렇다고 AI 개발사의 면죄부는 아니다

귀속성 감쇠를 확산 모델이 결코 복제하지 않는다는 뜻으로 해석해서는 안 된다. 연구 결과는 학습 데이터셋이 커질수록 특정 자료 하나의 측정 가능한 영향이 무시할 수 있을 정도로 작아질 수 있다는 것이다. 일부 환경에서는 모델이 학습 사례를 암기하거나 재현할 가능성이 여전히 존재한다.

연구의 적용 범위에도 한계가 있다. 이번 작업은 확산 기반 이미지 생성 모델을 대상으로 했으므로, 그 결과를 언어 모델이나 다른 생성형 AI 구조에 그대로 확대 적용해서는 안 된다.

가장 정확한 해석은 신중해야 한다. 대규모 확산 모델에서는 학습 데이터에 특정 이미지나 작가의 작품이 포함돼 있더라도, 특정 결과물을 그 자료에 직접 연결하기가 어려워질 수 있다. 이는 특정 출력에 대한 책임을 입증하는 한 가지 경로를 약화시킬 수 있지만, 학습 관행, 복제, 작가 스타일 모방, 지식재산권 침해 여부에 관한 더 큰 질문까지 해결해 주는 것은 아니다.