AI 이미지 생성에서 ‘귀속성 붕괴’가 나타난다는 MIT 연구, 무엇을 밝혔나

연구가 던진 핵심 질문

정 다이(Zheng Dai)와 데이비드 기퍼드(David Gifford)가 MIT 컴퓨터과학·인공지능연구소(CSAIL)에서 수행하고 네이처 커뮤니케이션스에 발표한 연구는 확산 기반 AI 이미지 생성기의 결과물을 특정 학습 데이터와 연결할 수 있는지를 살폈다.

연구진이 발견한 현상은 **‘귀속성 붕괴(attribution decay)’**다. 모델이 더 많은 데이터로 학습될수록 특정 학습 항목 하나가 특정 생성 이미지에 미치는 인과적 효과가 작아져, 결국 측정하기 어려운 수준으로 줄어든다는 의미다.

다만 이는 학습 이미지가 모델에 전혀 사용되지 않았거나 저장·기억되지 않았다는 뜻은 아니다. 연구가 측정한 것은 특정 결과에 대한 개별 학습 항목의 귀속 가능한 영향이다.

확산 모델 앙상블로 만든 ‘반사실적 세계’

일반적인 방법은 학습 데이터가 결과물에 미친 영향을 통계적으로 추정하는 데 그칠 수 있다. 연구진은 대신 여러 개의 독립적인 모델 구성 요소로 이뤄진 확산 모델 앙상블을 만들었다. 각 구성 요소에는 학습 데이터의 통제된 일부만 보여줬다.

이 구조를 이용하면 “특정 이미지가 학습에 포함되지 않았다면 결과가 어떻게 달라졌을까?”라는 질문을 모델 전체를 처음부터 다시 학습하지 않고도 시험할 수 있다. 연구진은 해당 이미지를 학습한 모든 구성 요소를 비활성화한 뒤 원래 결과와 비교했다.

연구진은 같은 데이터로 학습한 일반적인 확산 모델 24개와 앙상블을 비교했고, 표준적인 이미지 품질 지표에서는 대체로 비슷한 성능을 확인했다고 보고했다.

이후 7개 공개 이미지 데이터셋을 사용해 24개 앙상블을 평가했다. 데이터셋 규모는 256개 이미지부터 16만 개가 넘는 이미지까지 다양했다. 각 생성 결과에 대해 후보 학습 단위를 하나씩 제외한 버전들을 만들고, 원래 결과와 가장 크게 달라진 정도를 **‘반사실적 반경(counterfactual radius)’**으로 측정했다. 이는 하나의 학습 단위를 제거했을 때 나타나는 최대 인과적 효과를 나타내는 지표다.

데이터가 커질수록 특정 이미지의 영향은 희미해졌다

데이터셋 규모가 커질수록 반사실적 반경은 감소했다. 즉 특정 학습 이미지 하나를 제거해도 생성 결과가 눈에 띄게 달라지지 않는 경우가 점점 늘었다.

충분히 큰 규모에서는 영향의 단위가 더 넓어져도 같은 현상이 나타날 수 있었다. 예를 들어 특정 작가의 작품을 모두 제외하거나, 특정 인물을 촬영한 사진을 모두 제외해도 생성된 샘플이 유의미하게 달라지지 않는 경우가 관찰됐다.

이 결과는 연구진의 반사실적 기준에서 **비귀속(non-attribution)**을 의미한다. 어떤 학습 단위를 제거해도 결과가 달라지지 않는다면, 적어도 이 연구의 측정 방식으로는 해당 결과에 대한 인과적 책임을 그 단위에 배정할 수 없다는 뜻이다.

저작권 소송에 미칠 수 있는 의미

이 연구는 이미지 생성 기업을 상대로 한 특정 유형의 저작권 주장을 입증하기 어렵게 만들 가능성이 있다. 예를 들어 원고가 “문제가 된 생성 결과는 특정 작가의 작품 또는 해당 작가의 화풍을 학습한 복사본 때문에 만들어졌다”고 주장하는 경우, 작가의 전체 작품군을 제외해도 결과가 사실상 변하지 않는다면 해당 작가의 직접적인 결과 기여를 입증하기가 어려울 수 있다.

그러나 연구가 특정 기업이나 사건의 법적 책임을 판단한 것은 아니다. 저작권 분쟁에서는 학습 과정에서의 무단 복제, 특정 출력물과 보호 저작물 사이의 실질적 유사성, 접근 가능성, 시장 손해, 계약 조건 등 여러 쟁점이 함께 다뤄질 수 있다. 이들은 특정 이미지 하나가 특정 출력에 반드시 필요했는지와는 별개의 문제다.

연구 결과를 과대해석해서는 안 되는 이유

‘암기하지 않았다’는 뜻은 아니다

삭제 실험에서 특정 학습 항목 하나에 결과를 귀속할 수 없더라도, 모델이 어떤 자료를 암기했을 가능성은 남아 있다. 특정 프롬프트나 샘플링 조건에서 자료를 재현할 수도 있고, 보호 저작물과 실질적으로 유사한 결과를 만들 수도 있다. 이 논문은 학습 단위 제거에 대한 인과적 민감도를 시험한 것이지, 모든 형태의 암기나 저작권 침해를 판정한 것이 아니다.

대규모 언어 모델에 대한 결과는 아니다

이번 연구의 대상은 시청각 콘텐츠를 생성하는 확산 모델이다. 따라서 앙상블·절제(ablation) 기법과 데이터 규모에 따른 실증 결과가 트랜스포머 기반 대규모 언어 모델에도 그대로 적용된다고 볼 수는 없다.

다른 증거를 대신할 수 없다

법원이나 기술 조사자는 여전히 프롬프트를 통한 재현 실험, 결과물의 유사성 분석, 출처와 생성 경로 분석, 학습 데이터 및 시스템 기록, 모델 감사와 관련 법률 검토 등을 종합해야 한다.

결국 ‘귀속성 붕괴’가 말하는 바는 데이터 규모가 커질수록 하나의 출처만으로 생성 결과의 원인을 설명하는 방식이 실패할 수 있다는 것이다. 그렇다고 복제를 다른 방식으로 입증할 수 없다는 뜻은 아니다.