가우시안 프로빙: AI 안전 감사의 새로운 패러다임

MIT, 보스턴대학교, 그리고 아동 안전 비영리단체 Thorn의 연구진이 **가우시안 프로빙(Gaussian probing)**이라는 기술을 개발했습니다. 이 기술은 생성형 AI 모델이 아동 성착취물(CSAM)을 생성하도록 파인튜닝되었는지 여부를 단 한 장의 이미지도 생성하지 않고 판별할 수 있습니다. 이 연구는 국제 기계 학습 학회(ICML)의 '공익을 위한 신뢰할 수 있는 AI' 워크숍에서 스포트라이트 논문으로 발표되었으며, 그 자체로 테스트조차 불법인 유해 콘텐츠를 감사(auditing)하는 획기적인 방법으로 평가받고 있습니다.

가우시안 프로빙이란 무엇인가?

가우시안 프로빙은 생성형 AI 모델이 파인튜닝을 통해 CSAM에 특화되었는지 탐지하는 비생성(non-generative) 감사 방법입니다. 이 기술은 특히 **LoRA(Low-Rank Adaptation)**라는 효율적인 파인튜닝 기법에 초점을 맞춥니다. LoRA는 사용자가 Stable Diffusion과 같은 기반 모델 전체를 재학습시키지 않고도 특정 작업에 특화시킬 수 있는 인기 있는 방법입니다. 악의적인 사용자들은 이 LoRA 어댑터를 악용하여 고품질의 CSAM을 생성할 수 있는 모델 변종을 만들어 왔습니다.

기존 방식이 '모델이 어떤 이미지를 출력하는가'에 주목했다면, 가우시안 프로빙은 '어댑터가 모델의 내부 응답 프로필을 어떻게 변화시키는가'를 질문합니다. 구체적으로는 확산 과정의 고유한 가우시안 상태 공간에서의 변화를 측정합니다.

어떻게 작동하나?

이 방법은 LoRA 어댑터가 모델의 내부 표현을 기능적으로 어떻게 교란(perturb)하는지를 측정하는 방식으로 작동합니다. 즉, 무작위 가우시안 잠재 상태(latent state)들의 기준 앙상블을 모델의 확산 과정에 입력하고, 은닉층 활성화값(hidden activations)이 어떻게 변하는지 관찰합니다.

핵심 수학적 객체는 '프로브 함수(probe functional)'입니다. 이 함수는 여러 가우시안 노이즈 입력에 대해 확산 시간 단계(diffusion timestep)별로 평균 은닉 표현을 계산하고, 이를 하나의 특성 벡터(feature vector)로 집계하여 어댑터의 효과를 특성화합니다. 그런 다음 이 특성 벡터들을 사용해 분류기를 학습시켜 유해한(CSAM 특화) 어댑터와 양성 어댑터를 구별합니다.

논문의 주 저자인 MIT 대학원생 비니스 수리야쿠마르(Vinith Suriyakumar)는 "전에는 이것을 측정할 방법이 전혀 없었습니다. 이는 일부 사람들이 악용해 온 거대한 사각지대였습니다"라고 설명합니다.

테스트 결과: 100% 정확도

테스트에서 가우시안 프로빙 절차는 CSAM 생성을 위해 특화된 모델 변종을 100% 정확도로 식별해 냈습니다. 연구진은 이 방법이 단순 가중치 비교와 같은 기준 방법들과 달리, 우연한 학습 흔적이 아닌 의미 있는 콘텐츠 신호에 기반하여 양성 및 유해 특화를 안정적으로 구별한다는 사실을 발견했습니다.

이 기술은 현실적인 제약 조건에서도 효과적임이 입증되어, Hugging Face나 Civitai와 같이 사용자가 LoRA 어댑터를 업로드하는 플랫폼에 대규모로 배포될 수 있음을 시사합니다.

이 연구는 MIT 대학원생 비니스 수리야쿠마르, 애시아 윌슨(Ashia Wilson), 마르지에 가세미(Marzyeh Ghassemi) 부교수, 그리고 Thorn의 연구원 레베카 포트노프(Rebecca Portnoff) 박사가 협력하여 진행했습니다.

가우시안 프로빙이 해결한 법적 역설

표준적인 AI 안전 감사는 간단한 프로세스에 의존합니다. 모델에 유해한 입력을 프롬프트로 주고 출력을 검사하는 것입니다. 그러나 CSAM의 경우 이는 법적으로 불가능합니다. 미국에서는 의도와 관계없이 이러한 콘텐츠를 생성하는 것 자체가 불법이기 때문입니다.

가우시안 프로빙은 출력 이미지를 전혀 생성하지 않고 오로지 내부 활성화값만을 기반으로 모델의 CSAM 생성 **능력(capability)**을 평가함으로써 이 역설을 해결합니다. MIT의 발표 자료에 따르면, "이 기술은 모델이 CSAM으로 파인튜닝될 때 내부 작동 방식이 어떻게 변하는지 조사하며, 단 하나의 이미지도 볼 필요가 없습니다".

또한 이 방법은 안전 연구원들을 외상성 자료에 노출시키지 않는다는 윤리적 이점도 가지고 있습니다. 테스트 중에 CSAM 이미지를 전혀 볼 필요가 없기 때문입니다.

AI 생성 CSAM의 위기 현황

이 기술은 AI 생성 CSAM의 규모가 폭발적으로 증가하는 시점에 등장했습니다. 신뢰할 수 있는 기관들의 주요 통계는 다음과 같습니다.

• **미국 실종 및 착취 아동 센터(NCMEC)**는 2025년에 150만 건 이상의 AI 관련 CSAM 신고를 접수했습니다. 이는 2024년 전체 6만 7,000건에서 극적으로 증가한 수치로, 약 22배의 전년 대비 증가율을 기록한 것입니다.
• 2025년 상반기에만 NCMEC는 48만 5,000건의 AI 관련 CSAM 신고를 접수했으며, 약 35개 기술 기업이 현재 이러한 자료를 신고하고 있습니다.
• **인터넷 감시 재단(IWF)**은 2025년에 8,029개의 AI 생성 이미지 및 비디오가 현실적인 아동 성적 학대를 묘사하는 것으로 평가했습니다. AI CSAM은 여전히 전체 신고 자료에서 상대적으로 작은 비중을 차지하지만, 그 규모, 정교함, 접근성 측면에서 '광범위하고 증가하는' 추세로 설명됩니다.
• **유럽 의회(European Parliament)**는 2025년에 AI 생성 CSAM이 '엄청난 증가'를 보였으며, 오픈소스 텍스트-이미지 모델이 주요 경로라고 지적했습니다.
• NCMEC는 2023년에서 2024년 사이에만 생성형 AI 관련 신고가 1,325% 증가했다고 보고했습니다.

현실적인 풀모션 AI 비디오 콘텐츠도 일반화되었습니다. 2025년 IWF는 3,443개의 AI 생성 아동 성적 학대 비디오를 식별했으며, 이 중 65%가 영국 법률상 가장 심각한 자료인 카테고리 A로 분류되었습니다.

AI 안전과 아동 보호에 미치는 영향

가우시안 프로빙은 AI 안전 도구 키트의 중요한 공백을 메웁니다. 현재 AI 생성 CSAM에 대한 방어는 주로 입력 필터링, 출력 필터링, 학습 데이터 스크리닝에 의존합니다. 그러나 연구에 따르면 "필터링이 완벽하더라도 파인튜닝을 통해 개념을 재도입하는 것이 가능"하며, 이는 현재의 필터링 방법이 '폐쇄형 가중치 모델에는 제한된 보호를, 개방형 가중치 모델에는 전혀 보호를 제공하지 못한다'는 것을 의미합니다.

가우시안 프로빙은 플랫폼이 유해한 파인튜닝 모델이 널리 배포되기 전에 이를 탐지할 수 있게 함으로써, Hugging Face나 Civitai와 같은 플랫폼이 불법 콘텐츠 생성에 의존하지 않고 업로드된 LoRA 어댑터를 검사할 수 있도록 해줍니다.

현재로서 이 기술은 생성이 법적으로 제약된 고위험 영역에서 모델 안전성을 평가할 수 있는 확장 가능하고 비생성적인 대안을 제공합니다. 이는 AI 생성 CSAM 위기가 가속화되는 가운데 이 분야에 절실히 필요했던 도구입니다.