클로드 워터마크 반란: 앤트로픽의 AI 라벨링이 불러온 폭풍

직장과 학교에서의 적발 공포. 가장 개인적인 불만은 사용자들이 고용주, 교사, 고객이 이 워터마크를 이용해 업무 보고서, 고객 납품물, 학교 과제에서 무단 AI 사용을 적발할까 봐 우려한다는 점이다 . 많은 이들이 이를 '직장이나 수업에서 부정행위를 잡는 도구'라고 공개적으로 비난했다 . 수학 인플루언서 존 에니스는 자신의 클로드 맥스 구독 취소 화면을 공유하며 '터무니없는 워터마크 아이디어'를 이유로 꼽았다 .

과도한 적용 범위: 인간이 쓴 글까지 워터마크. 찰스 호스킨슨은 자신의 반격 도구를 출시하기 전에 이미 문제점을 시연했다. 그는 2016년에 직접 쓴 텍스트로 테스트한 결과, 단순한 교정 편집을 거친 후 클로드가 이를 AI 생성 콘텐츠로 워터마크 처리하는 현상을 발견했다 . 사용자가 자신의 글을 업로드해 교정을 요청하면 출력물이 AI 생성으로 재워터마크 처리된다 .

소유권 및 법적 모호성. 앤트로픽의 이용약관은 출력물 소유권을 회사 정책 준수 여부에 연계한다 . 깃 커밋 트레일러에 '공동 작성: 클로드(Co-Authored-By: Claude)' 메타데이터 줄이 추가되면서 실제 작성자가 누구인지에 대한 법적 불확실성이 생겼다 . 비평가들은 이 워터마크가 AI 보조 작업과 AI 저작 작업을 동일시해 저작권 및 저자권 문제를 야기한다고 주장한다 .

SynthID-Text 워터마킹의 실제 작동 방식

구글 딥마인의 SynthID-Text는 LLM을 위한 양산 준비가 된 텍스트 워터마킹 시스템이다. 동료 검토를 거친 네이처 논문에 설명되어 있으며 2024년 10월 오픈소스로 공개되었다 . 앤트로픽이 사용하는 기술과 동일하지는 않지만, 앤트로픽이 도입한 워터마크 유형을 가장 잘 설명하는 사례다.

핵심 메커니즘: 토너먼트 샘플링. 텍스트 생성 중에 비밀 키가 모델의 토큰 선택 과정에 편향을 준다. 여러 토큰이 통계적으로 비슷할 때, 이 키가 특정 선택을 결정적으로 '승리'하게 하여 미묘하지만 반복 가능한 패턴을 만든다 . 워터마크는 단어 선택 분포 자체에 내장된 통계적 지문이며, 숨겨진 문자열이나 보이지 않는 문자, 추가된 코드가 아니다 .

감지에는 일치하는 키가 필요하다. 동일한 비밀 키를 사용하는 감지기가 텍스트의 토큰 분포를 점수화하여 워터마크가 적용된 모델에 의해 생성되었을 가능성을 판단한다 . 시스템은 훈련이 필요 없는 가중 평균 감지기나 더 강력한 베이지안 감지기를 사용한다 .

가공에도 견디도록 설계되었다. 워터마크는 복사, 붙여넣기, 가벼운 편집, 서식 변경에도 유지되도록 설계되었다 . 그러나 완벽하지는 않다. 과도한 재작성, 인간 텍스트와의 혼합, 다른 AI에 의한 재처리는 워터마크를 약화시키거나 제거할 수 있다 .

찰스 호스킨슨의 대응: '인류포진(Anthropies)'

카르다노 창립자 찰스 호스킨슨은 2026년 8월 16일 '인류포진(Anthropies)'이라는 오픈소스 도구를 출시했다. 이름은 앤트로픽(Anthropic)과 헤르페스(herpes)를 합성한 의도적인 조어다 .

3계층 공격. 아파치 2.0 라이선스로 깃허브에 공개된 이 도구는 세 가지 유형의 마커를 처리한다 :

• 클로드 출력의 통계적 텍스트 워터마크: 워터마크가 없는 재작성 모델을 통해 텍스트를 라우팅하여 통계적 패턴을 깨뜨린다 .
• C2PA 이미지 크리덴셜: 이미지를 다시 인코딩하여 제거한다 .
• '공동 작성: 클로드' 깃 트레일러: 커밋 메타데이터에서 깔끔하게 제거한다 .

코드뿐만 아니라 법적 논증도 포함. 저장소의 약 절반은 코드가 아니라 앤트로픽의 이용약관, 특히 출력물 소유권을 회사 정책 준수 여부에 연계하는 조항을 공격하는 법적 논증으로 구성되어 있다 . 호스킨슨은 X에서 이번 출시를 단순한 유틸리티 도구가 아닌, 앤트로픽의 월권 행위에 대한 경고로 규정했다 .

솔직한 한계 인정. 이 프로젝트는 앤트로픽의 비공개 탐지 시스템을 완전히 우회할 수 있다고 보장하지는 않는다 . 호스킨슨의 README 파일이 효과적으로 인정하듯이: "표식은 바로 문구(wording) 자체다. 삭제할 별도의 페이로드는 없다. 표식을 제거한다는 것은 어떤 단어가 사용되었는지를 바꾸는 것을 의미한다" .

더 큰 그림

앤트로픽의 워터마킹은 EU AI법 투명성 요구사항의 최초 대규모 시행 사례 중 하나이며, 이에 대한 반발은 깊은 긴장 관계를 드러낸다. AI 출처를 확인 가능하게 만드는 동일한 기술이 동시에 그것을 불가피하게 만든다. 그리고 클로드를 생산성 도구로 사용하는 수백만 명의 전문가, 학생, 창작자에게 이것은 원하지 않는 기능이다.

'인류포진'과 같은 도구가 미래의 워터마크 개선에 맞서 얼마나 효과적일지, 규제 당국이 워터마크 제거를 사용자 권리가 아닌 위반 행위로 간주할지 여부는 시간과 법정 판결만이 답할 수 있는 질문이다.