앤트로픽, 클로드 AI 생성 텍스트와 파일에 디지털 워터마크 심는다

텍스트와 파일, 각각 다른 방식으로 표식

앤트로픽은 텍스트와 생성 파일에 대해 서로 다른 기술을 적용한다.

텍스트 워터마킹. 지원되는 클로드 모델이 텍스트를 생성할 때, 토큰 시퀀스(단어 조합의 통계적 패턴) 속에 사람 눈에 전혀 보이지 않는 신호를 직접 심는다. 이 워터마크는 평소 읽을 때는 전혀 인지할 수 없으며, 응답의 의미나 품질, 가독성을 변경하지 않는다. 사용자가 텍스트를 복사해 다른 곳에 붙여넣어도 워터마크는 함께 이동하며, 전용 탐지 도구를 사용하면 기계가 이를 감지할 수 있다.

파일 출처 메타데이터. 생성된 파일 유형(.svg, .png, .jpg)의 경우, 클로드는 C2PA(Coalition for Content Provenance and Authenticity, 콘텐츠 출처 및 진위 연합) 표준 기반의 서명된 출처 메타데이터를 파일에 첨부한다. 이 암호화 서명은 파일 메타데이터에 내장되어 해당 파일이 클로드에 의해 처리되었는지, 이후 변조되었는지 여부를 확인할 수 있게 해준다.

적용 범위: EU만이 아닌 전 세계

워터마크 도입은 EU 규제에 대한 직접적인 대응이지만, 앤트로픽은 이를 전 세계에 적용하고 있다. 앤트로픽은 "표식은 클로드가 제공되는 모든 곳, 전 세계적으로 지원되는 모델의 출력에 적용될 것"이라고 밝혔다.

• 2026년 8월 2일 이후 출시된 모든 클로드 모델은 출시 시점부터 표식을 지원한다.
• 그 이전에 출시된 모델들도 표식을 지원할 수 있도록 소급 적용 작업이 진행 중이다.
• 앤트로픽은 또한 EU AI법 제56조에 따른 투명성 실천 강령(Code of Practice) 에 서명하며 준수 의지를 공식화했다.

현실적 한계: 탐지가 '확정적'일 수 없는 이유

앤트로픽은 이 표식들이 AI 생성 여부에 대한 확정적 증거가 아님을 명시적으로 밝혔다. 몇 가지 근본적인 한계가 신뢰성을 떨어뜨린다:

• 텍스트 워터마크는 제거되거나 손상될 수 있다. 의역, 재작성, 번역 또는 기타 조작을 통해 워터마크가 파괴되거나 약화될 수 있다.
• C2PA 메타데이터는 제거될 수 있다. 파일 메타데이터는 얼마든지 제거되거나, 다시 저장되거나, 편집되어 출처 증명 체인이 완전히 끊길 수 있다.
• 탐지는 확률적이며 확정적이지 않다. 워터마킹 방식 특성상 일부 AI 생성 텍스트는 감지되지 않을 수 있고, 반대로 일부 사람이 쓴 텍스트가 이론적으로 오탐(false match)을 일으킬 가능성도 있다.
• 공개 탐지 도구는 아직 발표되지 않았다. 워터마크가 기계 판독이 가능하다고 해도, 제3자가 사용할 수 있는 탐지 인프라가 얼마나 폭넓게 제공될지는 아직 불확실하다.

EU AI법 제50조와의 연관성

이번 도입은 2026년 8월 2일부터 시행된 EU AI법 제50조 투명성 의무에 대응하기 위한 직접적인 조치다.

제50조가 요구하는 사항:

생성형 AI 시스템 제공자는 해당 출력물이 AI에 의해 생성 또는 조작되었음을 감지할 수 있도록 '효과적이고, 신뢰할 수 있으며, 견고하고, 상호운용 가능한 기계 판독 표식'을 출력물에 표시해야 한다. 또한 특정 AI 생성 또는 조작 콘텐츠는 최종 사용자가 명확히 알아볼 수 있는 눈에 띄는 라벨도 함께 표시해야 한다.

이 규정은 제공자의 소재지와 관계없이 EU 역내에 출시되거나 서비스되는 모든 AI 시스템에 적용되는 역외 효과를 가진다. 이를 위반할 경우 최대 1,500만 유로 또는 전 세계 연간 매출의 3% 중 더 높은 금액의 벌금이 부과될 수 있다.

유럽위원회는 2026년 7월 20일 공식 가이드라인을 발표했으며, AI 생성 콘텐츠 투명성에 관한 실천 강령을 준수 수단으로서 적절하다고 확인했다. 강령 자체는 자발적이지만, 제50조의 투명성 요구 사항은 법적 의무라는 점이 강조된다.

앤트로픽의 대응 방식:

앤트로픽의 글로벌 도입은 유럽뿐만 아니라 전 세계 클로드 사용자가 이 표식을 보게 됨을 의미한다. 앤트로픽은 EU의 투명성 실천 강령에 서명했으며, 이는 제56조에 따른 자발적 준수 경로 역할을 한다. 신규 클로드 모델은 출시 시점부터 표식을 지원하고, 구형 모델도 소급 적용 작업 중이다.

사용자와 업계에 미치는 의미

클로드를 사용하거나 그 출력물을 접하는 모든 사람에게 이 워터마크는 추적 가능성의 한 층을 더하지만, 확실성을 주지는 않는다. 현실적으로, 기술에 정통한 사용자라면 간단한 후처리만으로 텍스트 워터마크나 파일 메타데이터를 얼마든지 제거할 수 있다. 이 표식들은 일종의 억지력이자 기본적인 규정 준수 조치로서, 일반적인 읽기 경험을 방해하지 않으면서 AI 생성 콘텐츠를 좀 더 식별하기 쉽게 만드는 데 가장 큰 의미가 있다.

더 넓은 업계적 의미는, 앤트로픽의 이번 조치가 EU AI법 하에서 처음으로 대규모로 시행되는 의무적 AI 콘텐츠 투명성 사례 중 하나라는 점이다. 다른 제공사들도 유사한 조치를 도입해야 할 것이며, 앤트로픽이 스스로 인정한 기술적·현실적 한계는 이 투명성 규칙이 얼마나 강제 가능하고 유용할지에 대한 논쟁의 중심에 설 것으로 보인다.