앤스로픽이 10월 8일 공개한 개정 이용 정책이 2026년 11월 12일부터 시행됩니다. 1년여 만의 이번 개정은 고객 의견과 클로드의 더 길고 독립적인 업무 수행을 반영하고, 앤스로픽이 9월 위협 인텔리전스 보고서에서 공개한 오용 사례를 고려해 마련됐습니다. 주요 내용은 기만적 캠페인, 무기·감시 관련 사용, 고위험 분야와 자율 하드웨어에 대한 규정을 구체화하고, 클로드를 향한 지속적이고 불필요한 학대를 금지하는 것입니다.
2
5
29
37
클로드를 향한 ‘지속적 학대’는 어디까지 금지되나
새 규정은 앤스로픽의 모델을 상대로 “지속적이고 불필요한 학대 또는 잔인한 행동”을 하는 것을 금지합니다. 앤스로픽이 겨냥하는 것은 뚜렷한 목적 없이 극단적인 행동을 반복하는 경우입니다. 클로드의 답변에 짜증을 내거나 반박하는 일, 어두운 주제의 창작, 정당한 모델 테스트와 연구는 금지 대상이 아니라고 회사는 설명했습니다.
2
29
이 규정은 클로드가 특정 대화를 끝낼 수 있도록 한 기존 기능과는 별개입니다. 앤스로픽은 2025년 8월부터 지속적으로 해롭거나 모욕적인 대화를 클로드가 종료할 수 있도록 하는 기능을 도입했으며, 대화 종료가 여전히 주된 대응 방식이라고 밝혔습니다. 다만 새 규정을 위반했을 때 계정에 어떤 추가 조치가 적용되는지는 공개된 내용만으로는 분명하지 않습니다.
29
32
기만적 캠페인과 선거 관련 규정 정비
개정안은 정치·상업 분야를 가리지 않고 기만적 활동을 다루는 규정을 한데 모았습니다. 메시지의 실제 주체를 숨기거나 가짜 계정 등으로 여론을 인위적으로 부풀리는 데 클로드를 이용하는 행위가 금지됩니다.
2
34
반면 유권자 개인별 맞춤형 정보를 제공하는 활동을 일괄 금지하던 규정은 삭제됐습니다. 이에 따라 유권자 안내문을 번역하는 등 정당한 시민 정보 활동은 기만적 영향력 행사와 구분될 수 있습니다. 그렇다고 투표 사기나 투표 절차에 관한 허위·오해 유발 정보를 허용하는 것은 아닙니다.
4
34
앤스로픽의 9월 보고서는 영향력 공작을 포함해 여러 분야에서 클로드를 악용하려는 시도를 찾아 차단했다고 밝혔습니다. 이번 개정은 정치 관련 이용을 통째로 막기보다, 기만적 캠페인과 정당한 시민 활동의 경계를 분명히 하려는 방향입니다.
5
무기·감시·고위험 의사결정 규정도 구체화
무기 관련 제한은 완성된 무기뿐 아니라 무기의 작동을 가능하게 하는 소프트웨어와 구성 요소에도 적용됩니다. 무장 드론이나 자율주행 차량과 관련된 시스템도 규정 대상에 포함됩니다. 개정안은 비동의 추적과 당국이 누구를 조사·체포·기소할지 추천하는 용도로 클로드를 사용하는 문제도 다룹니다.
2
정부 계약과 관련한 예외 가능성은 적절한 안전장치가 갖춰지는 경우에 한정됩니다. 이는 제한을 폭넓게 면제하는 일반 조항이 아닙니다.
2
보건·금융처럼 위험도가 높은 분야의 사용 요건도 명확해졌습니다. 다만 이는 보건이나 금융 분야에서 클로드를 사용하는 모든 경우가 금지된다는 뜻은 아닙니다.
2
장비를 움직이는 AI에는 사람의 감독과 비상 정지 필요
클로드가 사람을 다치게 할 수 있는 장비를 제어한다면, 개정 정책은 자격을 갖춘 사람의 감독과 비상 정지 기능을 요구합니다. 클로드와 연결이 끊겼을 때 장비가 안전한 상태로 전환될 수 있어야 합니다. 텍스트 생성과 달리 물리적 장비를 제어하는 경우에는 모델의 출력이 실제 신체적 피해로 이어질 수 있다는 점을 고려한 조치입니다.
2
왜 지금 정책을 바꾸나
앤스로픽은 이번 개정에 고객 의견과 클로드의 더 독립적인 업무 수행이 반영됐다고 밝혔습니다. 2026년 9월 공개된 위협 인텔리전스 보고서는 2025년 12월부터 2026년 8월까지 영향력 공작, 감시, 사기, 생물학적 오용, 재래식 무기 개발 등 여러 분야에서 확인·차단한 시도를 다룹니다.
5
37
결국 이번 개정의 핵심은 허용되는 사용과 해로운 사용의 경계를 더 구체적으로 제시하는 데 있습니다. 클로드에 대한 일반적인 비판이나 정당한 시민 활동·연구는 지속적 학대, 기만적 영향력 공작, 안전장치가 없는 자율 장비 운용과 구분됩니다. 새 정책은 2026년 11월 12일 시행됩니다.
2
29
34