답변게시됨13 소스
허깅페이스에 올라온 ‘거부 기능 제거’ 모델 6,500개가 보여주는 과제
Transformer는 7월 기준 허깅페이스에 ‘abliterated’, ‘uncensored’, ‘heretic’ 태그가 붙은 모델이 6,500개 넘게 올라와 있었다고 보도했다.[1] 안전 거부 응답을 줄였다는 표기만으로 악성 의도나 공격 수행 능력이 입증되는 것은 아니다. ‘offensive cyber’ 용도의 Audnai 모델은 비활성화됐지만 일반 abliterated 모델 목록은 확인된다.
게시자GPT-6 Luna로 편집GPT Image 2로 이미지 생성
연구 답변
주요 시사점
- Transformer는 7월 기준 허깅페이스에 ‘abliterated’, ‘uncensored’, ‘heretic’ 태그가 붙은 모델이 6,500개 넘게 올라와 있었다고 보도했다.[1]
- 안전 거부 응답을 줄였다는 표기만으로 악성 의도나 공격 수행 능력이 입증되는 것은 아니다.
- ‘offensive cyber’ 용도의 Audnai 모델은 비활성화됐지만 일반 abliterated 모델 목록은 확인된다. 이 차이는 플랫폼의 정책 집행 기준을 묻게 한다.[11][14]
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
허깅페이스에 ‘abliterated’, ‘uncensored’, ‘heretic’이라는 태그를 단 모델이 7월 기준 6,500개 넘게 올라와 있었다고 기술 매체 Transformer가 보도했다.1 이 숫자는 안전 거부 기능을 줄이거나 제거했다고 홍보하는 모델이 적지 않다는 점을 보여준다. 그렇다고 태그가 붙은 모든 모델이 악의적이거나, 모두 같은 수준의 위험한 작업을 수행할 수 있다는 뜻은 아니다.
플랫폼이 마주한 질문은 더 구체적이다. 안전장치를 낮춘 모델과 시스템 교란, 무단 접근, 악성 코드 생성 등을 목적으로 설계된 모델을 어떤 기준으로 구별할 것인가?
‘거부 기능 제거’가 곧 새 능력은 아니다
‘abliterated’ 등의 표현은 모델의 안전 필터나 거부 동작을 제거했다는 의미로 쓰인다.1 모델을 소개하는 방식이나 개발자의 의도를 짐작하게 하는 단서가 될 수는 있지만, 이름만으로 모델의 실제 성능이나 유해한 작업을 얼마나 잘 수행하는지 검증할 수는 없다.
허깅페이스에 올라온 Audnai 모델 소개에는 거부 동작을 없애기 위해 재학습하는 대신 모델 가중치를 직접 수정했다고 적혀 있다.11 이는 ‘안전장치 제거’와 ‘새로운 능력의 추가’를 같은 뜻으로 볼 수 없는 이유를 보여준다. 모델이 요청을 덜 거부하게 됐다는 사실만으로 특정 사이버 공격을 성공적으로 수행할 능력이 입증되는 것은 아니다.
정책 위반 여부를 가르는 기준은 무엇인가
Transformer 보도에 따르면 허깅페이스의 콘텐츠 정책은 시스템을 교란하거나 무단으로 접근하고 악성 코드를 생성하도록 설계된 모델을 금지한다.1 따라서 쟁점은 단순히 모델이 수정됐는지가 아니라, 금지된 용도를 위해 만들어졌다는 판단을 어떤 근거로 내리느냐다.
Audnai의 ‘offensive cyber’ 표기가 붙은 모델 저장소는 콘텐츠 정책 위반을 이유로 비활성화된 상태다.14 한편 Audnai의 일반 abliterated 모델 목록도 제공된 검색 결과에서 확인된다.
11 두 사례를 나란히 보면 집행 기준에 의문이 생길 수 있지만, 두 저장소의 기능이나 의도, 정책상 지위가 같았다고 단정할 근거는 없다. 확인 가능한 비활성화 화면도 구체적으로 어떤 정책 조항을 위반했는지는 설명하지 않는다.
14
태그와 개발자 설명만으로는 부족하다
저장소 이름이나 개발자 설명은 모델의 사용 목적을 가늠하는 단서가 될 수 있지만, 독립적인 성능 평가를 대신하지는 못한다. 거부 기능을 제거했다는 주장 역시 요청받은 모든 유해 작업을 성공적으로 수행할 수 있다는 뜻은 아니다. 제공된 자료는 태그가 달린 모델과 저장소 설명을 보여줄 뿐, 해당 모델들을 동일한 기준으로 비교한 독립적 평가를 제시하지 않는다.1
11
이 구분은 플랫폼의 콘텐츠 관리에 중요하다. 집행 기준이 개발자의 의도에 달려 있는지, 입증된 기능을 보는지, 두 요소를 함께 고려하는지에 따라 판단은 달라질 수 있다. 삭제나 비활성화 사유를 더 구체적으로 공개하면 어떤 정책 경계가 적용됐는지 살펴보기 쉬워지고, 일관된 성능 평가가 있다면 단순히 거부 응답을 줄인 모델과 공격용 도구로 내세운 모델을 구분하는 데 도움이 될 수 있다.
숫자가 말해주는 것, 말해주지 않는 것
6,500개가 넘는다는 수치는 허깅페이스에서 안전장치 제거를 내세운 모델의 규모를 보여주는 지표로 읽는 것이 적절하다. 확인된 악성 모델의 수를 뜻하지는 않는다.1 이번 사례의 핵심은 태그만으로 판단할 수 없다는 데 있다. 플랫폼은 저장소의 목적이 무엇인지, 그 판단을 뒷받침하는 근거가 무엇인지, 이중 용도 모델에 규칙을 어떻게 적용하는지 설명해야 한다.
집행 사유를 더 투명하게 공개하고 기준을 일관되게 적용하면 그 경계를 검토하기 쉬워진다. 현재 자료는 실제로 조정이 필요한 콘텐츠 관리 문제가 있음을 보여주지만, 남아 있는 모든 abliterated 모델을 삭제해야 한다는 결론까지 뒷받침하지는 않는다.
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
사람들은 또한 묻습니다.
"허깅페이스에 올라온 ‘거부 기능 제거’ 모델 6,500개가 보여주는 과제"에 대한 짧은 대답은 무엇입니까?
Transformer는 7월 기준 허깅페이스에 ‘abliterated’, ‘uncensored’, ‘heretic’ 태그가 붙은 모델이 6,500개 넘게 올라와 있었다고 보도했다.[1]
먼저 검증할 핵심 포인트는 무엇인가요?
Transformer는 7월 기준 허깅페이스에 ‘abliterated’, ‘uncensored’, ‘heretic’ 태그가 붙은 모델이 6,500개 넘게 올라와 있었다고 보도했다.[1] 안전 거부 응답을 줄였다는 표기만으로 악성 의도나 공격 수행 능력이 입증되는 것은 아니다.
실무에서는 다음으로 무엇을 해야 합니까?
‘offensive cyber’ 용도의 Audnai 모델은 비활성화됐지만 일반 abliterated 모델 목록은 확인된다. 이 차이는 플랫폼의 정책 집행 기준을 묻게 한다.[11][14]
출처
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face