RespostasPublicado13 fontes
O que os 6,5 mil modelos sem recusas revelam sobre a moderação de IA
Segundo a Transformer, mais de 6,5 mil modelos na Hugging Face tinham, em julho, rótulos como “abliterated”, “uncensored” ou “heretic”.[1] Os rótulos sugerem menos recusas, mas não comprovam que todos os modelos sejam maliciosos nem que tenham a mesma capacidade. A plataforma desativou um repositório anunciado como...
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- Segundo a Transformer, mais de 6,5 mil modelos na Hugging Face tinham, em julho, rótulos como “abliterated”, “uncensored” ou “heretic”.[1]
- Os rótulos sugerem menos recusas, mas não comprovam que todos os modelos sejam maliciosos nem que tenham a mesma capacidade.
- A plataforma desativou um repositório anunciado como voltado a ciberataques, enquanto outro modelo abliterado da Audnai aparece nos resultados consultados; a diferença ilustra uma fronteira de moderação ainda pouco ex...
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
A Transformer informou que, em julho, a Hugging Face hospedava mais de 6,5 mil modelos com rótulos como “abliterated”, “uncensored” ou “heretic”.1 O número dá a dimensão da oferta de modelos anunciados como menos propensos a recusar pedidos — mas não significa que todos sejam maliciosos, tenham a mesma capacidade ou violem as regras da plataforma.
A questão mais difícil é distinguir a remoção de salvaguardas de um modelo projetado para facilitar abusos cibernéticos.
O que os rótulos mostram — e o que não mostram
Segundo a reportagem, esses termos são associados à remoção de filtros de segurança ou mecanismos de recusa.1 Eles ajudam a entender como um modelo é apresentado, mas o rótulo, por si só, não comprova o que ele consegue fazer nem com que consistência executa tarefas nocivas.
Na página de um modelo da Audnai, a empresa descreve a técnica como uma edição direta dos pesos do modelo para remover seu comportamento de recusa, sem retreinamento.11 Isso ajuda a explicar por que “remover salvaguardas” e “criar novas capacidades” não são a mesma coisa: mudar a disposição do modelo para responder não demonstra, por si só, que ele consiga realizar um ataque específico.
Onde passa a linha da política da plataforma
A Transformer afirma que a política de conteúdo da Hugging Face proíbe modelos projetados para interromper sistemas, obter acesso não autorizado ou gerar código malicioso.1 A questão, portanto, não é apenas se um modelo foi modificado, mas que evidências indicam que ele foi desenvolvido para uma finalidade proibida.
O repositório da Audnai identificado como “for offensive cyber” aparece desativado por violação da política de conteúdo.14 Já outro modelo abliterado da Audnai aparece nos resultados de busca fornecidos.
11 O contraste torna relevante entender como a plataforma aplica suas regras, mas não prova que os dois repositórios tivessem as mesmas capacidades, intenção ou situação perante a política. O trecho disponível sobre o repositório desativado não explica o motivo específico da decisão.
14
Por que nomes e descrições não bastam
O nome de um repositório ou a descrição de quem o desenvolveu pode dar pistas sobre o uso pretendido, mas não substitui uma avaliação de desempenho. Da mesma forma, dizer que as recusas foram removidas não comprova que o modelo consiga executar qualquer tarefa nociva solicitada.
As fontes disponíveis registram listagens e descrições dos modelos, mas não apresentam uma avaliação independente e uniforme das capacidades de todos os modelos que usam esses rótulos.1
11 Essa distinção importa para a moderação: se a aplicação das regras depende da finalidade declarada, das capacidades demonstradas ou de ambos, usuários e desenvolvedores precisam entender como esses fatores são avaliados.
Explicações públicas sobre remoções poderiam esclarecer qual regra foi violada. Avaliações consistentes também ajudariam a diferenciar um modelo com menos recusas de outro apresentado como ferramenta de ciberataque.
Um desafio de governança
O total divulgado deve ser entendido como uma medida da presença de rótulos associados à remoção de salvaguardas na plataforma — não como uma contagem de modelos comprovadamente maliciosos.1 O caso mostra por que a moderação não pode depender apenas de etiquetas: é preciso avaliar a finalidade de um repositório, as evidências que sustentam essa avaliação e a aplicação das regras a modelos de uso duplo.
Critérios mais claros e aplicados de forma consistente, além de explicações mais transparentes sobre decisões de moderação, tornariam essa fronteira mais fácil de avaliar. As informações disponíveis confirmam que há uma questão real de moderação, mas não bastam para concluir que todo modelo abliterado que permanece na plataforma deveria ser removido.
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "O que os 6,5 mil modelos sem recusas revelam sobre a moderação de IA"?
Segundo a Transformer, mais de 6,5 mil modelos na Hugging Face tinham, em julho, rótulos como “abliterated”, “uncensored” ou “heretic”.[1]
Quais são os pontos-chave para validar primeiro?
Segundo a Transformer, mais de 6,5 mil modelos na Hugging Face tinham, em julho, rótulos como “abliterated”, “uncensored” ou “heretic”.[1] Os rótulos sugerem menos recusas, mas não comprovam que todos os modelos sejam maliciosos nem que tenham a mesma capacidade.
O que devo fazer a seguir na prática?
A plataforma desativou um repositório anunciado como voltado a ciberataques, enquanto outro modelo abliterado da Audnai aparece nos resultados consultados; a diferença ilustra uma fronteira de moderação ainda pouco ex...
Fontes
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face