RespuestasPublicado13 fuentes
Los 6.500 modelos «sin filtros» de Hugging Face ponen a prueba la moderación
Transformer informó que en julio Hugging Face alojaba más de 6.500 modelos etiquetados como «abliterated», «uncensored» o «heretic».[1] Quitar o reducir las negativas de un modelo no prueba, por sí solo, que pueda ejecutar tareas dañinas ni que haya sido creado para hacerlo. La plataforma desactivó un repositorio de...
Publicado porEditado con GPT-6 LunaImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- Transformer informó que en julio Hugging Face alojaba más de 6.500 modelos etiquetados como «abliterated», «uncensored» o «heretic».[1]
- Quitar o reducir las negativas de un modelo no prueba, por sí solo, que pueda ejecutar tareas dañinas ni que haya sido creado para hacerlo.
- La plataforma desactivó un repositorio descrito como «for offensive cyber», mientras que otra ficha de un modelo abliterado de Audnai seguía visible en los resultados consultados.[14][11]
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
La cifra llama la atención: en julio, Hugging Face alojaba más de 6.500 modelos etiquetados como «abliterated», «uncensored» o «heretic», según informó Transformer.1 Son términos asociados a modelos con filtros de seguridad o salvaguardas reducidos o eliminados. Pero el recuento no significa que todos esos modelos sean maliciosos, tengan las mismas capacidades o estén prohibidos.
La pregunta de fondo es más difícil: ¿cómo distingue una plataforma un modelo que responde a más solicitudes de uno diseñado para facilitar ataques informáticos?
Qué nos dice —y qué no— la cifra
Las etiquetas dan una pista sobre cómo se presenta un modelo, pero no son una evaluación independiente de su rendimiento. Que un modelo rechace menos solicitudes no demuestra que pueda llevar a cabo con éxito cualquier tarea dañina que se le pida.
La ficha de un modelo de Audnai lo describe como una modificación directa de los pesos para eliminar el comportamiento de rechazo, sin volver a entrenarlo.11 Esa explicación ayuda a entender por qué conviene separar dos conceptos: cambiar la disposición del modelo a contestar no equivale, por sí solo, a demostrar que posee una capacidad nueva o que puede ejecutar un ataque concreto.
Dónde está la línea de moderación
La política de contenidos de Hugging Face prohíbe los modelos diseñados para interrumpir sistemas, obtener acceso no autorizado o generar código malicioso, según Transformer.1 Aplicar esa regla exige algo más que fijarse en si un modelo fue modificado: también hay que determinar qué pruebas indican que fue diseñado para un uso prohibido.
Un repositorio de Audnai etiquetado «for offensive cyber» aparece como desactivado por infringir la política de contenidos.14 En cambio, otra ficha de un modelo abliterado de Audnai también figura en los resultados consultados.
11 El contraste plantea una pregunta legítima sobre los criterios de aplicación de las reglas, pero no demuestra que ambos repositorios tuvieran la misma finalidad, capacidad o situación ante la política. El fragmento disponible sobre la ficha desactivada no detalla el motivo específico de la decisión.
14
Por qué una etiqueta no basta
El nombre de un repositorio o la descripción de quien lo publica pueden dar indicios sobre el uso previsto, pero no sustituyen una prueba de capacidades. Del mismo modo, afirmar que se han eliminado las negativas no demuestra que el modelo pueda realizar con éxito todas las tareas dañinas que se le planteen.
Las fuentes disponibles documentan fichas de modelos y las descripciones que las acompañan, pero no ofrecen una evaluación independiente y uniforme de las capacidades de todos los modelos etiquetados.1
11 Esa diferencia importa: para que desarrolladores y usuarios entiendan cómo se moderan los repositorios, la plataforma tendría que aclarar qué peso da a la finalidad declarada, las capacidades demostradas y otros indicios.
Un dilema de gobernanza
Los más de 6.500 modelos son, ante todo, una medida de la escala de las etiquetas asociadas a la retirada de salvaguardas, no un recuento de modelos maliciosos confirmados.1 El caso muestra por qué moderar no puede consistir simplemente en buscar palabras como «uncensored»: hace falta evaluar para qué se presenta un repositorio, qué pruebas respaldan esa evaluación y cómo se aplican las reglas a modelos de doble uso.
Explicaciones públicas más claras sobre las decisiones de retirada y criterios coherentes ayudarían a que ese límite pudiera examinarse mejor. La evidencia disponible confirma que existe un reto de moderación; no permite concluir que todos los modelos abliterados que siguen alojados deban retirarse.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Los 6.500 modelos «sin filtros» de Hugging Face ponen a prueba la moderación"?
Transformer informó que en julio Hugging Face alojaba más de 6.500 modelos etiquetados como «abliterated», «uncensored» o «heretic».[1]
¿Cuáles son los puntos clave a validar primero?
Transformer informó que en julio Hugging Face alojaba más de 6.500 modelos etiquetados como «abliterated», «uncensored» o «heretic».[1] Quitar o reducir las negativas de un modelo no prueba, por sí solo, que pueda ejecutar tareas dañinas ni que haya sido creado para hacerlo.
¿Qué debo hacer a continuación en la práctica?
La plataforma desactivó un repositorio descrito como «for offensive cyber», mientras que otra ficha de un modelo abliterado de Audnai seguía visible en los resultados consultados.[14][11]
Fuentes
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face