AnswersPublished13 sources
I 6.500 modelli «senza filtri» su Hugging Face mettono alla prova la moderazione
A luglio, secondo Transformer, su Hugging Face erano presenti oltre 6.500 modelli con etichette come «abliterated», «uncensored» o «heretic».[1] Rimuovere o ridurre i rifiuti di un modello non dimostra, di per sé, che questo sappia eseguire attacchi informatici o che sia stato creato a tale scopo. La disattivazione...
Pubblicato daModificato con GPT-6 LunaImmagini generate con GPT Image 2
Research answer
Key takeaways
- A luglio, secondo Transformer, su Hugging Face erano presenti oltre 6.500 modelli con etichette come «abliterated», «uncensored» o «heretic».[1]
- Rimuovere o ridurre i rifiuti di un modello non dimostra, di per sé, che questo sappia eseguire attacchi informatici o che sia stato creato a tale scopo.
- La disattivazione di un modello presentato come «for offensive cyber» e la presenza di un altro modello abliterated di Audnai mostrano quanto sia importante rendere più chiara la linea di applicazione delle regole.[11...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
A luglio Hugging Face ospitava oltre 6.500 modelli contrassegnati come «abliterated», «uncensored» o «heretic», secondo quanto riportato da Transformer.1 Sono etichette associate alla rimozione o alla riduzione dei filtri di sicurezza, ma non dimostrano che ogni modello sia malevolo, abbia le stesse capacità o violi le regole della piattaforma. La questione più difficile è capire quando la modifica delle salvaguardie diventa la progettazione di uno strumento per abusi informatici.
Che cosa dice davvero il dato
Nel report, le etichette indicano modelli presentati come privi di parte dei filtri o dei meccanismi di sicurezza.1 Possono quindi offrire un indizio su come un modello viene descritto, ma il nome di un repository non basta a verificare cosa sappia fare né con quale affidabilità.
La scheda di un modello di Audnai lo descrive come una modifica diretta dei pesi, pensata per rimuovere il comportamento di rifiuto, e non come un modello riaddestrato.11 È una distinzione importante: ridurre la propensione a rifiutare una richiesta non equivale, da solo, a dimostrare che il modello possa realizzare uno specifico attacco.
Il confine difficile da applicare
Secondo Transformer, la policy di Hugging Face vieta i modelli progettati per interrompere o compromettere sistemi, ottenere accessi non autorizzati o generare codice malevolo.1 Il punto, dunque, non è soltanto stabilire se un modello sia stato modificato: occorre capire quali elementi dimostrino che sia destinato a uno scopo vietato.
La repository di Audnai presentata come «for offensive cyber» risulta disabilitata per una violazione della Content Policy.14 Nei risultati disponibili compare anche una normale scheda Audnai per un modello abliterated.
11 Il contrasto rende evidente la necessità di criteri comprensibili, ma non dimostra che le due repository avessero capacità, finalità o status normativi identici. Inoltre, l’estratto disponibile sulla repository disabilitata non specifica quale sia stata la ragione puntuale della decisione.
14
Le etichette non sono una valutazione delle capacità
Il nome di una repository o la descrizione fornita da chi sviluppa un modello possono suggerirne l’uso previsto, ma non costituiscono una verifica delle sue prestazioni. Allo stesso modo, dichiarare che sono stati rimossi i rifiuti non prova che il modello riesca a portare a termine qualunque compito dannoso gli venga richiesto.
Le fonti disponibili documentano le schede dei modelli e le relative descrizioni, ma non presentano una valutazione indipendente e uniforme delle capacità di tutti i modelli contrassegnati con quelle etichette.1
11 Per la moderazione, la differenza è sostanziale: se l’applicazione delle regole dipende dalle intenzioni, dalle capacità dimostrate o da entrambi gli aspetti, utenti e sviluppatori dovrebbero poter capire come vengono valutati.
Una sfida di governance
Il totale riportato va letto come un’indicazione della diffusione di etichette legate alla rimozione delle salvaguardie, non come il conteggio di modelli pericolosi accertati.1 Il caso mostra perché la moderazione non possa basarsi solo sui nomi: le piattaforme devono valutare a cosa è destinata una repository, quali prove sostengono tale valutazione e come applicare le regole ai modelli a doppio uso.
Spiegazioni più trasparenti delle disattivazioni e criteri applicati con maggiore coerenza renderebbero più facile verificare dove passa quel confine. Le informazioni disponibili confermano l’esistenza di una questione concreta di moderazione, ma non bastano a concludere che ogni modello abliterated ancora presente debba essere rimosso.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "I 6.500 modelli «senza filtri» su Hugging Face mettono alla prova la moderazione"?
A luglio, secondo Transformer, su Hugging Face erano presenti oltre 6.500 modelli con etichette come «abliterated», «uncensored» o «heretic».[1]
What are the key points to validate first?
A luglio, secondo Transformer, su Hugging Face erano presenti oltre 6.500 modelli con etichette come «abliterated», «uncensored» o «heretic».[1] Rimuovere o ridurre i rifiuti di un modello non dimostra, di per sé, che questo sappia eseguire attacchi informatici o che sia stato creato a tale scopo.
What should I do next in practice?
La disattivazione di un modello presentato come «for offensive cyber» e la presenza di un altro modello abliterated di Audnai mostrano quanto sia importante rendere più chiara la linea di applicazione delle regole.[11...
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face