AnswersPublished13 sources
Wat 6.500 modellen zonder weigeringen zeggen over AI-moderatie
Volgens Transformer stonden er in juli meer dan 6.500 modellen met labels als ‘abliterated’, ‘uncensored’ of ‘heretic’ op Hugging Face.[1] Een model aanpassen zodat het minder vaak weigert, bewijst niet dat het nieuwe of betrouwbare mogelijkheden voor schadelijke taken heeft. Een uitgeschakelde repository met het la...
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Volgens Transformer stonden er in juli meer dan 6.500 modellen met labels als ‘abliterated’, ‘uncensored’ of ‘heretic’ op Hugging Face.[1]
- Een model aanpassen zodat het minder vaak weigert, bewijst niet dat het nieuwe of betrouwbare mogelijkheden voor schadelijke taken heeft.
- Een uitgeschakelde repository met het label ‘offensive cyber’ en een andere, toegankelijke Audnai vermelding laten zien waarom de handhaving moeilijk te beoordelen is.[11][14]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Volgens Transformer stonden er in juli meer dan 6.500 modellen op Hugging Face met labels als ‘abliterated’, ‘uncensored’ of ‘heretic’.1 Zulke termen verwijzen naar modellen waarvan de veiligheidsfilters of ingebouwde waarborgen zijn verminderd of verwijderd. Het aantal laat de schaal van die trend zien, maar betekent niet dat al die modellen kwaadaardig zijn, even krachtig zijn of volgens het platformbeleid verboden moeten worden.
De lastige vraag is niet alleen of een model is aangepast, maar ook of het is ontworpen voor cybermisbruik — en welk bewijs daarvoor nodig is.
Minder weigeren is niet hetzelfde als meer kunnen
Labels en beschrijvingen geven een aanwijzing over hoe een model wordt gepresenteerd, maar zijn geen onafhankelijke test van wat het model daadwerkelijk kan. Ook bewijst de claim dat een model minder vaak weigert niet dat het elke schadelijke opdracht succesvol kan uitvoeren.
Audnai omschrijft zijn abliterated model als een directe aanpassing van de modelgewichten, bedoeld om het weigeringsgedrag te verwijderen, zonder het model opnieuw te trainen.11 Dat maakt duidelijk waarom het weghalen van waarborgen en het toevoegen van nieuwe mogelijkheden niet op één hoop moeten worden gegooid: een model kan bereidwilliger antwoorden zonder dat daarmee is aangetoond dat het een bepaalde aanval kan uitvoeren.
Waar ligt de grens van het platformbeleid?
Transformer meldt dat het contentbeleid van Hugging Face modellen verbiedt die zijn ontworpen om systemen te verstoren, ongeautoriseerde toegang te krijgen of schadelijke code te genereren.1 De vraag is dus hoe het platform vaststelt dat een model voor zo’n verboden doel is bedoeld.
De repository van Audnai met het label ‘for offensive cyber’ staat uitgeschakeld wegens een schending van het contentbeleid.14 Tegelijkertijd is er in de aangeleverde zoekresultaten ook een gewone vermelding van een abliterated model van Audnai te vinden.
11 Dat verschil maakt de handhavingsgrens relevant, maar bewijst niet dat de twee repositories dezelfde mogelijkheden, intentie of beleidsstatus hadden. De beschikbare informatie over de uitgeschakelde repository licht niet toe wat precies de reden voor de beslissing was.
14
Waarom labels alleen niet volstaan
Een repositorynaam of beschrijving van de maker kan iets zeggen over het beoogde gebruik, maar is geen beoordeling van de prestaties. En de claim dat veiligheidsfilters zijn weggehaald, laat op zichzelf niet zien hoe betrouwbaar het model schadelijke taken kan uitvoeren. De beschikbare bronnen documenteren modelvermeldingen en hun beschrijvingen, maar bieden geen vergelijkbare, onafhankelijke beoordeling van de mogelijkheden van alle modellen met zulke labels.1
11
Dat onderscheid is belangrijk voor moderatie. Als handhaving afhangt van het beoogde gebruik, aangetoonde mogelijkheden of beide, helpt het gebruikers en ontwikkelaars wanneer duidelijk is hoe die factoren worden gewogen. Openbare toelichting bij verwijderingen kan laten zien welke beleidsgrens is overschreden. Consistente tests kunnen helpen onderscheid te maken tussen een model dat minder vaak weigert en een model dat expliciet als hulpmiddel voor offensieve cyberactiviteiten wordt aangeboden.
De bredere uitdaging
Het getal van ruim 6.500 is het best te lezen als een indicatie van de omvang van modellen met labels rond het verwijderen van waarborgen — niet als een telling van bewezen kwaadaardige modellen.1 Moderatie kan daarom niet op labels alleen steunen. Platforms moeten beoordelen waarvoor een repository bedoeld is, welk bewijs die inschatting ondersteunt en hoe hun regels uitpakken voor modellen die voor zowel legitiem onderzoek als misbruik kunnen worden ingezet.
Duidelijkere criteria en meer uitleg over handhavingsbesluiten zouden die afweging beter controleerbaar maken. De beschikbare informatie laat zien dat er een serieus moderatievraagstuk is, maar biedt geen basis voor de conclusie dat elk overgebleven abliterated model verwijderd zou moeten worden.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Wat 6.500 modellen zonder weigeringen zeggen over AI-moderatie"?
Volgens Transformer stonden er in juli meer dan 6.500 modellen met labels als ‘abliterated’, ‘uncensored’ of ‘heretic’ op Hugging Face.[1]
What are the key points to validate first?
Volgens Transformer stonden er in juli meer dan 6.500 modellen met labels als ‘abliterated’, ‘uncensored’ of ‘heretic’ op Hugging Face.[1] Een model aanpassen zodat het minder vaak weigert, bewijst niet dat het nieuwe of betrouwbare mogelijkheden voor schadelijke taken heeft.
What should I do next in practice?
Een uitgeschakelde repository met het label ‘offensive cyber’ en een andere, toegankelijke Audnai vermelding laten zien waarom de handhaving moeilijk te beoordelen is.[11][14]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face