AnswersPublished13 sources
6 500 modeller med färre skyddsspärrar – var går gränsen för Hugging Face?
Transformer rapporterade att Hugging Face i juli hade över 6 500 modeller märkta ”abliterated”, ”uncensored” eller ”heretic”.[1] Etiketterna signalerar att modeller marknadsförs som mindre benägna att vägra svar, men visar inte i sig hur väl de kan utföra skadliga uppgifter. Ett Audnai repo med märkningen ”for offen...
Publicerad avRedigerad med GPT-6 LunaBilder genererade med GPT Image 2
Research answer
Key takeaways
- Transformer rapporterade att Hugging Face i juli hade över 6 500 modeller märkta ”abliterated”, ”uncensored” eller ”heretic”.[1]
- Etiketterna signalerar att modeller marknadsförs som mindre benägna att vägra svar, men visar inte i sig hur väl de kan utföra skadliga uppgifter.
- Ett Audnai repo med märkningen ”for offensive cyber” har stängts av för brott mot innehållspolicyn, medan ett annat ablitererat Audnai repo finns kvar i sökresultaten.[14][11]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer rapporterade att Hugging Face i juli hade över 6 500 modeller märkta ”abliterated”, ”uncensored” eller ”heretic”.1 Termerna används om modeller där säkerhetsfilter eller andra skyddsspärrar har tagits bort. Siffran visar omfattningen av sådana märkningar på plattformen – inte att varje modell är skadlig, lika kapabel eller förbjuden.
Den svåra frågan är var gränsen går mellan en modell som oftare svarar på frågor den annars skulle avböja och en modell som är utformad för att hjälpa till med cyberangrepp.
En etikett säger inte allt
Att en modell beskrivs som ”uncensored” eller ”abliterated” kan ge en ledtråd om hur den har ändrats, men är ingen oberoende bedömning av dess förmågor. Det visar inte heller hur tillförlitligt den kan utföra en skadlig uppgift.
Ett Audnai-repo beskriver sin modell som en direkt ändring av modellvikterna för att ta bort vägranden, utan omträning.11 Det illustrerar skillnaden mellan att ändra en modells benägenhet att svara och att ge den en ny förmåga. En sådan beskrivning bevisar inte i sig vad modellen klarar av i praktiken.
Var drar Hugging Face gränsen?
Enligt Transformer förbjuder Hugging Faces innehållspolicy modeller som är utformade för att störa system, få obehörig åtkomst eller skapa skadlig kod.1 Det väcker en mer konkret fråga än om en modell har ändrats: vilket underlag visar att den är avsedd för ett förbjudet syfte?
Ett Audnai-repo märkt ”for offensive cyber” visas som avstängt på grund av brott mot plattformens innehållspolicy.14 Samtidigt finns ett annat ablitererat Audnai-repo bland de tillgängliga sökresultaten.
11 Skillnaden gör det relevant att granska hur plattformen drar gränsen, men den bevisar inte att de två reporna hade samma syfte, förmågor eller policystatus. Den tillgängliga informationen om det avstängda repot anger inte den specifika grunden för beslutet.
14
Moderering kräver mer än nyckelord
Ett repots namn eller utvecklarens beskrivning kan säga något om den tänkta användningen, men är inte samma sak som en utvärdering av vad modellen faktiskt kan göra. På motsvarande sätt visar ett påstående om borttagna vägranden inte att modellen kan genomföra varje skadlig uppgift den får.
De tillgängliga källorna beskriver modellistor och utvecklarnas egna uppgifter, men ger ingen enhetlig, oberoende bedömning av förmågorna hos alla modeller med de här märkningarna.1
11 Därför är det svårt att avgöra vad som skiljer en modell med färre vägranden från en modell som är avsedd som ett verktyg för offensiv cyberverksamhet.
Tydligare förklaringar av modereringsbeslut skulle göra gränsdragningen lättare att granska. Konsekventa utvärderingar skulle också kunna hjälpa till att skilja mellan olika slags modeller – utan att behandla en etikett som ett bevis på skadlig användning.
Siffran visar en utmaning, inte ett facit
De över 6 500 modellerna är bäst att förstå som ett mått på hur vanligt det är med märkningar som signalerar borttagna skyddsspärrar på plattformen.1 De är inte ett bekräftat antal skadliga modeller.
Fallet visar varför moderering inte kan bygga enbart på etiketter. Plattformen behöver bedöma modellens avsedda användning, vilket underlag som stöder den bedömningen och hur reglerna ska tillämpas på modeller som kan användas för både legitim forskning och skadliga ändamål. Det finns goda skäl att ställa frågor om gränsdragningen – men underlaget här avgör inte om alla modeller med borttagna vägranden borde tas bort.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "6 500 modeller med färre skyddsspärrar – var går gränsen för Hugging Face?"?
Transformer rapporterade att Hugging Face i juli hade över 6 500 modeller märkta ”abliterated”, ”uncensored” eller ”heretic”.[1]
What are the key points to validate first?
Transformer rapporterade att Hugging Face i juli hade över 6 500 modeller märkta ”abliterated”, ”uncensored” eller ”heretic”.[1] Etiketterna signalerar att modeller marknadsförs som mindre benägna att vägra svar, men visar inte i sig hur väl de kan utföra skadliga uppgifter.
What should I do next in practice?
Ett Audnai repo med märkningen ”for offensive cyber” har stängts av för brott mot innehållspolicyn, medan ett annat ablitererat Audnai repo finns kvar i sökresultaten.[14][11]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face