AnswersPublished13 sources
Over 6 500 modeller uten sikkerhetsfilter: Hugging Face står overfor en vanskelig grense
Transformer meldte at Hugging Face i juli hadde over 6 500 modeller med merkelappene «abliterated», «uncensored» eller «heretic».[1] Det vanskelige spørsmålet er hvor grensen går mellom modeller som er mindre tilbøyelige til å avslå forespørsler, og modeller laget for dataangrep.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Transformer meldte at Hugging Face i juli hadde over 6 500 modeller med merkelappene «abliterated», «uncensored» eller «heretic».[1]
- Det vanskelige spørsmålet er hvor grensen går mellom modeller som er mindre tilbøyelige til å avslå forespørsler, og modeller laget for dataangrep.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer meldte at Hugging Face i juli hadde over 6 500 modeller merket «abliterated», «uncensored» eller «heretic».1 Tallene viser omfanget av modeller som markedsføres som mindre tilbøyelige til å avslå forespørsler. De viser ikke at alle modellene er ondsinnede, like kapable eller forbudte. Den krevende oppgaven er å skille mellom å fjerne sikkerhetsmekanismer og å lage en modell for dataangrep.
Hva tallet forteller – og ikke forteller
Ifølge omtalen er disse merkelappene knyttet til at en modells sikkerhetsfiltre eller andre sperrer er fjernet.1 De kan gi en pekepinn på hvordan modellen presenteres, men navnet alene bekrefter verken hva modellen faktisk kan gjøre eller hvor pålitelig den er til skadelige oppgaver.
Audnai beskriver sin ablitererte modell som en direkte endring av modellvektene for å fjerne avslag, uten finjustering eller ny trening.11 Det illustrerer hvorfor færre avslag ikke automatisk betyr nye evner: At en modell blir mer villig til å svare, viser ikke i seg selv at den kan gjennomføre et bestemt angrep.
Hvor går Hugging Faces grense?
Transformer skriver at Hugging Faces regler forbyr modeller som er laget for å forstyrre systemer, skaffe uautorisert tilgang eller generere skadelig kode.1 Det gjør vurderingen mer komplisert enn bare å spørre om en modell er endret: Hvilke holdepunkter viser at den er laget for et forbudt formål?
En Audnai-modell med merkelappen «for offensive cyber» er deaktivert på grunn av et brudd på plattformens innholdsregler.14 Samtidig finnes det en annen, ordinær Audnai-modell med fjernet avslag i søkeresultatene.
11 Forskjellen gjør håndhevingen verdt å undersøke, men beviser ikke at modellene hadde samme kapasitet, formål eller status etter reglene. Utdraget som er tilgjengelig, viser til et regelbrudd, men forklarer ikke det konkrete grunnlaget for avgjørelsen.
14
Merking er ikke en kapabilitetstest
Et modellnavn eller en utviklerbeskrivelse kan si noe om tiltenkt bruk, men er ikke en uavhengig test av hva modellen får til. På samme måte viser ikke en påstand om at avslag er fjernet, at modellen kan utføre alle skadelige oppgaver den blir bedt om. Kildene her dokumenterer modelloppføringer og beskrivelser, men gir ingen enhetlig, uavhengig vurdering av hva de merkede modellene faktisk kan gjøre.1
11
Dette skillet er viktig for moderering. Hvis håndhevingen bygger på tiltenkt bruk, dokumenterte evner eller begge deler, bør brukere og utviklere kunne forstå hvordan vurderingen foretas. Mer konkrete forklaringer på hvorfor en modell tas ned, kan gjøre det tydeligere hvilken regel som er brutt. Konsistente tester kan også gjøre det lettere å skille modeller med færre avslag fra modeller som presenteres som verktøy for offensive dataangrep.
Et styringsproblem uten en enkel løsning
Det rapporterte tallet bør først og fremst leses som et mål på omfanget av modeller merket som om sikkerhetsmekanismer er fjernet – ikke som en opptelling av bekreftet ondsinnede modeller.1 Saken viser hvorfor moderering ikke kan bygge på merkelapper alene: Plattformene må vurdere hva en modell er ment for, hvilke holdepunkter vurderingen bygger på, og hvordan reglene skal brukes på modeller med både legitime og skadelige mulige bruksområder.
Tydeligere begrunnelser for avgjørelser og klarere, konsekvent praktiserte kriterier ville gjort grensedragningen enklere å etterprøve. Kildene viser at modereringsspørsmålet er reelt, men avgjør ikke i seg selv om alle modeller med fjernede avslag bør fjernes.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Over 6 500 modeller uten sikkerhetsfilter: Hugging Face står overfor en vanskelig grense"?
Transformer meldte at Hugging Face i juli hadde over 6 500 modeller med merkelappene «abliterated», «uncensored» eller «heretic».[1]
What are the key points to validate first?
Transformer meldte at Hugging Face i juli hadde over 6 500 modeller med merkelappene «abliterated», «uncensored» eller «heretic».[1] Det vanskelige spørsmålet er hvor grensen går mellom modeller som er mindre tilbøyelige til å avslå forespørsler, og modeller laget for dataangrep.
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face