AnswersPublished13 sources
6.500 AI-modeller uden sikkerhedsfiltre udfordrer Hugging Faces moderation
Transformer rapporterede, at Hugging Face i juli havde over 6.500 modeller mærket »abliterated«, »uncensored« eller »heretic«.[1] Mærkaterne forbindes med fjernelse af sikkerhedsfiltre, men viser ikke i sig selv, at modellerne er ondsindede eller kan udføre skadelige opgaver. En Audnai model markedsført til offensiv...
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Transformer rapporterede, at Hugging Face i juli havde over 6.500 modeller mærket »abliterated«, »uncensored« eller »heretic«.[1]
- Mærkaterne forbindes med fjernelse af sikkerhedsfiltre, men viser ikke i sig selv, at modellerne er ondsindede eller kan udføre skadelige opgaver.
- En Audnai model markedsført til offensiv cyberbrug er blevet deaktiveret for brud på Hugging Faces indholdspolitik, mens en anden ablitereret Audnai model fortsat er listet.[11][14]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer rapporterede, at Hugging Face i juli havde over 6.500 modeller med mærkaterne »abliterated«, »uncensored« eller »heretic«.1 Tallet peger på omfanget af modeller, der præsenteres som mindre tilbøjelige til at afvise forespørgsler. Men det dokumenterer ikke, at alle modellerne er ondsindede, lige kapable eller forbudte. Den svære opgave er at skelne mellem færre sikkerhedsafvisninger og modeller, der er udviklet til cybermisbrug.
Hvad tallet på 6.500 modeller fortæller
Ifølge rapporten bruges betegnelserne om modeller, hvor sikkerhedsfiltre eller andre værn er fjernet.1 Mærkaterne siger noget om, hvordan modellerne bliver præsenteret, men kan ikke alene fastslå, hvad de kan, eller hvor pålideligt de kan løse skadelige opgaver.
Audnai beskriver sin ablitererede model som en direkte ændring af modellens vægte, der skal fjerne dens afvisningsadfærd – ikke som en proces med genoptræning.11 Det er en vigtig skelnen: At ændre en models tilbøjelighed til at svare er ikke det samme som at dokumentere, at den kan gennemføre et bestemt angreb.
Den vanskelige grænse i Hugging Faces regler
Transformer skriver, at Hugging Faces indholdspolitik forbyder modeller, der er udviklet til at forstyrre systemer, skaffe uautoriseret adgang eller generere ondsindet kode.1 Det rejser et mere konkret spørgsmål end blot, om en model er blevet ændret: Hvilke tegn viser, at den er udviklet til et forbudt formål?
Hugging Face-siden for Audnais model, der er mærket »for offensive cyber«, viser, at adgangen er blevet deaktiveret på grund af et brud på indholdspolitikken.14 En almindelig listing af en ablitereret Audnai-model fremgår derimod også af søgeresultaterne.
11 Forskellen gør det relevant at undersøge, hvor platformen trækker grænsen, men beviser ikke, at de to repositories havde samme egenskaber, hensigt eller status efter reglerne. Den deaktiverede side henviser til politikken, men det tilgængelige uddrag forklarer ikke det konkrete grundlag for beslutningen.
14
Mærkater er ikke en vurdering af modellens evner
Et repository-navn eller en udviklerbeskrivelse kan give et fingerpeg om den tilsigtede brug, men er ikke en test af modellens faktiske ydeevne. På samme måde viser en påstand om, at en models afvisninger er fjernet, ikke, at den kan udføre enhver skadelig opgave, den bliver bedt om. De tilgængelige kilder dokumenterer modelopslag og deres beskrivelser, men giver ikke en ensartet, uafhængig vurdering af evnerne hos alle modeller med de pågældende mærkater.1
11
Det har betydning for moderation. Hvis håndhævelsen afhænger af tilsigtet brug, dokumenterede evner eller begge dele, bør brugere og udviklere kunne forstå, hvordan faktorerne vurderes. Mere detaljerede offentlige forklaringer på fjernelser kunne tydeliggøre, hvilken regel der er overtrådt. Ensartede evalueringer kunne samtidig hjælpe med at skelne mellem en model, der afviser færre forespørgsler, og en, der præsenteres som et værktøj til offensiv cyberbrug.
En større udfordring for platformen
Det rapporterede tal bør først og fremmest læses som et mål for, hvor udbredte mærkater om fjernede sikkerhedsværn er på platformen – ikke som en optælling af bekræftet ondsindede modeller.1 Sagen viser også, hvorfor moderation ikke kan baseres på mærkater alene: Platforme må vurdere, hvad et repository er beregnet til, hvilke beviser vurderingen bygger på, og hvordan reglerne skal anvendes på modeller med både legitime og skadelige anvendelsesmuligheder.
Mere gennemsigtige forklaringer på håndhævelsesbeslutninger og tydeligere, konsekvent anvendte kriterier ville gøre den grænse lettere at efterprøve. Kilderne dokumenterer en reel udfordring for moderation, men afgør ikke i sig selv, om alle resterende ablitererede modeller bør fjernes.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "6.500 AI-modeller uden sikkerhedsfiltre udfordrer Hugging Faces moderation"?
Transformer rapporterede, at Hugging Face i juli havde over 6.500 modeller mærket »abliterated«, »uncensored« eller »heretic«.[1]
What are the key points to validate first?
Transformer rapporterede, at Hugging Face i juli havde over 6.500 modeller mærket »abliterated«, »uncensored« eller »heretic«.[1] Mærkaterne forbindes med fjernelse af sikkerhedsfiltre, men viser ikke i sig selv, at modellerne er ondsindede eller kan udføre skadelige opgaver.
What should I do next in practice?
En Audnai model markedsført til offensiv cyberbrug er blevet deaktiveret for brud på Hugging Faces indholdspolitik, mens en anden ablitereret Audnai model fortsat er listet.[11][14]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face