AnswersPublished13 sources
Co odhaluje 6 500 modelů s odstraněným odmítáním
Server Transformer v červenci zaznamenal na Hugging Face přes 6 500 modelů s označením „abliterated“, „uncensored“ nebo „heretic“.[1] Samotné označení neprokazuje, že je model škodlivý ani jak spolehlivě zvládá nebezpečné úkoly. Hugging Face vypnul repozitář Audnai výslovně označený jako nástroj pro „offensive cyber...
PublikovalUpraveno pomocí GPT-6 LunaObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Server Transformer v červenci zaznamenal na Hugging Face přes 6 500 modelů s označením „abliterated“, „uncensored“ nebo „heretic“.[1]
- Samotné označení neprokazuje, že je model škodlivý ani jak spolehlivě zvládá nebezpečné úkoly.
- Hugging Face vypnul repozitář Audnai výslovně označený jako nástroj pro „offensive cyber“, zatímco jiný abliterovaný model stejného vydavatele zůstal dostupný.[14][11]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Server Transformer v červenci informoval, že Hugging Face hostil více než 6 500 modelů označených jako „abliterated“, „uncensored“ nebo „heretic“.1 Tato čísla ukazují, jak rozšířené jsou modely prezentované jako méně ochotné odmítat požadavky. Neznamenají však, že každý takto označený model je škodlivý, má stejné schopnosti nebo porušuje pravidla platformy. Obtížnější otázka zní: jak odlišit odstranění bezpečnostních pojistek od modelu vytvořeného pro kybernetické zneužití?
Co číslo 6 500 skutečně vypovídá
Podle zprávy jde o označení spojovaná s odstraněním bezpečnostních filtrů či ochranných mechanismů modelu.1 Mohou napovědět, jak autor model prezentuje, ale samotný název neověřuje, co model skutečně dokáže ani jak spolehlivě zvládá škodlivé úkoly.
V popisu svého modelu na Hugging Face Audnai uvádí, že úprava spočívá v přímém zásahu do vah, jehož cílem je odstranit odmítavé chování, nikoli v novém trénování modelu.11 To pomáhá vysvětlit, proč není vhodné zaměňovat odstranění pojistek za vznik nových schopností: změna ochoty odpovídat sama o sobě nedokazuje, že model dokáže uskutečnit konkrétní útok.
Kde leží hranice pravidel Hugging Face
Server Transformer uvádí, že pravidla Hugging Face zakazují modely navržené k narušování systémů, neoprávněnému získávání přístupu nebo tvorbě škodlivého kódu.1 Tím se otázka posouvá od pouhé úpravy modelu k tomu, jaké důkazy ukazují, že je určen k zakázanému účelu.
Repozitář Audnai s označením „for offensive cyber“ je nyní podle dostupného záznamu vypnutý kvůli porušení pravidel pro obsah.14 Jiný, běžný abliterovaný model od Audnai je naproti tomu ve výsledcích vyhledávání stále uveden.
11 Tento rozdíl vybízí k otázce, jak platforma hranici vymáhá, sám o sobě ale nedokazuje, že oba repozitáře měly stejné schopnosti, záměr nebo status podle pravidel. Dostupný výňatek u vypnutého modelu neuvádí konkrétní důvod rozhodnutí.
14
Proč nestačí název ani popis modelu
Název repozitáře nebo tvrzení jeho autora mohou naznačovat zamýšlené použití, nejsou však hodnocením výkonu. Ani tvrzení, že model přestal odmítat, nedokazuje, že zvládne každý škodlivý úkol, na který se ho někdo zeptá. Dostupné zdroje dokládají existenci modelových stránek a jejich popisy; nepřinášejí jednotné nezávislé posouzení schopností všech takto označených modelů.1
11
Pro moderování je tento rozdíl podstatný. Pokud platforma posuzuje zamýšlené použití, prokázané schopnosti, nebo obojí, uživatelům i vývojářům pomůže vědět, jak tato kritéria uplatňuje. Veřejné vysvětlení odstranění modelu může objasnit, které pravidlo bylo porušeno. Jednotné testování by zase mohlo pomoci odlišit model s omezeným odmítáním od nástroje prezentovaného jako prostředek pro útočné kybernetické operace.
Výzva pro správu platformy
Uvedený počet je nejlépe chápat jako měřítko rozšíření označení spojených s odstraněním bezpečnostních pojistek, nikoli jako počet potvrzeně škodlivých modelů.1 Příklad zároveň ukazuje, proč při moderování nestačí spoléhat na štítky: platforma musí posuzovat účel repozitáře, dostupné důkazy i to, jak její pravidla dopadají na modely s dvojím využitím.
Transparentnější vysvětlení rozhodnutí a jasnější, důsledně uplatňovaná kritéria by umožnila takové posuzování lépe kontrolovat. Dostupné podklady potvrzují, že jde o skutečnou moderátorskou výzvu. Samy o sobě ale nerozhodují, zda by měl Hugging Face odstranit každý zbývající abliterovaný model.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Co odhaluje 6 500 modelů s odstraněným odmítáním"?
Server Transformer v červenci zaznamenal na Hugging Face přes 6 500 modelů s označením „abliterated“, „uncensored“ nebo „heretic“.[1]
What are the key points to validate first?
Server Transformer v červenci zaznamenal na Hugging Face přes 6 500 modelů s označením „abliterated“, „uncensored“ nebo „heretic“.[1] Samotné označení neprokazuje, že je model škodlivý ani jak spolehlivě zvládá nebezpečné úkoly.
What should I do next in practice?
Hugging Face vypnul repozitář Audnai výslovně označený jako nástroj pro „offensive cyber“, zatímco jiný abliterovaný model stejného vydavatele zůstal dostupný.[14][11]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face