AnswersPublished13 sources
Понад 6 500 моделей без запобіжників: де Hugging Face проводить межу?
У липні на Hugging Face було розміщено понад 6 500 моделей із позначками «abliterated», «uncensored» або «heretic», повідомляє Transformer.[1] Саме зняття запобіжників не доводить, що модель здатна успішно виконувати шкідливі завдання. Hugging Face вимкнула репозиторій Audnai з позначкою «for offensive cyber» через...
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- У липні на Hugging Face було розміщено понад 6 500 моделей із позначками «abliterated», «uncensored» або «heretic», повідомляє Transformer.[1]
- Саме зняття запобіжників не доводить, що модель здатна успішно виконувати шкідливі завдання.
- Hugging Face вимкнула репозиторій Audnai з позначкою «for offensive cyber» через порушення правил, тоді як інший abliterated репозиторій Audnai був доступний у пошукових результатах.[14][11]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
У липні на Hugging Face було розміщено понад 6 500 моделей із позначками «abliterated», «uncensored» або «heretic», повідомляє видання Transformer.1 Ці слова вказують на те, що моделі позиціюють як такі, у яких послабили або прибрали відмови й захисні обмеження. Але сама позначка не доводить, що кожна з них є шкідливою, має однакові можливості або порушує правила платформи.
Головна проблема для модерації — провести межу між моделлю, яка просто рідше відмовляє, і моделлю, створеною для зловживань у кіберпросторі.
Що означають ці позначки
Слово «abliterated» пов’язане зі зміною моделі, яка має прибрати її схильність відмовляти у відповідях. Наприклад, в описі своєї моделі Audnai заявляє, що це безпосереднє редагування ваг, а не повторне навчання; за твердженням розробника, так прибирають поведінку відмови, не змінюючи решту моделі.11
Цей опис пояснює, чому зняття запобіжників не варто автоматично прирівнювати до створення нових технічних можливостей. Модель може стати охочішою відповідати на запити, яким раніше відмовляла, але це саме по собі не показує, наскільки успішно вона виконає конкретне шкідливе завдання.
Межа, яку має провести платформа
За повідомленням Transformer, правила Hugging Face забороняють моделі, призначені для порушення роботи систем, несанкціонованого доступу або створення шкідливого коду.1 Тож важливо не лише з’ясувати, чи змінювали модель, а й оцінити, які докази свідчать про її заборонене призначення.
Репозиторій Audnai з назвою «for offensive cyber» нині вимкнений: на його сторінці вказано, що контент порушує правила платформи.14 Водночас у наданих пошукових результатах є й інша сторінка abliterated-моделі Audnai.
11 Цей контраст привертає увагу до межі застосування правил, але не доводить, що обидва репозиторії мали однакові можливості, призначення чи статус. Доступний опис вимкненої сторінки також не пояснює конкретної причини рішення.
14
Чому назв недостатньо
Назва репозиторію та опис розробника можуть підказувати, для чого призначена модель, але не є незалежною оцінкою її можливостей. Так само заява про видалення відмов не доводить, що модель здатна виконати будь-яке шкідливе завдання, про яке її запитають. Надані джерела містять сторінки моделей та їхні описи, але не пропонують єдиної незалежної оцінки можливостей усіх моделей із такими позначками.1
11
Для модерації це має практичне значення. Якщо рішення залежить від призначення моделі, її підтверджених можливостей або обох чинників, розробникам і користувачам важливо розуміти, як саме їх оцінюють. Зрозуміліші пояснення блокувань допомогли б побачити, яке правило порушено, а послідовні перевірки — відрізнити модель із меншою кількістю відмов від інструмента, прямо представленого як засіб для наступальних кібероперацій.
Число — не підрахунок шкідливих моделей
Понад 6 500 — це насамперед показник поширеності позначок, пов’язаних зі зняттям запобіжників, а не кількість підтверджено шкідливих моделей.1 Цей випадок показує, чому платформі недостатньо орієнтуватися лише на назви: потрібно оцінювати призначення репозиторію, докази на підтримку такого висновку та те, як до моделей подвійного призначення застосовуються правила.
Прозоріші пояснення рішень і послідовніші критерії дали б змогу краще перевіряти цю межу. Наявні дані підтверджують, що питання модерації реальне, але самі по собі не відповідають на запитання, чи слід видалити кожну модель, позначену як abliterated.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Понад 6 500 моделей без запобіжників: де Hugging Face проводить межу?"?
У липні на Hugging Face було розміщено понад 6 500 моделей із позначками «abliterated», «uncensored» або «heretic», повідомляє Transformer.[1]
What are the key points to validate first?
У липні на Hugging Face було розміщено понад 6 500 моделей із позначками «abliterated», «uncensored» або «heretic», повідомляє Transformer.[1] Саме зняття запобіжників не доводить, що модель здатна успішно виконувати шкідливі завдання.
What should I do next in practice?
Hugging Face вимкнула репозиторій Audnai з позначкою «for offensive cyber» через порушення правил, тоді як інший abliterated репозиторій Audnai був доступний у пошукових результатах.[14][11]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face