ОтветыОпубликовано13 источники
Более 6 500 моделей с удалёнными ограничителями — и сложный выбор для Hugging Face
По данным Transformer, в июле на Hugging Face было размещено более 6 500 моделей с метками «abliterated», «uncensored» или «heretic».[1] Удаление отказов не доказывает, что модель умеет успешно выполнять вредоносные задачи или создана для кибератак. Hugging Face запрещает модели, предназначенные для нарушения работы...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- По данным Transformer, в июле на Hugging Face было размещено более 6 500 моделей с метками «abliterated», «uncensored» или «heretic».[1]
- Удаление отказов не доказывает, что модель умеет успешно выполнять вредоносные задачи или создана для кибератак.
- Hugging Face запрещает модели, предназначенные для нарушения работы систем, несанкционированного доступа или создания вредоносного кода; сложность — в том, как определить назначение конкретной модели.[1]
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
В июле на Hugging Face было размещено более 6 500 моделей с метками «abliterated», «uncensored» или «heretic», сообщил Transformer.1 Обычно эти слова используют, когда говорят об удалении или ослаблении защитных механизмов и отказов модели. Но число таких меток — не подсчёт подтверждённых вредоносных моделей: оно не доказывает, что каждая из них одинаково способна выполнять опасные задачи или вообще предназначена для этого.
Главный вопрос для платформы — как отличить модель, которая просто реже отказывает, от инструмента, созданного для кибератак.
Что значит «убрать отказы»
Метки в описании репозитория подсказывают, как автор представляет модель, но не заменяют проверку её возможностей. Например, Audnai описывает свою аблитерированную модель как результат прямого изменения весов, призванного убрать поведение отказа, а не переобучения модели.11
Это важное различие: изменение готовности отвечать само по себе не доказывает, что модель может успешно провести конкретную атаку. Равно как ярлык «uncensored» не является независимой оценкой её возможностей.
Где проходит граница правил
По данным Transformer, правила Hugging Face запрещают модели, созданные для нарушения работы систем, получения несанкционированного доступа или генерации вредоносного кода.1 Поэтому при модерации важно не только установить, менялись ли защитные механизмы, но и оценить, для чего предназначена модель и какие доказательства это подтверждают.
Репозиторий Audnai с пометкой «for offensive cyber» сейчас отключён из-за нарушения правил платформы.14 В то же время в предоставленных результатах поиска присутствует и обычная страница аблитерированной модели Audnai.
11 Этот контраст показывает, почему граница модерации вызывает вопросы, но не доказывает, что у двух репозиториев были одинаковые возможности, назначение или статус по правилам. Доступное описание отключённой страницы указывает на нарушение Content Policy, но не объясняет конкретную причину решения.
14
Почему одних названий недостаточно
Название репозитория и описание разработчика могут указывать на предполагаемое применение модели, однако не показывают, насколько надёжно она справляется с вредоносными задачами. И заявление об удалённых отказах тоже не подтверждает, что модель способна выполнить любую опасную просьбу.
Доступные источники показывают страницы моделей и их описания, но не содержат единой независимой оценки возможностей всех моделей с такими метками.1
11 Поэтому для последовательной модерации платформе нужно опираться на понятные критерии: учитывать ли предполагаемое назначение, проверенные возможности модели или оба фактора.
Публичные объяснения решений об отключении помогли бы понять, какое именно правило нарушено. А единообразная проверка возможностей позволила бы точнее различать модели с ослабленными отказами и инструменты, явно представленные как средства для атак.
Число меток — не число нарушителей
Показатель в 6 500 моделей лучше понимать как свидетельство масштаба явления на платформе, а не как список подтверждённых вредоносных разработок.1 Этот случай подчёркивает: модерация не может полагаться только на названия и теги. Нужно оценивать назначение модели, доказательства её возможностей и то, как правила применяются к технологиям двойного назначения.
Более прозрачные объяснения решений и чёткие, последовательно применяемые критерии помогли бы лучше проверять эту границу. Представленные данные подтверждают, что перед платформой стоит реальная задача модерации, но сами по себе не отвечают на вопрос, следует ли удалять каждую модель с ослабленными отказами.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Более 6 500 моделей с удалёнными ограничителями — и сложный выбор для Hugging Face»?
По данным Transformer, в июле на Hugging Face было размещено более 6 500 моделей с метками «abliterated», «uncensored» или «heretic».[1]
Какие ключевые моменты необходимо проверить в первую очередь?
По данным Transformer, в июле на Hugging Face было размещено более 6 500 моделей с метками «abliterated», «uncensored» или «heretic».[1] Удаление отказов не доказывает, что модель умеет успешно выполнять вредоносные задачи или создана для кибератак.
Что мне делать дальше на практике?
Hugging Face запрещает модели, предназначенные для нарушения работы систем, несанкционированного доступа или создания вредоносного кода; сложность — в том, как определить назначение конкретной модели.[1]
Источники
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face