AnswersPublished13 sources
Tysiące modeli z usuniętymi odmowami. Hugging Face stoi przed trudnym wyborem
Według serwisu Transformer w lipcu na Hugging Face znajdowało się ponad 6,5 tys. Usunięcie skłonności do odmowy nie jest równoznaczne z udowodnieniem, że model potrafi skutecznie wykonać szkodliwe zadanie.
Opublikowane przezEdytowane za pomocą GPT-6 LunaObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Według serwisu Transformer w lipcu na Hugging Face znajdowało się ponad 6,5 tys.
- Usunięcie skłonności do odmowy nie jest równoznaczne z udowodnieniem, że model potrafi skutecznie wykonać szkodliwe zadanie.
- Platforma wyłączyła repozytorium modelu Audnai promowanego jako narzędzie do ofensywnych działań cybernetycznych, podczas gdy inna jego wersja pozostawała dostępna.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Ponad 6,5 tys. modeli oznaczonych jako „abliterated”, „uncensored” lub „heretic” znajdowało się w lipcu na Hugging Face — wynika z ustaleń serwisu Transformer.1 Etykiety te sugerują, że ograniczono w nich mechanizmy bezpieczeństwa lub skłonność do odmawiania odpowiedzi. Nie oznaczają jednak, że każdy z tych modeli jest złośliwy, równie zaawansowany ani zdolny do skutecznego przeprowadzenia cyberataku.
Kluczowe pytanie brzmi więc nie tylko: czy zabezpieczenia zostały osłabione? Platforma musi też rozstrzygnąć, kiedy zmodyfikowany model jest już narzędziem zaprojektowanym do nadużyć — i na jakiej podstawie podejmuje taką decyzję.
Mniej odmów nie znaczy automatycznie więcej możliwości
Określenia „abliterated”, „uncensored” i „heretic” są wykorzystywane przy modelach, w których usunięto lub ograniczono zabezpieczenia.1 To sygnał o sposobie ich prezentowania, ale sama nazwa nie jest niezależnym testem ich możliwości.
W opisie modelu Audnai na Hugging Face jego twórca przedstawia modyfikację jako bezpośrednią zmianę wag modelu, która ma usuwać zachowanie polegające na odmawianiu odpowiedzi — bez ponownego trenowania.11 Rozróżnienie jest istotne: zmiana tego, na co model odpowiada, nie dowodzi sama w sobie, że potrafi skutecznie wykonać konkretne szkodliwe zadanie.
Gdzie przebiega granica regulaminu?
Jak podaje Transformer, zasady Hugging Face zakazują modeli zaprojektowanych do zakłócania działania systemów, uzyskiwania nieuprawnionego dostępu lub tworzenia złośliwego kodu.1 Nie rozstrzyga to jednak, jak platforma ustala, że dany model rzeczywiście został stworzony do takiego celu.
Repozytorium Audnai opisane jako przeznaczone do „offensive cyber” zostało wyłączone z powodu naruszenia zasad dotyczących treści. Inne repozytorium tego autora, z modelem określonym jako „abliterated”, było natomiast widoczne w dostarczonych wynikach wyszukiwania.14
11 Ten kontrast zwraca uwagę na granicę moderacji, ale nie dowodzi, że oba modele miały identyczne możliwości, przeznaczenie czy status regulaminowy. Dostępny komunikat o wyłączeniu wskazuje na naruszenie zasad, lecz nie wyjaśnia szczegółowo podstaw decyzji.
14
Etykieta to nie ocena możliwości
Nazwa repozytorium i opis autora mogą sugerować, do czego model ma służyć. Nie zastępują jednak oceny jego działania. Podobnie deklaracja, że model rzadziej odmawia, nie potwierdza, że będzie skuteczny w każdym szkodliwym zadaniu.
Dostępne źródła opisują konkretne repozytoria i sposób ich prezentowania, ale nie dostarczają jednolitej, niezależnej oceny możliwości wszystkich modeli oznaczonych tymi etykietami.1
11 Dlatego sama liczba modeli nie mówi, ile z nich rzeczywiście nadaje się do przeprowadzania cyberataków.
To ważne dla moderacji: jeśli platforma bierze pod uwagę deklarowane przeznaczenie, wykazane możliwości albo oba te czynniki, użytkownicy i twórcy powinni móc zrozumieć, jak są one oceniane. Jasne uzasadnienia decyzji o usunięciu repozytoriów oraz spójne kryteria ułatwiłyby odróżnienie modelu z ograniczoną liczbą odmów od narzędzia jawnie promowanego do ofensywnych działań.
Liczba pokazuje skalę zjawiska, nie liczbę potwierdzonych zagrożeń
Dane o ponad 6,5 tys. modeli najlepiej traktować jako miarę skali etykiet związanych z ograniczaniem zabezpieczeń na platformie — nie jako liczbę potwierdzonych złośliwych modeli.1 Sprawa pokazuje, dlaczego moderacja nie może opierać się wyłącznie na nazwach: trzeba ocenić przeznaczenie repozytorium, dostępne dowody i zastosowanie zasad wobec modeli, które mogą mieć zarówno dopuszczalne, jak i szkodliwe zastosowania.
Bardziej przejrzyste uzasadnienia decyzji i jasno określone, konsekwentnie stosowane kryteria pomogłyby tę granicę kontrolować. Dostępne informacje potwierdzają istnienie poważnego wyzwania moderacyjnego, ale nie przesądzają, że każde repozytorium z modelem „abliterated” powinno zostać usunięte.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tysiące modeli z usuniętymi odmowami. Hugging Face stoi przed trudnym wyborem"?
Według serwisu Transformer w lipcu na Hugging Face znajdowało się ponad 6,5 tys.
What are the key points to validate first?
Według serwisu Transformer w lipcu na Hugging Face znajdowało się ponad 6,5 tys. Usunięcie skłonności do odmowy nie jest równoznaczne z udowodnieniem, że model potrafi skutecznie wykonać szkodliwe zadanie.
What should I do next in practice?
Platforma wyłączyła repozytorium modelu Audnai promowanego jako narzędzie do ofensywnych działań cybernetycznych, podczas gdy inna jego wersja pozostawała dostępna.
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face