AnswersPublished13 sources
6,500 Model “Tanpa Sekatan” di Hugging Face: Cabaran Sebenar Moderasi AI
Transformer melaporkan bahawa lebih 6,500 model di Hugging Face dilabel “abliterated”, “uncensored” atau “heretic” pada bulan Julai.[1] Cabaran moderasi ialah membezakan model yang kurang menolak permintaan daripada model yang direka untuk penyalahgunaan siber; satu repositori berlabel “offensive cyber” telah dinyah...
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Transformer melaporkan bahawa lebih 6,500 model di Hugging Face dilabel “abliterated”, “uncensored” atau “heretic” pada bulan Julai.[1]
- Cabaran moderasi ialah membezakan model yang kurang menolak permintaan daripada model yang direka untuk penyalahgunaan siber; satu repositori berlabel “offensive cyber” telah dinyahdayakan, manakala satu penyenaraian...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer melaporkan bahawa pada bulan Julai, Hugging Face menempatkan lebih 6,500 model dengan label “abliterated”, “uncensored” atau “heretic”.1 Angka ini menunjukkan skala model yang dipasarkan sebagai kurang cenderung menolak permintaan atas faktor keselamatan. Namun, ia tidak membuktikan bahawa setiap model berlabel itu berniat jahat, mempunyai keupayaan yang sama atau melanggar peraturan platform.
Persoalan yang lebih sukar ialah bagaimana platform membezakan model yang pengadang keselamatannya telah dikurangkan daripada model yang direka khusus untuk penyalahgunaan siber.
Apa yang ditunjukkan oleh angka 6,500 itu?
Menurut laporan tersebut, istilah berkenaan dikaitkan dengan pengurangan atau pembuangan penapis keselamatan dan pengadang model.1 Label ini boleh memberi petunjuk tentang cara sesebuah model dipersembahkan, tetapi label semata-mata tidak membuktikan apa yang mampu dilakukan oleh model itu atau sejauh mana ia boleh melaksanakan tugas berbahaya.
Penyenaraian model Audnai di Hugging Face menyifatkan model abliteratednya sebagai suntingan terus pada pemberat model untuk membuang tingkah laku penolakan, bukannya proses latihan semula.11 Ini membantu menjelaskan mengapa “membuang pengadang” tidak sama dengan “menambah keupayaan baharu”: perubahan pada kesediaan model untuk menjawab tidak dengan sendirinya membuktikan bahawa model itu boleh melaksanakan serangan tertentu.
Garis dasar yang sukar dikuatkuasakan
Transformer melaporkan bahawa dasar kandungan Hugging Face melarang model yang direka untuk mengganggu sistem, mendapatkan akses tanpa kebenaran atau menjana kod berniat jahat.1 Ini menimbulkan persoalan yang lebih khusus daripada sekadar sama ada model telah diubah suai: apakah bukti yang menunjukkan model itu memang direka untuk tujuan yang dilarang?
Repositori Audnai yang dilabel “for offensive cyber” dipaparkan sebagai dinyahdayakan kerana melanggar Dasar Kandungan platform.14 Sebaliknya, satu penyenaraian model abliterated Audnai yang biasa turut muncul dalam hasil carian yang dibekalkan.
11 Perbezaan ini menjadikan sempadan penguatkuasaan wajar diteliti, tetapi tidak membuktikan bahawa kedua-dua repositori mempunyai keupayaan, niat atau status dasar yang sama. Petikan yang tersedia juga tidak menjelaskan alasan khusus di sebalik keputusan menyahdayakan repositori tersebut.
14
Mengapa label dan penyenaraian sahaja tidak memadai
Nama repositori atau keterangan pembangun boleh memberi gambaran tentang kegunaan yang dimaksudkan, tetapi bukan penilaian prestasi. Begitu juga, dakwaan bahawa penolakan model telah dibuang tidak membuktikan model itu mampu melaksanakan setiap tugas berbahaya yang diminta. Sumber yang tersedia mendokumentasikan penyenaraian dan keterangan model, tetapi tidak menyediakan penilaian keupayaan yang konsisten dan bebas merentas semua model berlabel tersebut.1
11
Perbezaan ini penting untuk moderasi. Jika penguatkuasaan bergantung pada tujuan penggunaan, keupayaan yang telah dibuktikan, atau kedua-duanya, pengguna dan pembangun perlu memahami cara faktor itu dinilai. Penjelasan awam tentang tindakan menurunkan kandungan boleh menunjukkan dasar mana yang dilanggar. Penilaian yang konsisten pula boleh membantu membezakan model yang sekadar kurang menolak permintaan daripada model yang dipasarkan sebagai alat untuk serangan siber.
Cabaran tadbir urus
Angka yang dilaporkan itu paling tepat dibaca sebagai ukuran skala label berkaitan pengurangan ciri keselamatan di platform—bukan bilangan model yang telah disahkan berniat jahat.1 Kes ini juga menunjukkan mengapa moderasi tidak boleh bergantung pada label semata-mata: platform perlu menilai tujuan repositori, bukti yang menyokong penilaian itu dan cara peraturannya terpakai kepada model yang boleh digunakan untuk pelbagai tujuan.
Penjelasan yang lebih telus tentang keputusan penguatkuasaan serta kriteria yang lebih jelas dan digunakan secara konsisten akan memudahkan orang ramai menilai garis pemisah tersebut. Bukti yang ada menunjukkan wujudnya persoalan moderasi yang nyata, tetapi tidak dengan sendirinya menentukan sama ada setiap model abliterated yang masih tersedia patut dialih keluar.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "6,500 Model “Tanpa Sekatan” di Hugging Face: Cabaran Sebenar Moderasi AI"?
Transformer melaporkan bahawa lebih 6,500 model di Hugging Face dilabel “abliterated”, “uncensored” atau “heretic” pada bulan Julai.[1]
What are the key points to validate first?
Transformer melaporkan bahawa lebih 6,500 model di Hugging Face dilabel “abliterated”, “uncensored” atau “heretic” pada bulan Julai.[1] Cabaran moderasi ialah membezakan model yang kurang menolak permintaan daripada model yang direka untuk penyalahgunaan siber; satu repositori berlabel “offensive cyber” telah dinyahdayakan, manakala satu penyenaraian...
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face