JawabanDipublikasikan13 sumber
Apa yang Diungkap 6.500 Model AI dengan Safeguard Dihapus?
Transformer melaporkan bahwa pada Juli, Hugging Face menampung lebih dari 6.500 model berlabel “abliterated”, “uncensored”, atau “heretic”. Tantangan moderasinya adalah membedakan model yang perilaku penolakannya diubah dari model yang dirancang untuk penyalahgunaan siber.
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Transformer melaporkan bahwa pada Juli, Hugging Face menampung lebih dari 6.500 model berlabel “abliterated”, “uncensored”, atau “heretic”.
- Tantangan moderasinya adalah membedakan model yang perilaku penolakannya diubah dari model yang dirancang untuk penyalahgunaan siber.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer melaporkan bahwa pada Juli, Hugging Face menampung lebih dari 6.500 model dengan label “abliterated”, “uncensored”, atau “heretic”.1 Angka ini memperlihatkan banyaknya model yang dipasarkan sebagai model dengan lebih sedikit penolakan terkait keselamatan. Namun, angka tersebut tidak membuktikan bahwa setiap model berlabel itu berbahaya, punya kemampuan yang sama, atau melanggar aturan. Tantangan yang lebih rumit adalah membedakan penghapusan safeguard dari perancangan model untuk penyalahgunaan siber.
Apa arti angka 6.500 model itu?
Laporan tersebut menyebut istilah-istilah itu sebagai label yang berkaitan dengan penghapusan filter keselamatan atau pagar pengaman model.1 Label dapat menjadi petunjuk tentang cara sebuah model dipresentasikan, tetapi tidak cukup untuk memastikan kemampuan model ataupun seberapa andal model menjalankan tugas berbahaya.
Dalam deskripsi modelnya, Audnai menyebut bahwa model abliterated mereka diubah langsung pada bobot model untuk menghapus perilaku menolak, bukan melalui pelatihan ulang.11 Ini membantu menjelaskan mengapa “menghapus safeguard” tidak sama dengan “menambahkan kemampuan baru”. Mengubah kecenderungan model untuk menjawab tidak dengan sendirinya membuktikan bahwa model mampu melakukan serangan tertentu.
Batas kebijakan Hugging Face yang sulit ditentukan
Menurut Transformer, kebijakan konten Hugging Face melarang model yang dirancang untuk mengganggu sistem, memperoleh akses tanpa izin, atau menghasilkan kode berbahaya.1 Standar ini memunculkan pertanyaan yang lebih spesifik daripada sekadar apakah suatu model telah dimodifikasi: bukti apa yang menunjukkan bahwa model tersebut memang dirancang untuk tujuan yang dilarang?
Repositori Audnai yang berlabel “for offensive cyber” tercatat dinonaktifkan karena pelanggaran kebijakan konten.14 Sementara itu, hasil pencarian yang tersedia juga menampilkan repositori model abliterated Audnai lainnya.
11 Perbedaan ini membuat batas penegakan aturan patut dicermati, tetapi tidak membuktikan bahwa kedua repositori memiliki kemampuan, maksud, atau status kebijakan yang sama. Cuplikan yang tersedia menyebut pelanggaran kebijakan pada repositori yang dinonaktifkan, tetapi tidak menjelaskan dasar spesifik keputusannya.
14
Mengapa label dan halaman repositori belum cukup?
Nama repositori atau deskripsi pengembang dapat memberi petunjuk tentang tujuan penggunaan, tetapi bukan evaluasi kinerja. Begitu pula, klaim bahwa perilaku penolakan model telah dihapus tidak membuktikan bahwa model itu mampu menjalankan semua tugas berbahaya yang diminta. Sumber yang tersedia mendokumentasikan halaman model beserta deskripsinya, tetapi tidak memberikan penilaian kemampuan yang konsisten dan independen untuk seluruh model berlabel tersebut.1
11
Perbedaan ini penting bagi moderasi. Jika penegakan aturan bergantung pada tujuan penggunaan, kemampuan yang terbukti, atau gabungan keduanya, pengguna dan pengembang perlu memahami bagaimana faktor-faktor itu dinilai. Penjelasan terbuka mengenai penghapusan konten dapat memperjelas aturan mana yang dilanggar. Evaluasi yang konsisten juga bisa membantu membedakan model yang lebih jarang menolak dari model yang diposisikan sebagai alat siber ofensif.
Tantangan tata kelolanya
Angka yang dilaporkan lebih tepat dibaca sebagai gambaran skala label penghapusan safeguard di platform, bukan sebagai jumlah model yang sudah dipastikan berbahaya.1 Kasus ini juga menunjukkan mengapa moderasi tidak bisa hanya mengandalkan label: platform perlu menilai tujuan repositori, bukti yang mendukung penilaian itu, serta penerapan aturan terhadap model yang dapat digunakan untuk berbagai tujuan.
Penjelasan yang lebih transparan tentang keputusan penegakan aturan dan kriteria yang lebih jelas serta konsisten akan memudahkan publik menilai batas tersebut. Bukti yang tersedia menunjukkan bahwa persoalan moderasi ini nyata, tetapi belum cukup untuk menyimpulkan bahwa semua model abliterated yang masih ada harus dihapus.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Apa yang Diungkap 6.500 Model AI dengan Safeguard Dihapus?"?
Transformer melaporkan bahwa pada Juli, Hugging Face menampung lebih dari 6.500 model berlabel “abliterated”, “uncensored”, atau “heretic”.
Apa poin penting yang harus divalidasi terlebih dahulu?
Transformer melaporkan bahwa pada Juli, Hugging Face menampung lebih dari 6.500 model berlabel “abliterated”, “uncensored”, atau “heretic”. Tantangan moderasinya adalah membedakan model yang perilaku penolakannya diubah dari model yang dirancang untuk penyalahgunaan siber.
Sumber
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face