AnswersPublished13 sources
6.500’den fazla model, yapay zekâ güvenliği tartışmasını büyütüyor
Transformer, temmuz ayında Hugging Face’te “abliterated”, “uncensored” veya “heretic” etiketli 6.500’den fazla model bulunduğunu bildirdi.[1] Güvenlik önlemlerinin azaltılması, tek başına bir modelin zararlı işleri başarıyla yapabildiğini kanıtlamıyor. “Offensive cyber” amacıyla tanıtılan bir modelin erişime kapatıl...
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Transformer, temmuz ayında Hugging Face’te “abliterated”, “uncensored” veya “heretic” etiketli 6.500’den fazla model bulunduğunu bildirdi.[1]
- Güvenlik önlemlerinin azaltılması, tek başına bir modelin zararlı işleri başarıyla yapabildiğini kanıtlamıyor.
- “Offensive cyber” amacıyla tanıtılan bir modelin erişime kapatılması, başka bir abliterated model listelenmeye devam ederken platformun kurallarını nasıl uyguladığı sorusunu öne çıkarıyor.[11][14]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer’ın haberine göre, temmuz ayında Hugging Face’te “abliterated”, “uncensored” veya “heretic” etiketleri taşıyan 6.500’den fazla model bulunuyordu.1 Bu sayı, güvenlik önlemleri azaltılmış modellerin platformdaki ölçeğini gösteriyor. Ancak etiket, her modelin kötü amaçlı olduğunu, aynı ölçüde yetenekli olduğunu ya da platform kurallarını ihlal ettiğini kanıtlamıyor. Asıl güçlük, bir modelin güvenlik bariyerlerini azaltmakla onu siber saldırı amacıyla tasarlamak arasındaki çizgiyi belirlemek.
6.500’den fazla model sayısı neyi gösteriyor?
Transformer, bu etiketleri modelin güvenlik filtrelerinin veya koruyucu önlemlerinin kaldırılmasıyla ilişkilendiriyor.1 Etiketler modelin nasıl tanıtıldığına dair ipucu sunabilir; fakat modelin gerçekte neler yapabildiğini ya da zararlı görevlerde ne kadar başarılı olduğunu tek başına ortaya koymaz.
Hugging Face’teki Audnai model sayfası, abliterated modeli yeniden eğitim yerine doğrudan ağırlıklar üzerinde yapılan bir düzenleme olarak tanımlıyor.11 Bu ayrım önemli: Bir modelin isteklere daha az ret vermesi, ona yeni bir yetenek kazandırıldığı anlamına gelmez. Ret davranışındaki değişiklik de belirli bir saldırıyı başarıyla gerçekleştirebildiğini tek başına göstermez.
Platformun kurallarındaki zor soru
Transformer’ın aktardığına göre Hugging Face’in içerik politikası; sistemleri bozmak, yetkisiz erişim sağlamak veya zararlı kod üretmek amacıyla tasarlanmış modelleri yasaklıyor.1 Bu kural, yalnızca bir modelin değiştirilip değiştirilmediğinden daha somut bir soruyu gündeme getiriyor: Bir modelin yasaklanmış bir amaç için tasarlandığını gösteren kanıt nedir?
Audnai’nin “offensive cyber” (saldırgan siber faaliyetler) etiketiyle listelenen modeli içerik politikası ihlali gerekçesiyle erişime kapatılmış görünüyor.14 Buna karşılık, Audnai’nin başka bir abliterated model sayfası da kaynaklardaki arama sonuçlarında yer alıyor.
11 Bu iki örnek, platformun sınırı nasıl çizdiğini merak etmeyi makul kılıyor; ancak modellerin yeteneklerinin, amaçlarının veya politika durumlarının aynı olduğunu kanıtlamıyor. Erişime kapatılan modelin sayfasındaki mevcut açıklama da kararın hangi somut gerekçeye dayandığını belirtmiyor.
14
Etiketler neden yeterli değil?
Bir depo adı veya geliştiricinin açıklaması modelin kullanım amacına dair işaret verebilir; ancak bunlar performans değerlendirmesi değildir. Benzer şekilde, bir modelin ret davranışının kaldırıldığı iddiası, istenen her zararlı işi yapabileceğini göstermez. Mevcut kaynaklar model sayfalarını ve açıklamalarını belgeliyor; etiketli modellerin tümü için tutarlı ve bağımsız bir yetenek değerlendirmesi sunmuyor.1
11
Bu fark, içerik denetimi açısından belirleyici. Kararlar kullanım amacına, kanıtlanmış yeteneklere veya her ikisine birden dayanıyorsa, kullanıcıların ve geliştiricilerin bu ölçütlerin nasıl uygulandığını bilmesi önem taşıyor. Erişim engeli kararlarına ilişkin daha açık açıklamalar, hangi kuralın ihlal edildiğini anlaşılır kılabilir. Tutarlı değerlendirmeler de yalnızca daha az ret veren bir modelle saldırı aracı olarak tanıtılan bir modeli birbirinden ayırmaya yardımcı olabilir.
Denetim açısından asıl mesele
Bildirilen 6.500’den fazla model sayısını, doğrulanmış kötü amaçlı modellerin sayısı olarak değil, platformdaki güvenlik önlemi azaltma etiketlerinin ölçeği olarak okumak daha doğru.1 Bu örnek, moderasyonun neden yalnızca etiketlere dayandırılamayacağını da gösteriyor: Platformların bir deponun ne amaçla sunulduğunu, bu değerlendirmeyi hangi kanıtların desteklediğini ve kuralların çift kullanımlı modellere nasıl uygulandığını incelemesi gerekiyor.
Kararların daha şeffaf biçimde açıklanması ve ölçütlerin tutarlı uygulanması, bu ayrımı değerlendirmeyi kolaylaştırabilir. Eldeki kanıtlar gerçek bir moderasyon sorusuna işaret ediyor; ancak erişilebilir tüm abliterated modellerin kaldırılması gerektiği sonucunu tek başına ortaya koymuyor.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "6.500’den fazla model, yapay zekâ güvenliği tartışmasını büyütüyor"?
Transformer, temmuz ayında Hugging Face’te “abliterated”, “uncensored” veya “heretic” etiketli 6.500’den fazla model bulunduğunu bildirdi.[1]
What are the key points to validate first?
Transformer, temmuz ayında Hugging Face’te “abliterated”, “uncensored” veya “heretic” etiketli 6.500’den fazla model bulunduğunu bildirdi.[1] Güvenlik önlemlerinin azaltılması, tek başına bir modelin zararlı işleri başarıyla yapabildiğini kanıtlamıyor.
What should I do next in practice?
“Offensive cyber” amacıyla tanıtılan bir modelin erişime kapatılması, başka bir abliterated model listelenmeye devam ederken platformun kurallarını nasıl uyguladığı sorusunu öne çıkarıyor.[11][14]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face