उत्तरप्रकाशित37 मिनट पहलेLast edited 34 मिनट पहले13 स्रोत

6,500 से ज़्यादा ‘गार्डरेल-हटाए’ मॉडल और हगिंग फ़ेस की मॉडरेशन चुनौती

Transformer ने रिपोर्ट किया कि जुलाई में हगिंग फ़ेस पर 6,500 से अधिक मॉडल ‘abliterated’, ‘uncensored’ या ‘heretic’ टैग के साथ होस्ट किए गए थे।[1] मॉडरेशन की अहम चुनौती यह पहचानना है कि किस मॉडल में सिर्फ़ जवाब देने से इनकार करने की प्रवृत्ति घटाई गई है और किसे साइबर दुरुपयोग के लिए बनाया गया है। एक ‘offensive cyber’...

प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

Transformer ने रिपोर्ट किया कि जुलाई में हगिंग फ़ेस पर 6,500 से अधिक मॉडल ‘abliterated’, ‘uncensored’ या ‘heretic’ टैग के साथ होस्ट किए गए थे।[1]
मॉडरेशन की अहम चुनौती यह पहचानना है कि किस मॉडल में सिर्फ़ जवाब देने से इनकार करने की प्रवृत्ति घटाई गई है और किसे साइबर दुरुपयोग के लिए बनाया गया है। एक ‘offensive cyber’ मॉडल को बंद किया गया, जबकि एक सामान्य abliter...

Editorial illustration about removing AI safeguards and moderating open-model repositories — What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July rThe challenge is distinguishing reduced refusal behavior from models designed for cyber abuse.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
openai.com

Transformer की रिपोर्ट के मुताबिक, जुलाई में हगिंग फ़ेस पर 6,500 से अधिक मॉडल ‘abliterated’, ‘uncensored’ या ‘heretic’ टैग के साथ मौजूद थे।1 ये टैग ऐसे मॉडल की ओर इशारा करते हैं जिनमें सुरक्षा फ़िल्टर या गार्डरेल हटाए गए हों। लेकिन इस संख्या का यह मतलब नहीं कि हर मॉडल दुर्भावनापूर्ण है, सभी मॉडल एक-जैसे सक्षम हैं या वे नियमों का उल्लंघन करते हैं। असली सवाल यह है कि प्लेटफ़ॉर्म सुरक्षा-इंकार घटाने वाले मॉडल और साइबर दुरुपयोग के लिए बनाए गए मॉडल के बीच फ़र्क कैसे करता है।

6,500 मॉडल का आँकड़ा क्या बताता है?

रिपोर्ट में ‘abliterated’, ‘uncensored’ और ‘heretic’ को सुरक्षा फ़िल्टर या गार्डरेल हटाने से जुड़े लेबल बताया गया है।1 ये इस बात का संकेत देते हैं कि मॉडल को किस रूप में पेश किया जा रहा है, लेकिन सिर्फ़ किसी टैग से यह साबित नहीं होता कि मॉडल क्या कर सकता है या नुकसानदेह काम कितनी भरोसेमंदी से कर सकता है।

Audnai के एक Hugging Face पेज पर उसके abliterated मॉडल को सीधे वेट में बदलाव करके जवाब देने से इनकार करने का व्यवहार हटाने वाला मॉडल बताया गया है—न कि दोबारा ट्रेन किया गया मॉडल।11 यह विवरण एक अहम फ़र्क समझने में मदद करता है: सुरक्षा-इंकार हटाना और नई क्षमता जोड़ना एक ही बात नहीं। किसी मॉडल की जवाब देने की इच्छा बदलने से अपने-आप यह साबित नहीं होता कि वह कोई खास हमला कर सकता है।

हगिंग फ़ेस की नीति की कठिन कसौटी

Transformer के मुताबिक, हगिंग फ़ेस की कंटेंट नीति उन मॉडलों को प्रतिबंधित करती है जिन्हें सिस्टम बाधित करने, बिना अनुमति पहुँच हासिल करने या दुर्भावनापूर्ण कोड बनाने के लिए डिज़ाइन किया गया हो।1 इससे सवाल सिर्फ़ यह नहीं रह जाता कि मॉडल में बदलाव किया गया है या नहीं; सवाल यह भी है कि प्रतिबंधित मकसद के लिए डिज़ाइन किए जाने का क्या प्रमाण है।

Audnai के ‘offensive cyber’ लेबल वाले मॉडल का रिपॉज़िटरी पेज बताता है कि कंटेंट नीति के उल्लंघन के कारण उसकी पहुँच बंद कर दी गई।14 दूसरी ओर, Audnai के एक सामान्य abliterated मॉडल की सूची दिए गए खोज-नतीजों में मौजूद है।11 यह अंतर नीति लागू करने की सीमा पर सवाल उठाता है, लेकिन इससे यह साबित नहीं होता कि दोनों रिपॉज़िटरी की क्षमता, मंशा या नीति-स्थिति एक जैसी थी। उपलब्ध अंश में बंद किए गए मॉडल के फ़ैसले का विशिष्ट आधार नहीं बताया गया है।14

सिर्फ़ टैग और मॉडल-पेज क्यों काफ़ी नहीं

रिपॉज़िटरी का नाम या डेवलपर का विवरण मॉडल के बताए गए उपयोग का संकेत दे सकता है, लेकिन वह उसकी क्षमता का स्वतंत्र मूल्यांकन नहीं है। इसी तरह, यह दावा कि मॉडल का इनकार करने वाला व्यवहार हटा दिया गया है, यह साबित नहीं करता कि वह हर नुकसानदेह काम सफलतापूर्वक कर सकता है। उपलब्ध स्रोत मॉडल-पेज और उनके विवरण दर्ज करते हैं; टैग किए गए सभी मॉडलों की क्षमताओं का एकसमान, स्वतंत्र आकलन नहीं देते।1 11

मॉडरेशन के लिए यह फ़र्क अहम है। अगर कार्रवाई का आधार बताए गए इस्तेमाल, साबित की गई क्षमताएँ या दोनों हैं, तो यह स्पष्ट होना चाहिए कि इन बातों का मूल्यांकन कैसे किया जाता है। हटाए गए मॉडलों पर सार्वजनिक और स्पष्ट कारण बताने से यह समझने में मदद मिलेगी कि नीति की कौन-सी सीमा पार हुई। वहीं, एकसमान परीक्षण से कम इनकार करने वाले मॉडल और खुद को साइबर हमलों के औज़ार के रूप में पेश करने वाले मॉडल में फ़र्क करना आसान हो सकता है।

प्लेटफ़ॉर्म के सामने शासन की चुनौती

रिपोर्ट की संख्या को प्लेटफ़ॉर्म पर सुरक्षा-इंकार हटाने से जुड़े लेबल के पैमाने के रूप में पढ़ना बेहतर है—पुष्ट दुर्भावनापूर्ण मॉडलों की गिनती के रूप में नहीं।1 मामला यह भी दिखाता है कि मॉडरेशन केवल टैग देखकर नहीं हो सकता: प्लेटफ़ॉर्म को यह परखना पड़ता है कि रिपॉज़िटरी किस काम के लिए है, उस आकलन के पीछे क्या प्रमाण हैं और दोहरे इस्तेमाल वाले मॉडलों पर नियम कैसे लागू होते हैं।

कार्रवाई के अधिक पारदर्शी कारण और साफ़, लगातार लागू होने वाले मानदंड इस फ़र्क को समझना आसान बना सकते हैं। उपलब्ध प्रमाण एक वास्तविक मॉडरेशन चुनौती दिखाते हैं; लेकिन अपने-आप यह तय नहीं करते कि हर बचे हुए abliterated मॉडल को हटा देना चाहिए।

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं