AnswersPublished13 sources
איך מבחינים בין פחות סירובים לבין כלי שנועד לתקיפות סייבר?
Transformer דיווח כי ביולי היו ב־Hugging Face יותר מ־6,500 מודלים שסומנו בתוויות כמו ״abliterated״, ״uncensored״ או ״heretic״ — תוויות המזוהות עם הסרת מסנני בטיחות.[1] האתגר הוא להבחין בין מודל שמסרב פחות לבין מודל שנועד לשימוש זדוני: מאגר אחד של Audnai הושבת בשל הפרת מדיניות, בעוד רישום אחר של מודל שעבר עריכה דומה...
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- Transformer דיווח כי ביולי היו ב־Hugging Face יותר מ־6,500 מודלים שסומנו בתוויות כמו ״abliterated״, ״uncensored״ או ״heretic״ — תוויות המזוהות עם הסרת מסנני בטיחות.[1]
- האתגר הוא להבחין בין מודל שמסרב פחות לבין מודל שנועד לשימוש זדוני: מאגר אחד של Audnai הושבת בשל הפרת מדיניות, בעוד רישום אחר של מודל שעבר עריכה דומה הופיע בתוצאות החיפוש.[14][11]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
דיווח של Transformer מצא כי ביולי היו ב־Hugging Face יותר מ־6,500 מודלים שתויגו כ־״abliterated״, ״uncensored״ או ״heretic״ — מונחים המשמשים לתיאור מודלים שמסנני הבטיחות או מנגנוני הסירוב שלהם הוסרו או צומצמו.1 המספר ממחיש את היקף התופעה, אבל אינו מעיד שכל המודלים האלה זדוניים, בעלי יכולות זהות או מפרים מדיניות.
השאלה הקשה יותר היא איך מבחינים בין שינוי שמפחית את נטיית המודל לסרב לבין מודל שנועד לסייע בתקיפות סייבר.
פחות סירובים אינם בהכרח יכולת חדשה
התוויות ״לא מצונזר״ ו־״abliterated״ עשויות לרמוז על אופן הצגת המודל, אבל תווית לבדה אינה מוכיחה מה המודל מסוגל לעשות או באיזו מידה הוא מצליח במשימות מזיקות.
בעמוד של Audnai ב־Hugging Face מתואר המודל שעבר abliterated כעריכה ישירה של משקולות המודל, שנועדה להסיר את התנהגות הסירוב — ולא כתהליך של אימון מחדש.11 ההבחנה חשובה: שינוי בנכונות של מודל לענות אינו הוכחה לכך שנוספה לו יכולת לבצע מתקפה מסוימת.
איפה עובר קו המדיניות?
לפי Transformer, מדיניות התוכן של Hugging Face אוסרת מודלים שנועדו לשבש מערכות, להשיג גישה ללא הרשאה או ליצור קוד זדוני.1 לכן עצם העובדה שמודל שונה אינה מספיקה כדי לקבוע שהוא חוצה את הקו; צריך לשאול מה מעיד על מטרתו ועל השימוש שלשמו נוצר.
מאגר של Audnai, שכותרתו כללה את הביטוי ״for offensive cyber״, הושבת והוצג ככזה שמפר את מדיניות התוכן.14 במקביל, בתוצאות החיפוש שסופקו הופיע גם רישום של מודל abliterated אחר מאותו מפתח.
11 הניגוד הזה מעלה שאלה על אופן האכיפה, אך אינו מוכיח שלשני המאגרים היו אותן יכולות, אותה כוונה או אותו מעמד מבחינת המדיניות. ההודעה על ההשבתה מציינת שהייתה הפרה, אך המידע הזמין אינו מפרט מה בדיוק עמד בבסיס ההחלטה.
14
למה תוויות אינן תחליף לבדיקה
שם של מאגר או תיאור שכתב המפתח יכולים לרמוז על השימוש המיועד, אך הם אינם הערכת ביצועים. באותה מידה, הטענה שמנגנוני הסירוב הוסרו אינה מוכיחה שהמודל יצליח לבצע כל פעולה מזיקה שעליה יתבקש. המקורות הזמינים מתעדים רישומי מודלים ואת תיאורי המפתחים שלהם, אך אינם מספקים הערכה עצמאית ועקבית של יכולות כלל המודלים שסומנו בתוויות האלה.1
11
לכן, אם האכיפה נשענת על כוונת המפתח, על יכולות שהודגמו או על שילוב של השניים, חשוב להבין כיצד הגורמים האלה נבחנים. הסברים פומביים על הסרת מודלים יכולים להבהיר איזה כלל הופר; הערכות עקביות עשויות לסייע להבדיל בין מודל שמסרב פחות לבין כלי שמוצג במפורש לשימוש סייבר התקפי.
המספר הוא תחילתה של שאלה, לא פסק דין
את הנתון של יותר מ־6,500 מודלים נכון לקרוא כמדד להיקף התוויות הקשורות להסרת מנגנוני בטיחות — לא כמניין של מודלים זדוניים שאומתו.1 המקרה ממחיש מדוע פיקוח אינו יכול להישען על תווית בלבד: פלטפורמות נדרשות לבחון לשם מה נועד המאגר, אילו ראיות תומכות בהערכה, ואיך הכללים חלים על מודלים שיכולים לשמש למטרות לגיטימיות וגם מזיקות.
קריטריונים ברורים ועקביים יותר, לצד הסברים מפורטים יותר על החלטות אכיפה, יאפשרו לבחון את הגבול הזה בצורה טובה יותר. המידע הזמין מצביע על אתגר ממשי בפיקוח — אך אינו קובע שכל מודל שעבר abliterated צריך להיות מוסר.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "איך מבחינים בין פחות סירובים לבין כלי שנועד לתקיפות סייבר?"?
Transformer דיווח כי ביולי היו ב־Hugging Face יותר מ־6,500 מודלים שסומנו בתוויות כמו ״abliterated״, ״uncensored״ או ״heretic״ — תוויות המזוהות עם הסרת מסנני בטיחות.[1]
What are the key points to validate first?
Transformer דיווח כי ביולי היו ב־Hugging Face יותר מ־6,500 מודלים שסומנו בתוויות כמו ״abliterated״, ״uncensored״ או ״heretic״ — תוויות המזוהות עם הסרת מסנני בטיחות.[1] האתגר הוא להבחין בין מודל שמסרב פחות לבין מודל שנועד לשימוש זדוני: מאגר אחד של Audnai הושבת בשל הפרת מדיניות, בעוד רישום אחר של מודל שעבר עריכה דומה הופיע בתוצאות החיפוש.[14][11]
Sources
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face