คำตอบเผยแพร่แล้ว13 แหล่งที่มา
โมเดล AI ที่ถอดระบบป้องกันกว่า 6,500 รายการ ชี้โจทย์ยากของการกลั่นกรอง
Transformer รายงานว่าในเดือนกรกฎาคม Hugging Face มีโมเดลกว่า 6,500 รายการติดป้าย “abliterated”, “uncensored” หรือ “heretic” ซึ่งสื่อถึงการลดหรือถอดระบบป้องกันของโมเดล [1] การลดพฤติกรรมปฏิเสธคำขอไม่ได้พิสูจน์ด้วยตัวมันเองว่าโมเดลมีความสามารถทำงานอันตรายได้สำเร็จ หรือถูกสร้างขึ้นเพื่อใช้โจมตี กรณีโมเดล Audnai ที่ถูกปิ...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Transformer รายงานว่าในเดือนกรกฎาคม Hugging Face มีโมเดลกว่า 6,500 รายการติดป้าย “abliterated”, “uncensored” หรือ “heretic” ซึ่งสื่อถึงการลดหรือถอดระบบป้องกันของโมเดล [1]
- การลดพฤติกรรมปฏิเสธคำขอไม่ได้พิสูจน์ด้วยตัวมันเองว่าโมเดลมีความสามารถทำงานอันตรายได้สำเร็จ หรือถูกสร้างขึ้นเพื่อใช้โจมตี
- กรณีโมเดล Audnai ที่ถูกปิดเพราะละเมิดนโยบาย และรายการโมเดลอีกตัวที่ยังปรากฏอยู่ ชี้ให้เห็นคำถามเรื่องเกณฑ์การบังคับใช้ แต่ข้อมูลที่มีไม่ได้อธิบายเหตุผลเฉพาะของการตัดสินใจ [11][14]
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
รายงานของ Transformer ระบุว่า ในเดือนกรกฎาคม Hugging Face มีโมเดลมากกว่า 6,500 รายการที่ใช้ป้าย “abliterated”, “uncensored” หรือ “heretic” ซึ่งเป็นคำที่สื่อว่ามีการลดหรือถอดระบบป้องกันของโมเดล 1 ตัวเลขนี้ชี้ให้เห็นว่ามีโมเดลลักษณะดังกล่าวอยู่มากเพียงใด แต่ไม่ได้ยืนยันว่าโมเดลทุกรายการเป็นอันตราย มีความสามารถเท่ากัน หรือเข้าข่ายต้องห้ามทั้งหมด
โจทย์ที่ยากกว่าคือ แพลตฟอร์มจะแยกอย่างไรระหว่างโมเดลที่ปฏิเสธคำขอน้อยลง กับโมเดลที่ออกแบบมาเพื่อใช้โจมตีทางไซเบอร์
ตัวเลข 6,500 บอกอะไร—and ไม่ได้บอกอะไร
รายงานอธิบายว่าป้ายเหล่านี้เกี่ยวข้องกับการถอดตัวกรองความปลอดภัยหรือแนวป้องกันของโมเดล 1 จึงเป็นสัญญาณว่าเจ้าของนำเสนอโมเดลอย่างไร แต่ป้ายชื่อเพียงอย่างเดียวไม่สามารถยืนยันได้ว่าโมเดลทำอะไรได้บ้าง หรือทำงานที่เป็นอันตรายได้อย่างมีประสิทธิภาพเพียงใด
หน้าโมเดลของ Audnai ระบุว่าโมเดล abliterated ของตนผ่านการแก้ไขน้ำหนักโดยตรงเพื่อเอาพฤติกรรมปฏิเสธออก ไม่ใช่การฝึกใหม่หรือปรับจูนด้วยข้อมูลเพิ่มเติม 11 คำอธิบายนี้ช่วยให้เห็นว่า “ลดการปฏิเสธ” กับ “เพิ่มความสามารถใหม่” ไม่ใช่เรื่องเดียวกัน การเปลี่ยนให้โมเดลเต็มใจตอบมากขึ้นไม่ได้พิสูจน์โดยตัวมันเองว่าโมเดลสามารถโจมตีรูปแบบใดรูปแบบหนึ่งได้สำเร็จ
เส้นแบ่งที่ท้าทายการบังคับใช้นโยบาย
Transformer รายงานว่านโยบายเนื้อหาของ Hugging Face ห้ามโมเดลที่ออกแบบมาเพื่อขัดขวางระบบ เข้าถึงระบบโดยไม่ได้รับอนุญาต หรือสร้างโค้ดที่เป็นอันตราย 1 หลักเกณฑ์นี้ทำให้เกิดคำถามที่เฉพาะเจาะจงกว่าการดูว่าโมเดลถูกดัดแปลงหรือไม่ นั่นคือมีหลักฐานอะไรที่แสดงว่าโมเดลถูกสร้างขึ้นเพื่อวัตถุประสงค์ต้องห้าม
หน้าคลังโมเดล Audnai ที่ติดป้ายว่า “for offensive cyber” แสดงสถานะถูกปิดใช้งานเนื่องจากละเมิดนโยบายเนื้อหา 14 ขณะที่ผลการค้นหาที่ให้มามีหน้ารายการโมเดล abliterated อีกตัวของ Audnai อยู่ด้วย
11 ความแตกต่างนี้ทำให้ควรพิจารณาว่าแพลตฟอร์มใช้เส้นแบ่งแบบใด แต่ไม่ได้พิสูจน์ว่าโมเดลทั้งสองมีความสามารถ เจตนา หรือสถานะตามนโยบายเหมือนกัน
หน้าที่ถูกปิดระบุเพียงว่าละเมิดนโยบายเนื้อหา โดยข้อมูลที่มีไม่ได้แจกแจงเหตุผลเฉพาะที่นำไปสู่การตัดสินใจ 14
ทำไมชื่อโมเดลและคำอธิบายจึงยังไม่พอ
ชื่อคลังโมเดลหรือคำอธิบายจากผู้พัฒนาอาจบ่งบอกว่านำเสนอโมเดลเพื่อใช้ทำอะไร แต่ไม่ใช่ผลการประเมินประสิทธิภาพ เช่นเดียวกัน การอ้างว่าถอดพฤติกรรมปฏิเสธแล้วก็ไม่ได้ยืนยันว่าโมเดลทำงานอันตรายทุกอย่างที่มีคนร้องขอได้สำเร็จ
แหล่งข้อมูลที่มีบันทึกหน้ารายการโมเดลและคำอธิบายของผู้พัฒนา แต่ไม่ได้ให้ผลประเมินความสามารถที่เป็นอิสระและใช้เกณฑ์เดียวกันกับโมเดลทั้งหมดที่ติดป้ายเหล่านี้ 1
11
ความแตกต่างนี้สำคัญต่อการกลั่นกรอง หากการบังคับใช้นโยบายขึ้นอยู่กับเจตนา ความสามารถที่แสดงให้เห็น หรือทั้งสองอย่าง ผู้ใช้และผู้พัฒนาก็ควรรู้ว่าแพลตฟอร์มประเมินปัจจัยเหล่านั้นอย่างไร คำชี้แจงการนำโมเดลออกที่เปิดเผยมากขึ้นอาจช่วยให้เห็นว่าเนื้อหาละเมิดข้อใด ส่วนการประเมินที่ใช้เกณฑ์สม่ำเสมอจะช่วยแยกโมเดลที่เพียงลดการปฏิเสธ ออกจากโมเดลที่นำเสนอเป็นเครื่องมือโจมตีทางไซเบอร์ได้ชัดขึ้น
โจทย์ด้านธรรมาภิบาลของแพลตฟอร์ม
ควรมองตัวเลขที่รายงานว่าเป็นขนาดของกลุ่มโมเดลที่ติดป้ายสื่อถึงการถอดระบบป้องกัน ไม่ใช่จำนวนโมเดลที่ได้รับการยืนยันว่าเป็นอันตราย 1 กรณีนี้ยังชี้ว่าการกลั่นกรองด้วยป้ายชื่ออย่างเดียวไม่เพียงพอ แพลตฟอร์มต้องพิจารณาว่าคลังโมเดลมีไว้เพื่ออะไร มีหลักฐานใดรองรับการประเมิน และกฎควรใช้กับโมเดลที่มีประโยชน์ได้ทั้งสองด้านอย่างไร
คำอธิบายการตัดสินใจที่โปร่งใสมากขึ้นและเกณฑ์ที่ชัดเจนและใช้สม่ำเสมอ จะช่วยให้สาธารณชนตรวจสอบเส้นแบ่งนี้ได้ดีขึ้น หลักฐานที่มีแสดงว่าการกลั่นกรองเป็นโจทย์จริง แต่ยังไม่เพียงพอที่จะสรุปว่าโมเดล abliterated ทุกตัวที่ยังอยู่บนแพลตฟอร์มควรถูกนำออก
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "โมเดล AI ที่ถอดระบบป้องกันกว่า 6,500 รายการ ชี้โจทย์ยากของการกลั่นกรอง" คืออะไร
Transformer รายงานว่าในเดือนกรกฎาคม Hugging Face มีโมเดลกว่า 6,500 รายการติดป้าย “abliterated”, “uncensored” หรือ “heretic” ซึ่งสื่อถึงการลดหรือถอดระบบป้องกันของโมเดล [1]
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Transformer รายงานว่าในเดือนกรกฎาคม Hugging Face มีโมเดลกว่า 6,500 รายการติดป้าย “abliterated”, “uncensored” หรือ “heretic” ซึ่งสื่อถึงการลดหรือถอดระบบป้องกันของโมเดล [1] การลดพฤติกรรมปฏิเสธคำขอไม่ได้พิสูจน์ด้วยตัวมันเองว่าโมเดลมีความสามารถทำงานอันตรายได้สำเร็จ หรือถูกสร้างขึ้นเพื่อใช้โจมตี
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
กรณีโมเดล Audnai ที่ถูกปิดเพราะละเมิดนโยบาย และรายการโมเดลอีกตัวที่ยังปรากฏอยู่ ชี้ให้เห็นคำถามเรื่องเกณฑ์การบังคับใช้ แต่ข้อมูลที่มีไม่ได้อธิบายเหตุผลเฉพาะของการตัดสินใจ [11][14]
แหล่งที่มา
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face