Câu trả lờiĐã xuất bản13 nguồn
Hơn 6.500 mô hình “gỡ chốt an toàn” trên Hugging Face: bài toán kiểm duyệt nằm ở đâu?
Transformer cho biết Hugging Face có hơn 6.500 mô hình mang nhãn “abliterated”, “uncensored” hoặc “heretic” trong tháng 7.[1] Gỡ khả năng từ chối không đồng nghĩa với việc tạo ra năng lực mới hay chứng minh mô hình có thể thực hiện các tác vụ gây hại. Một mô hình được quảng bá là dành cho tấn công mạng đã bị vô hiệu...
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Transformer cho biết Hugging Face có hơn 6.500 mô hình mang nhãn “abliterated”, “uncensored” hoặc “heretic” trong tháng 7.[1]
- Gỡ khả năng từ chối không đồng nghĩa với việc tạo ra năng lực mới hay chứng minh mô hình có thể thực hiện các tác vụ gây hại.
- Một mô hình được quảng bá là dành cho tấn công mạng đã bị vô hiệu hóa, trong khi một mô hình abliterated khác của cùng nhà phát triển vẫn có trang đăng tải; các nguồn hiện có chưa giải thích cụ thể ranh giới xử lý.[14...
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What does Transformer’s report that Hugging Face hosted more than 6,500 models tagged “abliterated,” “uncensored,” or “heretic” as of July r. Article summary: Transformer’s report points to a governance gap: removing a model’s refusal behavior is increasingly accessible, while deciding which modified models constitute prohibited cyberattack tools remains difficult and, in the . Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Transformer đưa tin rằng trong tháng 7, Hugging Face lưu trữ hơn 6.500 mô hình mang các nhãn “abliterated”, “uncensored” hoặc “heretic”.1 Đây là dấu hiệu cho thấy các mô hình được quảng bá là ít từ chối yêu cầu hơn xuất hiện với quy mô đáng kể. Tuy nhiên, con số này không chứng minh mọi mô hình mang nhãn đó đều có ác ý, có năng lực như nhau hay bị cấm. Câu hỏi khó hơn là nền tảng phân biệt thế nào giữa việc gỡ cơ chế an toàn và việc thiết kế mô hình để hỗ trợ lạm dụng mạng.
Con số hơn 6.500 nói lên điều gì?
Theo bài viết, các nhãn trên thường gắn với việc loại bỏ bộ lọc hoặc cơ chế an toàn của mô hình.1 Chúng cho biết người đăng mô tả mô hình ra sao, nhưng chỉ nhìn nhãn thì không thể xác minh mô hình thực sự làm được gì, hay có thể thực hiện các tác vụ gây hại một cách đáng tin cậy đến mức nào.
Trang Hugging Face của một mô hình do Audnai đăng mô tả cách làm là chỉnh sửa trực tiếp trọng số để loại bỏ hành vi từ chối, thay vì huấn luyện lại mô hình.11 Điều này giúp làm rõ một khác biệt quan trọng: giảm xu hướng từ chối và tạo ra năng lực mới không phải là một. Việc mô hình sẵn lòng trả lời hơn, tự nó, chưa chứng minh mô hình có thể thực hiện một kiểu tấn công cụ thể.
Ranh giới khó xử lý trong chính sách của Hugging Face
Transformer cho biết chính sách nội dung của Hugging Face cấm các mô hình được thiết kế để phá hoại hệ thống, truy cập trái phép hoặc tạo mã độc.1 Tiêu chuẩn này đặt ra câu hỏi cụ thể hơn chuyện một mô hình đã bị chỉnh sửa hay chưa: bằng chứng nào cho thấy nó được thiết kế nhằm phục vụ mục đích bị cấm?
Kho mô hình của Audnai có nhãn “for offensive cyber” hiện được ghi là đã vô hiệu hóa do vi phạm chính sách nội dung.14 Trong khi đó, một trang đăng tải mô hình abliterated thông thường của Audnai cũng xuất hiện trong các kết quả tìm kiếm được cung cấp.
11 Sự tương phản này khiến ranh giới thực thi đáng được xem xét, nhưng không chứng minh hai kho mô hình có năng lực, ý định hay tình trạng chính sách giống hệt nhau. Phần trích dẫn hiện có không nêu căn cứ cụ thể dẫn đến quyết định vô hiệu hóa.
14
Vì sao nhãn và trang đăng tải chưa đủ?
Tên kho mô hình hoặc mô tả của nhà phát triển có thể gợi ý mục đích sử dụng, nhưng không thay thế được đánh giá năng lực. Tương tự, tuyên bố rằng mô hình đã mất khả năng từ chối không chứng minh nó có thể làm thành công mọi việc gây hại được yêu cầu. Các nguồn hiện có ghi lại trang mô hình và phần mô tả, nhưng không đưa ra đánh giá độc lập, nhất quán về năng lực của toàn bộ nhóm mô hình mang các nhãn này.1
11
Điều đó quan trọng với hoạt động kiểm duyệt. Nếu quyết định thực thi dựa trên mục đích sử dụng, năng lực đã được chứng minh, hay cả hai, người dùng và nhà phát triển cần hiểu các yếu tố ấy được xem xét như thế nào. Giải thích công khai hơn về các quyết định gỡ bỏ có thể làm rõ chính sách nào đã bị vi phạm; còn các đánh giá nhất quán có thể giúp phân biệt mô hình ít từ chối với mô hình được giới thiệu như một công cụ tấn công mạng.
Bài toán quản trị phía sau những nhãn này
Nên xem con số được nêu như thước đo quy mô của các nhãn liên quan đến việc gỡ cơ chế an toàn trên nền tảng, chứ không phải số lượng mô hình đã được xác nhận là độc hại.1 Trường hợp này cũng cho thấy vì sao kiểm duyệt không thể chỉ dựa vào nhãn: nền tảng cần đánh giá kho mô hình được tạo ra để làm gì, bằng chứng nào củng cố đánh giá đó và quy định áp dụng ra sao với các mô hình có thể phục vụ nhiều mục đích.
Giải thích minh bạch hơn về quyết định thực thi cùng các tiêu chí rõ ràng, áp dụng nhất quán sẽ giúp công chúng kiểm tra ranh giới ấy. Những thông tin hiện có cho thấy đây là một bài toán kiểm duyệt thực sự; nhưng tự chúng chưa đủ để kết luận rằng mọi mô hình abliterated còn lại đều nên bị gỡ bỏ.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Hơn 6.500 mô hình “gỡ chốt an toàn” trên Hugging Face: bài toán kiểm duyệt nằm ở đâu?" là gì?
Transformer cho biết Hugging Face có hơn 6.500 mô hình mang nhãn “abliterated”, “uncensored” hoặc “heretic” trong tháng 7.[1]
Những điểm chính cần xác nhận đầu tiên là gì?
Transformer cho biết Hugging Face có hơn 6.500 mô hình mang nhãn “abliterated”, “uncensored” hoặc “heretic” trong tháng 7.[1] Gỡ khả năng từ chối không đồng nghĩa với việc tạo ra năng lực mới hay chứng minh mô hình có thể thực hiện các tác vụ gây hại.
Tôi nên làm gì tiếp theo trong thực tế?
Một mô hình được quảng bá là dành cho tấn công mạng đã bị vô hiệu hóa, trong khi một mô hình abliterated khác của cùng nhà phát triển vẫn có trang đăng tải; các nguồn hiện có chưa giải thích cụ thể ranh giới xử lý.[14...
Nguồn
transformernews.aiHugging Face appears to be hosting a load of models that could be used for cyber attacks
huggingface.coaudnai/penclaw-GLM-5.3-abliterated · Hugging Face