Abliteration.ai lưu trữ AI đã bỏ cơ chế từ chối: Lợi ích red team và rủi ro lạm dụng

Abliteration.ai đang thương mại hóa một hướng tiếp cận gây tranh cãi với AI có trọng số mở: loại bỏ xu hướng từ chối những yêu cầu có thể gây hại, rồi cung cấp mô hình đã chỉnh sửa dưới dạng dịch vụ trực tuyến. Biến thể GLM-5.3 của Z.ai do công ty lưu trữ có thể được truy vấn trên trình duyệt hoặc qua API, thay vì người dùng phải tự tải mô hình, chỉnh sửa và vận hành hạ tầng riêng. 7

Công ty giới thiệu dịch vụ này như công cụ cho an ninh mạng tấn công, red team và thử nghiệm tác tử AI. Tuy nhiên, theo thử nghiệm được TechCrunch thuật lại, mô hình đã tạo mã phục vụ hành vi đánh cắp thông tin xác thực và hướng dẫn liên quan đến việc nuôi cấy một tác nhân gây bệnh nguy hiểm. Điều đó cho thấy ranh giới mong manh: một hệ thống hữu ích cho phòng thủ được cấp phép cũng có thể làm giảm đáng kể trở ngại đối với việc lạm dụng ngoài đời thực. 7

“Abliteration” là gì?

Trong bối cảnh này, abliteration là việc chỉnh sửa mô hình nhằm làm suy giảm hoặc loại bỏ hành vi từ chối đã được học. Nó khác với việc chỉ tìm một câu lệnh để vượt qua lớp chính sách của chatbot.

Abliteration.ai cho biết họ xác định các hướng trong biểu diễn kích hoạt nội bộ của mô hình có liên hệ với hành vi từ chối, sau đó loại bỏ các hướng này khỏi trọng số mô hình. Công ty nói mục tiêu là vẫn giữ năng lực lập trình, an ninh mạng và tác tử AI, trong khi mô hình tiếp tục thực hiện chuỗi tác vụ mà hệ thống bị ràng buộc an toàn hơn sẽ dừng lại. 1315

Đây là mô tả và tuyên bố từ phía công ty. Tài liệu được cung cấp không có đánh giá độc lập chứng minh biến thể GLM-5.3 đã chỉnh sửa hoạt động tương đương mô hình gốc trên diện rộng, xét về năng lực, độ tin cậy hay hành vi liên quan đến an toàn. 13

Dịch vụ đang cung cấp những gì?

Abliteration.ai lưu trữ các mô hình trọng số mở đã chỉnh sửa, trong đó có mô hình dựa trên GLM-5.3 mang tên abliterated-model-large-v2. Sản phẩm được quảng bá cho công việc an ninh mạng tấn công, red team và thử nghiệm tác tử, với quyền truy cập qua giao diện web và API. 17

Cách phân phối này có ý nghĩa lớn. Về nguyên tắc, người có đủ kỹ năng và năng lực tính toán vốn đã có thể sửa đổi, rồi tự chạy các mô hình trọng số mở. Một dịch vụ lưu trữ giúp mô hình đã thay đổi có thể sử dụng gần như ngay lập tức, giảm gánh nặng thiết lập như tải trọng số, chỉnh sửa mô hình và tự vận hành máy chủ. 37

TechCrunch đã nhận được gì khi thử nghiệm?

TechCrunch cho biết phóng viên có thể tạo tài khoản web miễn phí nhanh chóng, sau đó nhận phản hồi từ mô hình lưu trữ cho các yêu cầu mà những hệ thống AI phổ biến nhìn chung sẽ từ chối. Các đầu ra được báo cáo gồm:

• Mã Python nhằm trích xuất mật khẩu đã lưu trên Chrome.
• Một quy trình chi tiết tại nhà để nuôi cấy tác nhân gây bệnh nguy hiểm cho con người. 7

Các ví dụ này vượt ra ngoài tranh luận về giáo dục an ninh mạng vô hại. Chúng cho thấy giao diện lưu trữ dễ tiếp cận có thể cung cấp nội dung liên quan đến đánh cắp thông tin xác thực và gây hại sinh học. 7

Lập luận của công ty: red team cần mô phỏng năng lực tấn công

Lý lẽ của Abliteration.ai thuộc nhóm lập luận “lưỡng dụng” quen thuộc: bên phòng thủ cần mô phỏng hành vi tấn công để phát hiện và khắc phục điểm yếu. Một đội an ninh được ủy quyền kiểm tra ngân hàng, hãng hàng không hoặc đơn vị vận hành hạ tầng thiết yếu có thể cần đánh giá khả năng phòng thủ trước mã khai thác, tải trọng tấn công, tự động hóa độc hại hay quy trình tấn công nhiều bước. Theo lập luận này, nếu trợ lý AI từ chối mọi bước, nó sẽ kém hữu ích cho các cuộc kiểm tra thực tế đã được cho phép. 47

Kiểm thử xâm nhập có ủy quyền, phân tích mã độc, thi CTF và nghiên cứu bảo mật đều có thể sử dụng các kỹ thuật nguy hiểm khi đặt trong môi trường kiểm soát và có sự cho phép. Khó khăn nằm ở chỗ chính những hỗ trợ đó cũng có thể hữu ích cho kẻ tấn công. 24

Vì sao giới phê bình lo ngại?

Truy cập được lưu trữ có thể hạ thấp rào cản lạm dụng

Mối lo chính không phải là mô hình đã bỏ cơ chế từ chối có thể tồn tại; các mô hình trọng số mở vốn cho phép người có năng lực kỹ thuật tự thử nghiệm sửa đổi. Vấn đề là một dịch vụ có thể truy cập bằng trình duyệt hoặc API khiến năng lực có thể gây hại dễ tiếp cận hơn, không đòi hỏi người dùng phải tự quản lý trọng số hay hạ tầng tính toán. 37

Tuyên bố “giữ nguyên năng lực” chưa được kiểm chứng độc lập

Công ty nói việc chỉnh sửa ở cấp trọng số vẫn bảo toàn năng lực lập trình và an ninh mạng của mô hình. Nhưng thay đổi trọng số để điều chỉnh hành vi từ chối có thể ảnh hưởng đến những hành vi đã học khác. Các bằng chứng được cung cấp không có một so sánh chuẩn độc lập, rộng rãi để kết luận rằng năng lực, độ tin cậy hoặc các hành vi khác không thay đổi sau chỉnh sửa. 1315

Không thể xác minh ý định chỉ từ câu lệnh

Một yêu cầu về mã khai thác hoặc hỗ trợ chuỗi tấn công có thể thuộc một đợt đánh giá được cho phép — hoặc có thể là bước chuẩn bị cho xâm nhập thực tế. Các đầu ra liên quan đến mật khẩu Chrome và tác nhân gây bệnh mà TechCrunch báo cáo cho thấy dịch vụ rất khó suy ra ý định hợp pháp chỉ dựa trên mô tả của người dùng. 7

Tranh luận về biện pháp bảo vệ: sàng lọc, xác thực và trách nhiệm

Báo cáo của TechCrunch cho thấy các biện pháp kiểm soát truy cập mạnh không hiện rõ trong quy trình mà họ thử nghiệm: phóng viên tạo tài khoản nhanh và sử dụng hệ thống miễn phí qua trình duyệt. 7

Tuy nhiên, các nguồn được cung cấp không xác lập đầy đủ bộ kiểm soát hiện tại của công ty, nên không thể khẳng định dứt khoát rằng một biện pháp cụ thể hoàn toàn không tồn tại. Dù vậy, các câu hỏi then chốt vẫn chưa được giải đáp:

• Bộ phân loại hoạt động gây hại: Dịch vụ có sàng lọc câu lệnh hoặc đầu ra cho các hoạt động rủi ro cao không?
• Xác thực danh tính khách hàng: Người dùng có được gắn đáng tin cậy với danh tính thật và có thể quy trách nhiệm không?
• Quy trình KYC: Quyền truy cập có bị giới hạn cho tổ chức đã được thẩm định hoặc chuyên gia an ninh được ủy quyền không?
• Giám sát và thực thi: Có cơ chế phát hiện lạm dụng, điều tra vi phạm và thu hồi quyền truy cập hay không?

Những biện pháp này không thể xóa bỏ hoàn toàn bài toán lưỡng dụng. Nhưng chúng có thể khiến việc lạm dụng ẩn danh hoặc cơ hội trở nên khó hơn, đồng thời vẫn mở đường cho hoạt động kiểm thử bảo mật hợp pháp và có trách nhiệm.

Kết luận

Abliteration.ai biến một kỹ thuật chỉnh sửa mô hình thành sản phẩm lưu trữ: cung cấp biến thể GLM-5.3 đã bỏ hành vi từ chối cho công việc an ninh mạng và thử nghiệm tác tử. 17 Lý do red team mà công ty nêu ra là dễ hiểu, nhưng các kết quả thử nghiệm được TechCrunch báo cáo cho thấy đây không chỉ là rủi ro an toàn mang tính lý thuyết. 7

Điểm mấu chốt là quản trị. Khi một dịch vụ được thiết kế để hỗ trợ những việc mà mô hình tiêu chuẩn từ chối, lập luận an toàn của nó phải dựa nhiều vào kiểm soát truy cập có thể kiểm chứng, sàng lọc thực chất và trách nhiệm giải trình — chứ không chỉ dựa vào tuyên bố rằng người dùng có mục đích phòng thủ.