Private Safety Processing: OpenAI phát hiện lạm dụng AI mà không cần đọc dữ liệu khách hàng

Điểm cần phân biệt là phân tích không đồng nghĩa với lưu giữ. OpenAI cho biết Private Safety Processing được thiết kế để phân tích hoạt động liên quan cho mục đích an toàn, nhưng nội dung prompt và câu trả lời của mô hình không được cung cấp cho nhân viên OpenAI thông qua hệ thống này.

OpenAI mô tả hai phương án kiểm soát dữ liệu cho các triển khai ZDR:

• Nội dung khách hàng có thể nằm trên hạ tầng do chính khách hàng kiểm soát.
• Nếu sử dụng phương án lưu trữ trên hạ tầng OpenAI, dữ liệu có thể được mã hóa bằng khóa do khách hàng kiểm soát, thay vì khóa mà nhân viên OpenAI nắm giữ.

Trong cả hai trường hợp, các hệ thống tự động có thể nhận diện dấu hiệu lạm dụng và trả về một tín hiệu an toàn giới hạn mà không làm lộ prompt hoặc câu trả lời gốc.

OpenAI nhận được gì khi hệ thống phát hiện nguy cơ?

Theo mô tả về bản xem trước, OpenAI chỉ nhận được cảnh báo giới hạn về loại hoạt động liên quan. Sơ đồ hệ thống của công ty mô tả đầu ra là nhóm cảnh báo và mức độ nghiêm trọng, thay vì toàn bộ cuộc hội thoại.

Cảnh báo này có thể hỗ trợ các quyết định an toàn hoặc thực thi chính sách, nhưng không đồng nghĩa với việc OpenAI nhận được toàn bộ lịch sử phiên làm việc. Quy trình dự kiến có thể hiểu như sau:

1. Hệ thống tự động kiểm tra các tương tác liên quan để tìm một mô hình có khả năng gây hại.
2. Nếu mô hình vượt qua ngưỡng rủi ro, hệ thống tạo ra một phân loại an toàn giới hạn.
3. OpenAI nhận phân loại đó thay vì prompt, đầu ra hoặc bản chép cuộc hội thoại.
4. Khách hàng vẫn có thể điều tra hoạt động gốc trong môi trường do mình kiểm soát.

Đây vẫn là một bản xem trước, vì vậy cách triển khai cụ thể, ngưỡng phát hiện và quy trình xử lý sai sót sẽ là những yếu tố quan trọng đối với các doanh nghiệp. OpenAI cho biết họ dự kiến triển khai rộng hơn và công bố sách trắng kỹ thuật vào tháng 9 năm 2026.

Vì sao nhân viên OpenAI thường không thể đọc cuộc hội thoại bị đánh dấu?

Một cảnh báo an toàn không tự động trao cho nhân viên OpenAI quyền truy cập cuộc hội thoại. Theo các phương án ZDR được mô tả, OpenAI không lưu giữ nội dung khách hàng; trong thiết kế lưu trữ trên hạ tầng OpenAI, công ty cũng không sở hữu khóa giải mã do khách hàng kiểm soát.

Khách hàng có thể chủ động chia sẻ tài liệu liên quan nếu muốn khiếu nại một quyết định thực thi, giải thích rằng hoạt động đó là hợp pháp hoặc hỗ trợ điều tra một vụ lạm dụng đã được xác nhận. Nếu không có sự chia sẻ tự nguyện này, cảnh báo chỉ dừng ở thông tin an toàn do máy tạo ra và gửi cho OpenAI.

Cách thiết kế này tạo ra sự tách biệt giữa bằng chứng do khách hàng kiểm soát và tín hiệu rủi ro ở cấp nhà cung cấp. Nhờ đó, nhà cung cấp có thể giảm lượng dữ liệu nhạy cảm phải trực tiếp xử lý, đồng thời vẫn phát hiện được các mô hình mà bộ lọc đánh giá từng yêu cầu riêng lẻ có thể bỏ sót.

Những khách hàng nào đang thử nghiệm?

OpenAI cho biết Glean, Databricks, Abridge và Microsoft nằm trong nhóm khách hàng tham gia định hình hoặc thử nghiệm bản xem trước. Một số thông tin khác cũng xác định Microsoft và Databricks là những khách hàng đầu tiên tham gia kiểm thử.

Tính năng này không được giới thiệu như một cài đặt phổ thông dành cho người dùng cá nhân. Nó hướng tới các triển khai API đủ điều kiện, nơi tổ chức muốn sử dụng những mô hình tiên tiến nhưng vẫn duy trì quyền kiểm soát chặt chẽ đối với prompt và đầu ra.

OpenAI và Anthropic đang chọn hai đánh đổi khác nhau

Cách tiếp cận của OpenAI ưu tiên phát hiện lạm dụng nhưng hạn chế quyền tiếp cận của nhà cung cấp đối với nội dung khách hàng. Trong khi đó, chính sách dành cho các mô hình thuộc nhóm Covered Models của Anthropic chấp nhận một đánh đổi khác: prompt và đầu ra được lưu giữ trong 30 ngày để phục vụ công tác an toàn, bao gồm hoạt động kiểm tra có kiểm soát.

Tài liệu của Anthropic nêu rằng yêu cầu 30 ngày áp dụng cho các mô hình thuộc nhóm này, trong đó có các mô hình lớp Mythos, và chúng không được cung cấp theo chế độ ZDR. Anthropic cũng cho biết dữ liệu được lưu giữ sẽ không được dùng để huấn luyện mô hình nếu không có sự cho phép rõ ràng của khách hàng.

Khác biệt trong vận hành có thể tóm tắt như sau:

• Private Safety Processing của OpenAI: phân tích tự động nhiều tương tác liên quan; theo mô tả bản xem trước, OpenAI nhận một tín hiệu an toàn giới hạn thay vì nội dung gốc.
• Chính sách Covered Models của Anthropic: lưu prompt và đầu ra trong 30 ngày để hỗ trợ công tác an toàn và kiểm tra có kiểm soát.

Không mô hình nào loại bỏ nhu cầu quản trị dữ liệu từ phía khách hàng. Trước khi đưa vào các quy trình nhạy cảm, doanh nghiệp vẫn cần kiểm tra điều kiện đủ, kiến trúc triển khai, quyền truy cập, thời hạn lưu trữ, yêu cầu theo khu vực, quy trình khiếu nại và các cam kết trong hợp đồng.

Vì sao khác biệt này quan trọng với doanh nghiệp chịu quản lý chặt?

Các tổ chức trong lĩnh vực tài chính, y tế và pháp lý thường xử lý dữ liệu chịu ràng buộc bởi nghĩa vụ bảo mật hợp đồng, quy định quyền riêng tư, đặc quyền nghề nghiệp hoặc yêu cầu riêng của từng ngành. Khả năng nhà cung cấp lưu giữ và có thể xem prompt vì thế có thể ảnh hưởng đến đánh giá giảm thiểu dữ liệu, phê duyệt nội bộ, thiết kế kiểm toán và quy trình đánh giá rủi ro nhà cung cấp.

Điều đó không có nghĩa chính sách lưu trữ 30 ngày tự động bị cấm, cũng không có nghĩa chỉ cần dùng ZDR là triển khai đã tuân thủ mọi quy định. Vấn đề là hai thiết kế đặt ra những câu hỏi khác nhau cho đội ngũ bảo mật và pháp chế. Điều khoản dành cho Covered Models của Anthropic yêu cầu doanh nghiệp tính đến việc nhà cung cấp lưu giữ và kiểm tra dữ liệu, còn OpenAI đang định vị ZDR cùng Private Safety Processing theo hướng hạn chế quyền tiếp cận của nhà cung cấp đối với chính nội dung đó.

Với một bên mua doanh nghiệp, các câu hỏi thực tế gồm:

• Mô hình và hình thức triển khai có đủ điều kiện dùng ZDR không?
• Nội dung được xử lý ở đâu và nếu được lưu trữ, ai kiểm soát khóa mã hóa?
• Một cảnh báo an toàn chứa chính xác những trường dữ liệu nào?
• Khách hàng có thể kiểm toán hoặc phản hồi cảnh báo mà không phải tiết lộ toàn bộ cuộc hội thoại không?
• Điều gì xảy ra khi nhà cung cấp nghi ngờ hành vi lạm dụng nghiêm trọng?
• Điều khoản lưu trữ và kiểm tra của nhà cung cấp có phù hợp với nghĩa vụ hợp đồng và quy định của tổ chức không?

Hệ quả rộng hơn đối với sản phẩm AI

Private Safety Processing cho thấy quyền riêng tư đang trở thành một phần của chính sản phẩm an toàn AI. Thách thức không còn chỉ là mô hình có thể chặn một yêu cầu nguy hiểm hay không, mà còn là nhà cung cấp có thể phát hiện lạm dụng phối hợp trong các quy trình dài mà không cần truy cập mọi cuộc hội thoại của khách hàng hay không.

Bản xem trước của OpenAI đưa ra một hướng trả lời: giữ nội dung trên hạ tầng do khách hàng kiểm soát hoặc bảo vệ bằng khóa do khách hàng nắm giữ, dùng hệ thống tự động để nhận diện mô hình giữa nhiều tương tác, rồi chỉ gửi cho nhà cung cấp một phân loại rủi ro giới hạn.

Chính sách Covered Models của Anthropic đưa ra hướng khác: lưu prompt và đầu ra trong một khoảng thời gian giới hạn để đội ngũ an toàn có thể điều tra, với hoạt động kiểm tra có kiểm soát và cam kết không dùng dữ liệu cho huấn luyện nếu chưa được khách hàng cho phép.

Lựa chọn giữa hai mô hình sẽ phụ thuộc vào mức chấp nhận rủi ro, độ nhạy cảm của dữ liệu và mức độ giám sát mà doanh nghiệp cho rằng nhà cung cấp mô hình tiên tiến cần có. Sách trắng kỹ thuật và kế hoạch triển khai rộng hơn mà OpenAI dự kiến công bố sẽ giúp doanh nghiệp đánh giá cụ thể hơn liệu các cam kết về quyền riêng tư có được duy trì trong môi trường thực tế hay không.