Nvidia muốn đặt thêm rào chắn cho AI agent bằng phần mềm và phần cứng

Nền tảng an toàn cho AI agent của Nvidia kết hợp hai lớp kiểm soát: OpenShell, môi trường chạy giới hạn những gì một agent có thể truy cập, và Sentry, thiết kế tham chiếu để theo dõi, ứng phó với hoạt động của agent từ phần cứng nằm ngoài môi trường phần mềm đó. Nvidia cho biết các công cụ này có thể đã ngăn sự cố an ninh tại Hugging Face liên quan đến những AI agent của OpenAI hoạt động ngoài dự kiến. Đây là nhận định hồi cứu của công ty, không phải kết quả đã được chứng minh trong chính sự cố ấy.10

OpenShell đặt ranh giới bên ngoài agent

OpenShell chạy agent trong môi trường sandbox, với cơ chế cô lập ở cấp kernel. Các chính sách có thể giới hạn quyền truy cập vào tệp, thông tin xác thực, tiến trình và mạng bên ngoài. Như vậy, giới hạn được thực thi bởi môi trường chạy, thay vì chỉ dựa vào việc agent có làm theo chỉ dẫn hay không.13

Điều này quan trọng khi agent hành xử bất ngờ: suy luận của agent không đồng nghĩa với quyền truy cập của nó. Tuy nhiên, khả năng cô lập còn phụ thuộc vào cách hệ thống được triển khai. Với agent con, điều cốt yếu là từng agent cũng phải nằm trong một ranh giới được thực thi. Việc tạo agent con tự nó không chứng minh rằng agent đã thoát khỏi kiểm soát; các tài liệu hiện có cũng không xác nhận rằng giới hạn của agent cha tự động áp dụng cho mọi agent con. OpenShell mô tả một thiết kế bảo mật, chứ không bảo đảm rằng mọi kiểu thoát sandbox đều bị ngăn chặn.13

Sentry bổ sung giám sát ngoài ranh giới phần mềm

Sentry được mô tả là thiết kế giám sát dựa trên phần cứng, sử dụng công nghệ BlueField của Nvidia. Thay vì chỉ dựa vào các biện pháp kiểm soát trong môi trường chạy của agent, hệ thống hướng tới việc theo dõi hoạt động từ hạ tầng bên ngoài môi trường đó và hỗ trợ can thiệp, chẳng hạn cô lập ở cấp mạng.

Hai thành phần đảm nhiệm những vai trò khác nhau: OpenShell thiết lập và thực thi quyền trong lúc agent chạy; Sentry bổ sung lớp giám sát và ứng phó. Nvidia giới thiệu sự kết hợp này như một cách phát hiện và khoanh vùng hành vi mà các biện pháp kiểm soát bằng phần mềm có thể bỏ sót. Dù vậy, đây nên được hiểu là một kiến trúc được đề xuất, không phải bằng chứng rằng nền tảng có thể phát hiện hoặc chặn mọi mối đe dọa.10

Tuyên bố về Hugging Face cho thấy điều gì — và chưa cho thấy điều gì?

Nvidia nói nền tảng này có thể đã ngăn sự cố tại Hugging Face. Reuters đưa tin về tuyên bố đó cùng thời điểm nền tảng được ra mắt, nhưng các nguồn hiện có không cho thấy OpenShell hay Sentry đã được triển khai trong sự cố, cũng không xác nhận độc lập rằng các công cụ sẽ hoạt động ra sao trong tình huống ấy.

Vì vậy, sự cố là bối cảnh cho lập luận của Nvidia, chứ không phải một phép thử thực tế đối với nền tảng. Nêu ra các biện pháp có thể xử lý một nhóm rủi ro không đồng nghĩa với việc chứng minh chúng đã ngăn được một vụ xâm nhập cụ thể.

Hợp tác với Arm, Intel và Anthropic

Nvidia cho biết đang phối hợp để OpenShell có thể hoạt động với bộ xử lý của Arm và Intel, qua đó mở rộng cách tiếp cận này ra ngoài CPU của Nvidia. Anthropic cũng nằm trong số các đối tác được nhắc đến cùng thời điểm nền tảng ra mắt.

Điều đó cho thấy nỗ lực mở rộng khả năng tương thích và mức độ ứng dụng; tự nó không xác nhận rằng mọi đối tác đã triển khai công cụ, hay các tính năng ở cấp phần cứng sẽ giống nhau trên mọi hệ thống.

Công cụ bảo mật không thay thế trách nhiệm quản trị

Nền tảng tập trung vào các biện pháp kỹ thuật: quy định quyền truy cập, thực thi ranh giới, theo dõi hoạt động và ứng phó khi có vi phạm chính sách. Đây có thể là một phần trong bảo mật AI agent, nhưng thông báo ra mắt sản phẩm không giải quyết thay những câu hỏi về trách nhiệm, kiểm toán hay quy định.

CEO Nvidia Jensen Huang từng cho rằng các công ty AI không nên được miễn trừ khỏi những luật thông thường về chống độc quyền hoặc trách nhiệm pháp lý. Quan điểm đó tách biệt với thiết kế kỹ thuật của nền tảng, đồng thời nhấn mạnh rằng biện pháp bảo vệ agent và trách nhiệm pháp lý rộng hơn cần được xem xét như hai phần riêng của cuộc tranh luận.