SAFE muốn giải quyết vấn đề gì?

Trong an ninh AI, một tổ chức có thể tự phát hiện một cuộc tấn công, lỗi hệ thống hoặc sự cố suýt xảy ra, trong khi những doanh nghiệp khác đang đối mặt với rủi ro tương tự nhưng không biết cách xử lý đã được kiểm chứng. SAFE được thiết kế để biến những bài học rời rạc đó thành thông tin phòng thủ có thể chia sẻ trong toàn ngành.

Bản dự thảo tập trung vào bốn hoạt động liên quan:

• thu thập và phân tích một cách bảo mật các sự cố cũng như sự cố suýt xảy ra trong hệ thống AI;
• thông báo cho những tổ chức bị ảnh hưởng khi sự cố có liên quan đến họ;
• nhận diện các điểm yếu lặp lại trong biện pháp kiểm soát và thực hành bảo mật; và
• tạo ra các bài học dựa trên bằng chứng, không quy lỗi cá nhân, để toàn hệ sinh thái có thể áp dụng.

Mục tiêu là tránh tình trạng mỗi doanh nghiệp phải tự phát hiện lại cùng một kiểu tấn công. Thay vì xem các vụ tấn công chèn lệnh, rò rỉ dữ liệu hay tác nhân AI hoạt động ngoài kiểm soát là những sự kiện riêng lẻ, các bên tham gia sẽ có một quy trình để chuyển thất bại cụ thể thành biện pháp bảo vệ rộng hơn.

OSAA đang xây dựng cả một “ngăn xếp” bảo mật

SAFE chỉ là một phần trong chiến lược của OSAA. Liên minh cũng tập hợp các công nghệ mã nguồn mở và có thể kiểm tra, nhằm xử lý nhiều lớp khác nhau trong bảo mật tác nhân AI — từ mô hình và danh tính đến quyền hạn, hành vi thời gian chạy và quản trị.

Các đóng góp được nêu gồm:

• Nvidia: các dòng mô hình có trọng số mở, bộ điều khiển thời gian chạy OpenShell để giới hạn những gì tác nhân có thể truy cập hoặc thực hiện, cùng các công cụ kiểm thử và kiểm toán tác nhân. Nvidia cũng đóng góp Garak, trình quét mã nguồn mở nhằm phát hiện các rủi ro như rò rỉ dữ liệu, tấn công chèn lệnh và bẻ khóa mô hình.
• Okta: các bản triển khai tham chiếu cho danh tính và quyền truy cập của tác nhân, sử dụng giao thức Cross App Access để kết nối tác nhân với ứng dụng doanh nghiệp trong môi trường được kiểm soát chặt chẽ hơn.
• Red Hat: asago, dự án mã nguồn mở nhằm liên kết chính sách quản trị của tổ chức với quyền hạn thời gian chạy, đồng thời tạo đường kiểm toán từ chính sách đến biện pháp kiểm soát.
• Amazon: Strands Agents, bộ công cụ mã nguồn mở để xây dựng và đánh giá tác nhân, cùng Cedar, ngôn ngữ cấp quyền.
• Các thành viên khác: những dự án tập trung vào danh tính như Agent Guard và Agent Watch, cho thấy bảo mật tác nhân không thể chỉ dựa vào việc quét mô hình.

Kết hợp lại, các dự án này bao phủ danh tính, quyền hạn, bộ khung tác nhân, hành vi thời gian chạy, đánh giá, dữ liệu, quản trị và khả năng chống chịu. Về lâu dài, chúng có thể tạo thành một bộ kiểm soát chung để doanh nghiệp giới hạn và giám sát tác nhân AI, kể cả những tác nhân có hành vi độc hại hoặc hoạt động vượt ngoài phạm vi được giao. Tuy nhiên, đó vẫn là khả năng trong tương lai, chưa phải kết quả đã được chứng minh.

Những công ty nào đã tham gia?

Các báo cáo cho biết OSAA đã có hơn 120 tổ chức ngay trong tuần đầu tiên. Những thành viên lớn được nhắc đến gồm Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat và Visa. Amazon được mô tả là thành viên mới hơn của liên minh.

OSAA xuất hiện sau bức thư ngỏ ngày 24 tháng 7, trong đó các công ty công nghệ Mỹ kêu gọi chính sách không áp đặt những hạn chế rộng hoặc quá sớm lên các mô hình AI có trọng số mở. Bức thư ban đầu có 25 bên ủng hộ, trong đó có Nvidia, Microsoft, Meta, IBM, Dell, Palantir và Hugging Face. Nội dung lập luận rằng hạn chế các mô hình có thể tải xuống sẽ làm suy yếu cạnh tranh và đẩy người dùng về phía các hệ thống AI của Trung Quốc, trong bối cảnh Washington cân nhắc phản ứng an ninh quốc gia đối với AI Trung Quốc.

Tại thời điểm các bài viết về Black Hat được công bố, Anthropic, OpenAI và Google là những cái tên đáng chú ý chưa tham gia OSAA. Mối liên hệ với bức thư chính sách phức tạp hơn: các nguồn đưa tin không hoàn toàn thống nhất về danh sách ký tên sau đó. Một số nguồn cho biết OpenAI và Google được bổ sung, trong khi các nguồn khác mô tả họ là những bên không có trong nhóm ký tên ban đầu. Các tài liệu hiện có không giải thích lý do những công ty này chưa tham gia OSAA, vì vậy không nên gán động cơ cụ thể cho sự vắng mặt của họ.

Vì sao tốc độ này đáng chú ý?

Luận điểm trung tâm của OSAA là tính mở và an ninh không nhất thiết đối lập nhau. Mô hình, công cụ, phương pháp đánh giá và bài học sự cố được mở rộng cho nhiều bên có thể giúp các nhà phòng thủ kiểm tra lỗi, tái tạo lỗ hổng và thích ứng với biện pháp khắc phục nhanh hơn. SAFE tìm cách cân bằng sự cởi mở đó với tính bảo mật trong giai đoạn thu thập và phân tích sự cố, trước khi chia sẻ các bài học đã khái quát hóa.

Thành phần liên ngành của OSAA cũng có thể giúp các nhà phát triển mô hình, nhà cung cấp hạ tầng và đám mây, chuyên gia danh tính, công ty an ninh mạng và khách hàng doanh nghiệp hình thành các giao diện, quy trình chung. Nếu những nỗ lực này trưởng thành, doanh nghiệp sẽ có thêm công cụ mở để đánh giá, kiểm soát và triển khai hệ thống AI một cách có trách nhiệm.

Điều đó có thể củng cố lập luận chính sách rằng AI có trọng số mở là vấn đề năng lực cạnh tranh của Mỹ, nhất là khi Washington tranh luận về cách ứng phó với các phòng thí nghiệm AI Trung Quốc. Nhưng OSAA chưa chứng minh được rằng liên minh đã cải thiện năng lực cạnh tranh của Mỹ hay làm giảm rủi ro AI mang tính hệ thống.

Thành quả đo đếm được hiện nay hẹp hơn nhưng cụ thể: một liên minh hơn 120 thành viên đã chuyển từ vận động cho AI mở sang công bố dự thảo về phối hợp báo cáo sự cố an ninh AI, trong khi các thành viên đóng góp những công cụ có thể trở thành một lớp phòng thủ liên thông hơn theo thời gian.

SAFE muốn giải quyết vấn đề gì?

Trong an ninh AI, một tổ chức có thể tự phát hiện một cuộc tấn công, lỗi hệ thống hoặc sự cố suýt xảy ra, trong khi những doanh nghiệp khác đang đối mặt với rủi ro tương tự nhưng không biết cách xử lý đã được kiểm chứng. SAFE được thiết kế để biến những bài học rời rạc đó thành thông tin phòng thủ có thể chia sẻ trong toàn ngành.

Bản dự thảo tập trung vào bốn hoạt động liên quan:

• thu thập và phân tích một cách bảo mật các sự cố cũng như sự cố suýt xảy ra trong hệ thống AI;
• thông báo cho những tổ chức bị ảnh hưởng khi sự cố có liên quan đến họ;
• nhận diện các điểm yếu lặp lại trong biện pháp kiểm soát và thực hành bảo mật; và
• tạo ra các bài học dựa trên bằng chứng, không quy lỗi cá nhân, để toàn hệ sinh thái có thể áp dụng.

Mục tiêu là tránh tình trạng mỗi doanh nghiệp phải tự phát hiện lại cùng một kiểu tấn công. Thay vì xem các vụ tấn công chèn lệnh, rò rỉ dữ liệu hay tác nhân AI hoạt động ngoài kiểm soát là những sự kiện riêng lẻ, các bên tham gia sẽ có một quy trình để chuyển thất bại cụ thể thành biện pháp bảo vệ rộng hơn.

OSAA đang xây dựng cả một “ngăn xếp” bảo mật

SAFE chỉ là một phần trong chiến lược của OSAA. Liên minh cũng tập hợp các công nghệ mã nguồn mở và có thể kiểm tra, nhằm xử lý nhiều lớp khác nhau trong bảo mật tác nhân AI — từ mô hình và danh tính đến quyền hạn, hành vi thời gian chạy và quản trị.

Các đóng góp được nêu gồm:

• Nvidia: các dòng mô hình có trọng số mở, bộ điều khiển thời gian chạy OpenShell để giới hạn những gì tác nhân có thể truy cập hoặc thực hiện, cùng các công cụ kiểm thử và kiểm toán tác nhân. Nvidia cũng đóng góp Garak, trình quét mã nguồn mở nhằm phát hiện các rủi ro như rò rỉ dữ liệu, tấn công chèn lệnh và bẻ khóa mô hình.
• Okta: các bản triển khai tham chiếu cho danh tính và quyền truy cập của tác nhân, sử dụng giao thức Cross App Access để kết nối tác nhân với ứng dụng doanh nghiệp trong môi trường được kiểm soát chặt chẽ hơn.
• Red Hat: asago, dự án mã nguồn mở nhằm liên kết chính sách quản trị của tổ chức với quyền hạn thời gian chạy, đồng thời tạo đường kiểm toán từ chính sách đến biện pháp kiểm soát.
• Amazon: Strands Agents, bộ công cụ mã nguồn mở để xây dựng và đánh giá tác nhân, cùng Cedar, ngôn ngữ cấp quyền.
• Các thành viên khác: những dự án tập trung vào danh tính như Agent Guard và Agent Watch, cho thấy bảo mật tác nhân không thể chỉ dựa vào việc quét mô hình.

Kết hợp lại, các dự án này bao phủ danh tính, quyền hạn, bộ khung tác nhân, hành vi thời gian chạy, đánh giá, dữ liệu, quản trị và khả năng chống chịu. Về lâu dài, chúng có thể tạo thành một bộ kiểm soát chung để doanh nghiệp giới hạn và giám sát tác nhân AI, kể cả những tác nhân có hành vi độc hại hoặc hoạt động vượt ngoài phạm vi được giao. Tuy nhiên, đó vẫn là khả năng trong tương lai, chưa phải kết quả đã được chứng minh.

Những công ty nào đã tham gia?

Các báo cáo cho biết OSAA đã có hơn 120 tổ chức ngay trong tuần đầu tiên. Những thành viên lớn được nhắc đến gồm Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat và Visa. Amazon được mô tả là thành viên mới hơn của liên minh.

OSAA xuất hiện sau bức thư ngỏ ngày 24 tháng 7, trong đó các công ty công nghệ Mỹ kêu gọi chính sách không áp đặt những hạn chế rộng hoặc quá sớm lên các mô hình AI có trọng số mở. Bức thư ban đầu có 25 bên ủng hộ, trong đó có Nvidia, Microsoft, Meta, IBM, Dell, Palantir và Hugging Face. Nội dung lập luận rằng hạn chế các mô hình có thể tải xuống sẽ làm suy yếu cạnh tranh và đẩy người dùng về phía các hệ thống AI của Trung Quốc, trong bối cảnh Washington cân nhắc phản ứng an ninh quốc gia đối với AI Trung Quốc.

Tại thời điểm các bài viết về Black Hat được công bố, Anthropic, OpenAI và Google là những cái tên đáng chú ý chưa tham gia OSAA. Mối liên hệ với bức thư chính sách phức tạp hơn: các nguồn đưa tin không hoàn toàn thống nhất về danh sách ký tên sau đó. Một số nguồn cho biết OpenAI và Google được bổ sung, trong khi các nguồn khác mô tả họ là những bên không có trong nhóm ký tên ban đầu. Các tài liệu hiện có không giải thích lý do những công ty này chưa tham gia OSAA, vì vậy không nên gán động cơ cụ thể cho sự vắng mặt của họ.

Vì sao tốc độ này đáng chú ý?

Luận điểm trung tâm của OSAA là tính mở và an ninh không nhất thiết đối lập nhau. Mô hình, công cụ, phương pháp đánh giá và bài học sự cố được mở rộng cho nhiều bên có thể giúp các nhà phòng thủ kiểm tra lỗi, tái tạo lỗ hổng và thích ứng với biện pháp khắc phục nhanh hơn. SAFE tìm cách cân bằng sự cởi mở đó với tính bảo mật trong giai đoạn thu thập và phân tích sự cố, trước khi chia sẻ các bài học đã khái quát hóa.

Thành phần liên ngành của OSAA cũng có thể giúp các nhà phát triển mô hình, nhà cung cấp hạ tầng và đám mây, chuyên gia danh tính, công ty an ninh mạng và khách hàng doanh nghiệp hình thành các giao diện, quy trình chung. Nếu những nỗ lực này trưởng thành, doanh nghiệp sẽ có thêm công cụ mở để đánh giá, kiểm soát và triển khai hệ thống AI một cách có trách nhiệm.

Điều đó có thể củng cố lập luận chính sách rằng AI có trọng số mở là vấn đề năng lực cạnh tranh của Mỹ, nhất là khi Washington tranh luận về cách ứng phó với các phòng thí nghiệm AI Trung Quốc. Nhưng OSAA chưa chứng minh được rằng liên minh đã cải thiện năng lực cạnh tranh của Mỹ hay làm giảm rủi ro AI mang tính hệ thống.

Thành quả đo đếm được hiện nay hẹp hơn nhưng cụ thể: một liên minh hơn 120 thành viên đã chuyển từ vận động cho AI mở sang công bố dự thảo về phối hợp báo cáo sự cố an ninh AI, trong khi các thành viên đóng góp những công cụ có thể trở thành một lớp phòng thủ liên thông hơn theo thời gian.