Vì sao Ro Khanna yêu cầu các hãng AI tiết lộ nỗ lực xâm nhập mô hình?

Câu hỏi của nghị sĩ Ro Khanna xoay quanh một rủi ro khác với việc đối thủ học cách bắt chước câu trả lời của chatbot: liệu ai đó có thể đột nhập và lấy đi chính những thành phần cốt lõi giúp một mô hình AI vận hành hay không. Ông muốn OpenAI, Anthropic, Google, Meta và xAI báo cáo những nỗ lực truy cập trái phép đã biết, đồng thời mô tả các biện pháp an ninh mạng để bảo vệ mô hình.310

Đánh cắp trọng số khác gì chưng cất mô hình?

Trọng số mô hình là các tham số được hình thành trong quá trình huấn luyện, giúp mô hình xử lý thông tin và tạo ra câu trả lời. Nếu kẻ xấu chiếm được các trọng số này, họ có thể sở hữu trực tiếp phần lõi của mô hình thay vì chỉ sử dụng nó thông qua dịch vụ do công ty phát triển cung cấp.3

Chưng cất mô hình là một quá trình khác: nhà phát triển dùng đầu ra của mô hình có sẵn để huấn luyện một mô hình riêng. Cách làm này có thể giúp tạo ra mô hình mới mà không cần lấy được bộ trọng số ban đầu. OpenAI và Anthropic đã báo cáo các trường hợp doanh nghiệp AI Trung Quốc chưng cất mô hình của họ; tuy nhiên, các báo cáo đó không phải bằng chứng rằng trọng số của những công ty này đã bị đánh cắp. Hiện chỉ có ít trường hợp đánh cắp trọng số được biết đến.3

Vì sao đây là vấn đề an ninh quốc gia?

Khanna lo ngại rằng nếu một tác nhân thù địch lấy được trọng số, họ có thể nắm quyền sử dụng trực tiếp mô hình mạnh mà không cần dựa vào dịch vụ của nhà phát triển. Điều đó đặt ra câu hỏi về việc bảo vệ tài sản công nghệ, cũng như khả năng kiểm soát cách mô hình được vận hành. Trong một phiên chất vấn trước đó, Khanna đã phân biệt rõ việc chưng cất với nguy cơ không bảo vệ được trọng số mô hình.5

Dù vậy, thông tin hiện có không xác nhận Trung Quốc đã đánh cắp thành công trọng số của bất kỳ công ty nào được nêu tên. Khanna đang yêu cầu các doanh nghiệp cung cấp thông tin về những nỗ lực xâm nhập đã biết và cách họ phòng vệ; bằng chứng được dẫn ở đây cũng chưa cho biết cụ thể nội dung các biện pháp bảo mật của từng công ty, hay có nỗ lực xâm nhập nào chưa được công bố hay không.310

Tự nguyện hay cần luật định?

Tranh luận rộng hơn là nên để ngành tự đặt chuẩn an toàn hay trao cho chính phủ vai trò giám sát mạnh hơn. Chính quyền Trump đặt trọng tâm vào các cam kết tự nguyện của doanh nghiệp; trong một khuôn khổ kiểm thử tự nguyện, chính quyền cũng cho biết sẽ không kiểm tra an toàn các mô hình có trọng số mở.7

Khanna theo đuổi hướng tiếp cận ràng buộc hơn: ông ủng hộ kiểm toán bắt buộc, giám sát của chính phủ và một thỏa thuận an toàn AI Mỹ–Trung có cơ chế xác minh. Các đề xuất và thư của ông phản ánh quan điểm rằng cần có bằng chứng cho thấy những biện pháp do doanh nghiệp tự triển khai là đủ sức bảo vệ, thay vì mặc nhiên tin rằng chúng đã đáp ứng yêu cầu.12

Điểm mấu chốt trong yêu cầu của Khanna không phải là khẳng định một vụ đánh cắp đã xảy ra. Đó là đòi hỏi các hãng AI giải trình về cách họ bảo vệ trọng số mô hình và về những gì họ biết liên quan đến các nỗ lực xâm nhập.