DeepSeek DSec vận hành hàng triệu sandbox cho AI agent như thế nào?

Khi huấn luyện một AI agent — hệ thống có thể gọi công cụ và thực hiện nhiều bước để hoàn thành nhiệm vụ — mô hình không chỉ tạo ra câu trả lời. Nó có thể chạy mã, dùng lệnh hệ thống hoặc làm việc trong một không gian chứa tệp. Mỗi lần thử như vậy cần một môi trường thực thi; khi số lần thử tăng lên, việc tạo và quản lý các môi trường ấy trở thành bài toán hạ tầng.

Báo cáo tháng 9/2026 của DeepSeek mô tả DeepSeek Elastic Compute (DSec) là nền tảng sandbox phục vụ các lượt thực thi của agent trong huấn luyện tăng cường và đánh giá. Sandbox ở đây là môi trường chạy được tách biệt để agent thao tác với công cụ, mã và dữ liệu của tác vụ. DSec được thiết kế để tạo nhiều môi trường khác nhau mà không phải cấp một máy ảo đầy đủ cho mọi yêu cầu, hoặc phân phối lại cả ảnh hệ thống mỗi khi có thay đổi nhỏ. 1

Một nền tảng, bốn cách chạy tác vụ

DSec cung cấp FnCall, container, microVM và máy ảo đầy đủ (VM) qua một SDK Python thống nhất. FnCall phù hợp với lời gọi hàm gọn nhẹ; container dành cho không gian làm việc đa dụng; microVM cung cấp ranh giới cách ly kiểu máy ảo; còn VM đầy đủ đáp ứng tác vụ cần một môi trường máy ảo hoàn chỉnh. Ứng dụng huấn luyện hoặc đánh giá có thể dùng chung giao diện, trong khi DSec lo việc phân bổ sandbox lên các máy chủ và quản lý vòng đời của chúng. 13

Sự phân tầng này giúp một lời gọi công cụ ngắn không phải gánh chi phí của cùng loại môi trường với một tác vụ cần cả hệ điều hành. Nó cũng phản ánh vấn đề an toàn: hành động do agent tạo ra và mã agent gặp phải không thể mặc nhiên được tin cậy. Các bài viết về báo cáo nêu rủi ro agent thao túng môi trường hoặc kết quả; cách ly là một phần của thiết kế, nhưng không có một cơ chế sandbox đơn lẻ nào bảo đảm loại bỏ mọi hành vi sai lệch. 1910

Vì sao không cần tải cả môi trường mỗi lần khởi chạy?

DSec tách môi trường thành ba lớp ảnh chỉ đọc, được quản lý phiên bản độc lập bằng EROFS: ảnh nền, không gian làm việc và bộ công cụ. Khi khởi chạy sandbox, hệ thống ghép các lớp cần thiết với một lớp cho phép ghi. Vì thế, thay đổi bộ công cụ không đồng nghĩa với việc dựng lại mọi tổ hợp ảnh nền, không gian làm việc và công cụ. 111

Các ảnh này nằm trên 3FS, hệ thống tệp phân tán của DeepSeek. Thay vì chép toàn bộ dữ liệu ảnh trước khi chạy, DSec có thể chuẩn bị siêu dữ liệu tại máy chủ rồi lấy dữ liệu tệp khi sandbox thực sự đọc đến. Cách nạp theo nhu cầu này nhằm giảm thời gian chuyển ảnh và áp lực lưu trữ cục bộ khi nhiều sandbox cùng khởi động. Báo cáo cũng mô tả cơ chế quản lý bộ nhớ và điều phối CPU để chạy mật độ cao. 111

Những con số cần đọc đúng ngữ cảnh

Theo DeepSeek, một đơn vị vận hành ở quy mô sản xuất có khoảng 160 nút CPU, 30.000 lõi và 250 TB DRAM, cùng kho lưu trữ ảnh ở quy mô petabyte. Đơn vị này phục vụ khoảng 3 triệu lượt sandbox mỗi ngày; tại đỉnh, hơn 380.000 sandbox chạy đồng thời, còn tốc độ tạo sandbox vượt 5.000 lượt mỗi giây. Đây là ba thước đo khác nhau: tốc độ tạo ở mức đỉnh không có nghĩa được duy trì suốt ngày, và số liệu của một đơn vị không phải tổng của toàn bộ hệ thống DSec. 1312

Một số bài viết dẫn báo cáo cho biết một tác vụ huấn luyện đơn lẻ từng yêu cầu hoặc khởi chạy 32.000 sandbox cùng lúc. Con số này cho thấy nhu cầu có thể tăng đột biến theo từng tác vụ, nhưng nguồn hiện có không xác lập đó là giới hạn cứng cho mỗi tác vụ. 811

DSec gắn với quá trình huấn luyện ra sao?

DeepSeek cho biết DSec đã xử lý các tác vụ sandbox dùng trong huấn luyện tăng cường và đánh giá từ V3.2 đến V4.1. Theo báo cáo kỹ thuật V4.1 được mô tả trong tài liệu nguồn, các lượt thực thi dài của agent chạy trên DSec, tách khỏi nhóm GPU huấn luyện có thể bị thu hồi. Khi tiến trình huấn luyện trên GPU bị thu hồi tài nguyên, lượt thực thi có thể được tạm dừng và chuyển đi, giữ lại trạng thái để tiếp tục sau đó thay vì mất tiến độ của agent. 13

Điểm đáng chú ý của DSec không chỉ là tạo môi trường cách ly: nó kết hợp lựa chọn môi trường phù hợp, tái sử dụng các lớp ảnh và quản lý lượt thực thi khi lịch chạy GPU thay đổi. Quy mô và lợi ích vận hành nêu trên là kết quả DeepSeek công bố, không phải cam kết rằng hệ thống khác triển khai tương tự sẽ đạt cùng năng lực. 13