DSec DeepSeek: Infrastruktur di sebalik latihan agen AI berskala besar

Apabila agen AI diminta menggunakan alat atau menjalankan kod, tindakannya memerlukan tempat untuk dilaksanakan. Dalam latihan pembelajaran pengukuhan, proses itu boleh berulang pada skala besar dan merangkumi tugasan yang sangat berbeza: daripada panggilan fungsi ringkas hinggalah kerja yang memerlukan sistem pengendalian lengkap. DeepSeek Elastic Compute (DSec) ialah platform yang DeepSeek gunakan untuk menyediakan persekitaran pelaksanaan terasing, atau kotak pasir, bagi latihan dan penilaian tersebut. Laporan yang diterbitkan pada September 2026 menerangkan cara platform itu mengelakkan keperluan menyediakan mesin maya penuh atau mengedarkan imej lengkap yang baharu bagi setiap perubahan persekitaran. 1

Mengapa agen AI memerlukan lebih daripada satu jenis kotak pasir?

Tindakan agen boleh berupa panggilan fungsi, arahan terminal atau kod yang dijalankan dalam ruang kerja. Kod dan tindakannya juga tidak boleh dianggap selamat secara automatik: laporan mengenai kajian DSec menyebut risiko salah laku agen, termasuk cubaan memanipulasi persekitaran atau hasil tugasan. Pengasingan penting, tetapi tiada satu mekanisme kotak pasir yang patut dianggap jaminan keselamatan menyeluruh. 1910

DSec menawarkan empat pilihan melalui satu kit pembangunan perisian (SDK) Python: FnCall untuk pelaksanaan ringan berbentuk panggilan fungsi; bekas (container) untuk ruang kerja lebih umum; mikro-VM untuk pengasingan berasaskan mesin maya; dan VM penuh bagi tugasan yang memerlukan mesin maya lengkap. Aplikasi latihan dan penilaian menggunakan antara muka yang sama, sementara DSec mengurus penempatan serta kitar hayat kotak pasir pada hos-hosnya. Ini bermakna panggilan alat yang singkat tidak semestinya perlu menggunakan persekitaran sebesar tugasan yang memerlukan VM penuh. 13

Bina daripada lapisan, ambil data apabila diperlukan

Daripada menggabungkan setiap variasi persekitaran ke dalam satu imej lengkap, DSec memisahkan imej asas, ruang kerja dan set alat kepada lapisan EROFS baca sahaja yang mempunyai versi tersendiri. Lapisan yang diperlukan digabungkan ketika kotak pasir bermula, bersama lapisan yang boleh ditulis. Jika set alat berubah, keseluruhan gabungan imej asas, ruang kerja dan alat tidak perlu dibina semula. 111

Imej tersebut disimpan pada 3FS, sistem fail teragih DeepSeek. DSec boleh menyediakan metadata secara setempat, kemudian mengambil data fail apabila kotak pasir benar-benar membacanya—bukannya menyalin setiap bait imej sebelum pelaksanaan. Pendekatan ini menyasarkan masa pemindahan imej dan tekanan terhadap storan setempat apabila banyak kotak pasir dimulakan serentak. Laporan itu turut menerangkan pengurusan memori dan penjadualan CPU untuk menjalankan kotak pasir pada kepadatan tinggi. 111

Sejauh mana skalanya?

Bagi satu unit pengeluaran, DeepSeek melaporkan kira-kira 160 nod CPU, 30,000 teras dan 250 TB DRAM, dengan storan imej berskala petabait. Unit itu dilaporkan mengendalikan sekitar 3 juta instans kotak pasir sehari, melebihi 380,000 kotak pasir serentak pada waktu puncak, dan kadar penciptaan melebihi 5,000 kotak pasir sesaat. Ini tiga ukuran yang berlainan: kadar penciptaan puncak bukan kadar yang semestinya dikekalkan sepanjang hari, manakala angka bagi satu unit bukan jumlah untuk semua penggunaan DSec. 1312

Beberapa laporan yang memetik kajian tersebut turut menyebut satu tugasan latihan meminta atau melancarkan 32,000 kotak pasir serentak. Angka itu menunjukkan betapa mendadaknya permintaan daripada satu tugasan, tetapi laporan yang tersedia tidak membuktikan bahawa 32,000 ialah had tetap bagi setiap tugasan. 811

Apa jadi apabila latihan pada GPU dihentikan sementara?

DeepSeek menyatakan DSec telah mengendalikan beban kerja kotak pasir untuk latihan pembelajaran pengukuhan dan penilaian modelnya dari V3.2 hingga V4.1. Laporan teknikal V4.1 juga menerangkan bahawa proses agen yang berjalan lama dilaksanakan pada DSec, di luar kelompok GPU latihan yang boleh dihentikan sementara untuk mengutamakan kerja lain. Apabila proses latihan pada GPU dihentikan sementara, pelaksanaan agen boleh digantung dan dialihkan sambil mengekalkan keadaannya untuk disambung kemudian, tanpa membuang kemajuan agen bersama sesi latihan GPU itu. 13

Ringkasnya, DSec bukan sekadar alat untuk melancarkan proses terasing. Ia menyatukan pilihan persekitaran, pengedaran imej dan pengurusan pelaksanaan pada skala besar. Angka kapasiti serta manfaat operasi di atas ialah hasil yang dilaporkan oleh DeepSeek, bukan jaminan kapasiti yang telah disahkan secara bebas untuk penggunaan lain. 13