Bagaimana DSec Menopang Pelatihan Agen AI DeepSeek

Ketika agen AI belajar menyelesaikan tugas, ia tidak hanya menghasilkan teks. Agen bisa memanggil fungsi, menjalankan perintah, atau menulis dan mengeksekusi kode. Setiap rangkaian tindakan itu—disebut rollout dalam pelatihan—memerlukan tempat untuk berjalan. DeepSeek Elastic Compute (DSec) adalah platform yang menyediakan dan mengelola lingkungan tersebut untuk pelatihan reinforcement learning serta evaluasi DeepSeek. 1

Mengapa perlu lebih dari satu jenis sandbox?

Kebutuhan tiap tugas berbeda: ada pemanggilan fungsi yang singkat, ada pekerjaan yang memerlukan ruang kerja untuk kode, dan ada pula yang membutuhkan mesin virtual lengkap. Tindakan agen maupun kode yang dijalankannya tidak bisa begitu saja dianggap aman. Laporan mengenai DSec menyoroti risiko agen berperilaku menyimpang atau mencoba memanipulasi lingkungan dan hasil tugas. Isolasi menjadi bagian penting dari rancangan platform, tetapi tidak ada satu mekanisme sandbox yang dapat dianggap sebagai jaminan keamanan menyeluruh. 1910

Melalui satu SDK Python, DSec menawarkan empat pilihan: FnCall untuk eksekusi fungsi yang ringan, container untuk ruang kerja yang lebih umum, microVM yang menggunakan batas isolasi mesin virtual, dan VM penuh untuk tugas yang memerlukannya. Klien pelatihan dan evaluasi dapat memakai antarmuka yang sama, sementara DSec mengatur penempatan serta siklus hidup sandbox di berbagai host. Dengan begitu, panggilan fungsi singkat tidak harus memakai lingkungan sebesar VM penuh. 13

Lingkungan dirakit saat dibutuhkan

Alih-alih membuat satu image lengkap untuk setiap kombinasi tugas, DSec memisahkan lingkungan menjadi tiga lapisan EROFS yang hanya dapat dibaca: image dasar, ruang kerja, dan perangkat bantu (toolkit). Masing-masing memiliki versi tersendiri, lalu digabungkan dengan lapisan yang dapat ditulis ketika sandbox dimulai. Jika perangkat bantu berubah, seluruh kombinasi lingkungan tidak perlu dibangun ulang. 111

Image tersebut disimpan di 3FS, sistem berkas terdistribusi DeepSeek. DSec dapat menyiapkan metadata secara lokal, lalu mengambil data berkas ketika sandbox benar-benar membacanya, bukan menyalin seluruh image sebelum eksekusi. Pendekatan ini ditujukan untuk mengurangi waktu pemindahan image dan tekanan pada penyimpanan lokal saat banyak sandbox dimulai bersamaan. Laporan DSec juga membahas pengelolaan memori dan penjadwalan CPU agar sandbox dapat dijalankan secara padat. 111

Seberapa besar skala yang dilaporkan?

DeepSeek menggambarkan satu unit produksi dengan sekitar 160 node CPU, 30.000 inti CPU, dan 250 TB DRAM, serta penyimpanan image berskala petabita. Untuk unit tersebut, perusahaan melaporkan sekitar 3 juta instans sandbox per hari, lebih dari 380.000 sandbox berjalan bersamaan saat puncak, dan laju pembuatan lebih dari 5.000 sandbox per detik. Ketiganya mengukur hal berbeda: laju pembuatan puncak bukan berarti berlangsung sepanjang hari, dan angka satu unit tidak mewakili total seluruh penerapan DSec. 1312

Sejumlah laporan yang mengutip makalah DSec menyebut satu tugas pelatihan pernah meminta atau meluncurkan 32.000 sandbox sekaligus. Angka itu menggambarkan besarnya lonjakan kebutuhan dari satu tugas, bukan batas maksimum per tugas yang telah dipastikan. 811

Apa yang terjadi jika pelatihan GPU terhenti?

Menurut DeepSeek, DSec telah menangani beban sandbox untuk pelatihan reinforcement learning dan evaluasi dari V3.2 hingga V4.1. Laporan teknis V4.1 juga menjelaskan bahwa rollout yang berlangsung lama dijalankan di DSec, terpisah dari kumpulan GPU pelatihan yang dapat dihentikan sementara demi penjadwalan ulang sumber daya. Ketika proses pelatihannya terhenti, eksekusi rollout dapat ditangguhkan dan dipindahkan sambil mempertahankan statusnya untuk dilanjutkan kemudian. Artinya, kemajuan agen tidak harus hilang bersama proses pelatihan di GPU. 13

DSec, dengan demikian, bukan sekadar alat untuk meluncurkan proses terisolasi. Platform ini mengatur beragam lingkungan eksekusi, penyediaannya dalam jumlah besar, dan kelangsungan pekerjaan agen saat jadwal pelatihan GPU berubah. Angka skala serta manfaat operasional di atas adalah hasil yang dilaporkan DeepSeek, bukan jaminan kapasitas bagi penerapan lain. 13