Hoe DeepSeek met DSec AI-agenten op grote schaal laat oefenen

Een AI-agent die leert een taak uit te voeren, moet soms meer doen dan tekst produceren: hij roept een functie aan, voert een shellcommando uit of draait code in een werkruimte. Bij reinforcement learning — training waarbij de uitkomst van zulke acties als feedback dient — moeten veel van die taken tegelijk kunnen lopen. DeepSeek Elastic Compute (DSec) levert daarvoor sandboxes: afgeschermde uitvoeromgevingen die tijdens training en evaluatie worden aangemaakt en beheerd. 1

Niet elke taak heeft een hele virtuele machine nodig

DSec biedt via één Python-SDK vier uitvoeropties: FnCall voor lichte functieaanroepen, containers voor algemenere werkruimtes, microVM’s met een grens op basis van virtualisatie, en volledige VM’s voor taken die een complete virtuele machine vereisen. Het platform regelt waar de sandbox draait en beheert de levenscyclus ervan. Zo hoeft een korte aanroep niet dezelfde omgeving te krijgen als een omvangrijke taak. 13

Die afscherming is niet alleen een kwestie van capaciteit. Acties van agenten en code waarmee zij werken zijn niet vanzelfsprekend veilig. Verslaggeving over het DSec-rapport noemt onder meer agenten die een omgeving of de uitkomst van een taak proberen te manipuleren. De vier opties bieden verschillende vormen van isolatie, maar geen enkele sandboxtechniek is op zichzelf een volledige veiligheidsgarantie. 1910

Een omgeving opbouwen zonder alles opnieuw te kopiëren

DSec splitst een omgeving op in drie afzonderlijk geversioneerde, alleen-lezen EROFS-lagen: een basisimage, een werkruimte en een toolkit. Bij het starten worden de benodigde lagen gecombineerd met een beschrijfbare bovenlaag. Verandert alleen de toolkit, dan hoeft niet iedere combinatie van toolkit, basisimage en werkruimte opnieuw als compleet image te worden opgebouwd. 111

De images staan op 3FS, het gedistribueerde bestandssysteem van DeepSeek. DSec kan bestandsinformatie lokaal voorbereiden en de inhoud pas ophalen wanneer een sandbox die daadwerkelijk leest. Dat moet de hoeveelheid te verplaatsen data en de druk op lokale opslag beperken wanneer veel omgevingen tegelijk starten. Het rapport beschrijft daarnaast geheugenbeheer en CPU-planning voor een hoge dichtheid aan sandboxes. 111

Wat de productiecijfers wel — en niet — zeggen

DeepSeek beschrijft één productie-eenheid met ongeveer 160 CPU-knooppunten, 30.000 processorkernen en 250 TB werkgeheugen, naast imageopslag op petabyteschaal. Volgens het bedrijf verwerkt die eenheid ongeveer 3 miljoen sandboxinstanties per dag. Op piekmomenten draaien er meer dan 380.000 tegelijk en worden er meer dan 5.000 per seconde aangemaakt. Dat zijn drie verschillende maatstaven: de pieksnelheid geldt niet automatisch voor de hele dag, en de cijfers van één eenheid zijn geen totaal voor alle DSec-installaties. 1312

Berichten die het rapport bespreken, noemen ook een afzonderlijke trainingstaak die 32.000 sandboxes tegelijk aanvroeg of startte. Dat laat zien hoe plotseling de vraag van één taak kan oplopen, maar bewijst niet dat 32.000 een vaste bovengrens per taak is. 811

Agentwerk los van de GPU-trainer

DeepSeek zegt dat DSec de sandboxwerkbelasting voor reinforcement-learningtraining en evaluatie van V3.2 tot en met V4.1 heeft verwerkt. Volgens het technische rapport over V4.1 draaien langdurige agenttrajecten op DSec, buiten de groep GPU-trainers die tussentijds kan worden onderbroken. Als zo’n trainer wordt stilgezet, kan de uitvoering van het traject worden gepauzeerd en uitbesteed, met behoud van de toestand voor later vervolg. De voortgang van de agent hoeft dan niet samen met de GPU-trainingstaak verloren te gaan. 13

DSec is daarmee niet alleen een manier om processen af te schermen, maar ook een systeem om uiteenlopende agentomgevingen snel beschikbaar te maken en lopend werk te behouden. De genoemde schaal en voordelen zijn de door DeepSeek gerapporteerde resultaten, geen onafhankelijk vastgestelde capaciteitsgarantie voor andere installaties. 13