DSec (DeepSeek Elastic Compute) Sandbox

DeepSeek-V4 的生产级沙箱平台,用于后训练和评估中的 agentic 任务执行。

Architecture

三个 Rust 组件:

  • Apiserver: API 网关
  • Edge: 每主机 agent
  • Watcher: 集群监控

基于 3FS 分布式文件系统,单集群管理数十万并发沙箱实例。

Four Execution Substrates

基板隔离级别用途技术
Function Call无无状态调用预热容器池,零冷启动
Container容器级一般任务Docker + EROFS 按需加载
microVMVM 级安全敏感/高密度Firecracker
fullVM完整 VM任意 OSQEMU

统一 Python SDK (libdsec),切换只需改参数。

Fast Image Loading

  • Container: 3FS-backed readonly EROFS layers → overlay lowerdirs
  • microVM: overlaybd 格式,只读层在 3FS,写层在本地 COW
  • 支持链式 snapshot,毫秒级恢复

Density Optimizations

  • 缓解虚拟化环境中的重复 page-cache footprints + 内存回收
  • 减少容器运行时的 spinlock 竞争,降低 CPU 开销

Trajectory Logging

  • 全局有序的轨迹日志
  • 支持:client fast-forwarding(抢占后快速恢复)、provenance 追溯、deterministic replay

Relations

2026-09 paper update (arXiv:2609.22978)

论文把既有生产平台表述成独立执行平面:统一 SDK 下的 FnCall / container / Firecracker microVM / QEMU fullVM,3FS + EROFS/OverlayBD 按需镜像,以及与 RL trainer 解耦的 pause/resume。量化边界来自原文:约 160 节点 scale unit 每日约 300 万 sandbox;峰值并发 >380K、创建 >5,000/s;稳定点每节点至少 3,200 containers 或 800 microVMs;8,192-container 批量启动中 lazy EROFS 相对 eager pull 1.71× 更短并减少磁盘写入 57%。

与 Ask the Tool 对照:DSec 保存工具执行环境状态,Ask the Tool 用 waiting-time 预测管理 KV。与 PipeSwift 对照:PipeSwift 优化 agentic serving 的模型侧流水,DSec 覆盖 RL/eval 的沙箱执行面。完整论文页见 DeepSeek DSec。

Citations

  1. Huang, J., Tang, H., Chen, J., et al. “DeepSeek Elastic Compute (DSec): A Sandbox Infrastructure for Effective Agentic Training at Scale.” arXiv:2609.22978, 2026. paper
  2. 本地原文 PDF;原始来源记录
  3. 旧来源指针 DeepSeek_V4 PDF