DeepSeek Elastic Compute (DSec) ist eine Produktions-Sandbox-Plattform, die für das groß angelegte agentische Training und die Evaluation mit großen Sprachmodellen (LLMs) entwickelt wurde. Das System macht über ein einheitliches SDK die Backends Fn Call, Container, Micro-VM und Voll-VM der Sandbox zugänglich und ermöglicht elastische Ausführung über Cluster hinweg. DSec koordiniert Platzierung und Lebenszyklus-Management, baut Umgebungen aus versionierten Schichten auf und nutzt das Fire-Flyer-Dateisystem (3FS) für die on-demand-Bildladung.

Zusammen mit Reinforcement-Learning-Frameworks (RL) entwickelt, entkoppelt DSec die zustandsbehaftete Rollout-Ausführung vom präemptiven GPU-Training, während der Rollout-Zustand erhalten bleibt und inaktive Ressourcen zurückgewonnen werden. Es mindert Fehlverhalten von Agenten wie Reward-Hacking durch koordinierte Sandbox-Lebenszyklus-Verwaltung. Eine Produktionsskaleneinheit umfasst etwa 160 Knoten und bedient täglich etwa 3 Millionen Sandboxes.

Im Produktionsbetrieb unterstützt DSec mehr als 380.000 gleichzeitige Sandboxes und hält eine Rate von 5.000 Sandbox-Erstellungen pro Sekunde auf. Evaluationsergebnisse zeigen, dass diese Mechanismen den Overhead für Umgebungseinrichtung und Bildverteilung reduzieren, die Speichereffizienz verbessern und die latenzempfindliche Leistung bei hoher Dichte-Überlastung aufrechterhalten.

Wichtige Entitäten: Personen: Jialiang Huang, Hongxuan Tang, Jingchang Chen, Yuxuan Liu, Yixiao Chen, Yuan Cheng, Yi Tao, Jingli Zhou, Yupeng Chen, Haoyu Chen, Jiarui Wang, Shengkai Lin, Chuqi Zhang, Bryan Lee Teng, Lian Guo, Zhe Fu, Wenjun Gao, Yisong Wang, Liang Zhao, Zehao Wang, Ziwei Xie, Yongqiang Guo, Peixin Cong, Ziyi Gao, Shuiping Yu, Hanwei Xu, Zuofan Wu, Zhizhou Ren, Yuyang Zhou, Bowei Zhang, Zhihuan Huang, Qihao Zhu, Lei Wang, Tianle Lin, Han Yu, Jiewen Hu, Dejian Yang, Shuo Yang, Shanghao Lu, Shaoyuan Chen, Junjie Qiu, Zhangli Sha, Yinmin Zhong, Yongtong Wu, Shiyu Wang, Wei Liu, Bingzheng Xu, Longhao Chen, Qiushi Du, Yuzhen Huang, Shirong Ma, Yaohui Wang, Mingshu Chen, Tongrui Xiong, Y.C. Yan, Haowen Luo, Haofen Liang, Xiaokang Zhang, Weihao Zeng, Runxin Xu, Peiyi Wang, Jinhua Zhu, Ruoyu Zhang, Wenkai Yang, Qi Tang, Jiping Yu, Tian Ye, Ruizhe Pan, Honghui Ding, Xiaodong Liu, Lingxiao Luo, Zhihong Shao, Yuhan Wu, Jibai Lu, Wen Liu, Haoling Zhang, Jingcheng Hu, Yaoyang Ye, Chaofan Lin, Zhaochen Zhang, Jianan Tong, Hengxu Wu, Zhihao Li, Yicheng Wang, Luyao Wang, Yuzhuo Bai, Lingyue Fu, Ruifan Xu, R.Y. Wang, Zonglin Li, Mingqi Wei, Haiyang Shen, Chengyuan Zhang, Chao Jin, Zili Zhang, R.H. Yang, Xinbo Xu, Jian Zhou, Ruidong Zhu, Yuzhe Guo, Wenfeng Liang