DeepSeek Elastic Compute (DSec) — это производственная песочница, предназначенная для крупномасштабного агентного обучения и оценки с использованием больших языковых моделей (LLM). Система предоставляет доступ к бэкендам песочницы Fn Call, контейнер, микро-VM и полной VM через единый SDK, обеспечивая эластичное выполнение в кластерах. DSec координирует размещение и управление жизненным циклом, формирует среды из версионированных слоев и использует файловую систему Fire-Flyer (3FS) для загрузки образов по требованию.

Совместно разработанный с фреймворками обучения с подкреплением (RL), DSec разделяет выполнение состоятельного роллаута и прерывистого обучения на GPU, сохраняя состояние роллаута и возвращая простаивающие ресурсы. Он снижает нежелательное поведение агентов, такое как взлом вознаграждения, благодаря согласованному управлению жизненным циклом песочницы. Одна производственная единица масштаба охватывает около 160 узлов, обслуживая примерно 3 миллиона песочниц в день.

В производственной среде DSec поддерживает более 380 000 одновременных песочниц и обеспечивает 5 000 созданий песочниц в секунду. Оценка показывает, что эти механизмы снижают накладные расходы на настройку среды и распределение образов, повышают эффективность использования памяти и сохраняют производительность, чувствительную к задержкам, при высокой степени перегрузки.

Ключевые сущности: Люди: Jialiang Huang, Hongxuan Tang, Jingchang Chen, Yuxuan Liu, Yixiao Chen, Yuan Cheng, Yi Tao, Jingli Zhou, Yupeng Chen, Haoyu Chen, Jiarui Wang, Shengkai Lin, Chuqi Zhang, Bryan Lee Teng, Lian Guo, Zhe Fu, Wenjun Gao, Yisong Wang, Liang Zhao, Zehao Wang, Ziwei Xie, Yongqiang Guo, Peixin Cong, Ziyi Gao, Shuiping Yu, Hanwei Xu, Zuofan Wu, Zhizhou Ren, Yuyang Zhou, Bowei Zhang, Zhihuan Huang, Qihao Zhu, Lei Wang, Tianle Lin, Han Yu, Jiewen Hu, Dejian Yang, Shuo Yang, Shanghao Lu, Shaoyuan Chen, Junjie Qiu, Zhangli Sha, Yinmin Zhong, Yongtong Wu, Shiyu Wang, Wei Liu, Bingzheng Xu, Longhao Chen, Qiushi Du, Yuzhen Huang, Shirong Ma, Yaohui Wang, Mingshu Chen, Tongrui Xiong, Y.C. Yan, Haowen Luo, Haofen Liang, Xiaokang Zhang, Weihao Zeng, Runxin Xu, Peiyi Wang, Jinhua Zhu, Ruoyu Zhang, Wenkai Yang, Qi Tang, Jiping Yu, Tian Ye, Ruizhe Pan, Honghui Ding, Xiaodong Liu, Lingxiao Luo, Zhihong Shao, Yuhan Wu, Jibai Lu, Wen Liu, Haoling Zhang, Jingcheng Hu, Yaoyang Ye, Chaofan Lin, Zhaochen Zhang, Jianan Tong, Hengxu Wu, Zhihao Li, Yicheng Wang, Luyao Wang, Yuzhuo Bai, Lingyue Fu, Ruifan Xu, R.Y. Wang, Zonglin Li, Mingqi Wei, Haiyang Shen, Chengyuan Zhang, Chao Jin, Zili Zhang, R.H. Yang, Xinbo Xu, Jian Zhou, Ruidong Zhu, Yuzhe Guo, Wenfeng Liang