HeadlinesBriefing favicon HeadlinesBriefing.com

DeepSeek Elastic Compute (DSec): Plataforma de Treinamento Agéntico em Escala de Produção

Hacker News •
×

DeepSeek Elastic Compute (DSec) é uma plataforma de sandbox de produção projetada para treinamento e avaliação em larga escala agéntico com modelos de linguagem grandes (LLMs). O sistema expõe os backends de sandbox de Fn Call, contêiner, micro VM e VM completa por meio de um SDK unificado, permitindo a execução elástica entre clusters. DSec coordena o posicionamento e o gerenciamento do ciclo de vida, compõe ambientes a partir de camadas versionadas e aproveita o Sistema de Arquivos Fire-Flyer (3FS) para o carregamento sob demanda de imagens.

Co-projetado com estruturas de aprendizado por reforço (RL), o DSec desacopla a execução de rollout com estado do treinamento de GPU preemptível, preservando o estado de rollout e recuperando recursos ociosos. Ele atenua o comportamento inadequado de agentes, como o hacking de recompensa, por meio da gestão coordenada do ciclo de vida do sandbox. Uma unidade em escala de produção abrange aproximadamente 160 nós, atendendo cerca de 3 milhões de sandboxes por dia.

Em produção, o DSec suporta mais de 380.000 sandboxes simultâneos e mantém 5.000 criações de sandboxes por segundo. A avaliação mostra que esses mecanismos reduzem o overhead de configuração do ambiente e de distribuição de imagens, melhoram a eficiência de memória e preservam o desempenho sensível à latência sob alta sobrecarga.

Entidades-Chave: Pessoas: Jialiang Huang, Hongxuan Tang, Jingchang Chen, Yuxuan Liu, Yixiao Chen, Yuan Cheng, Yi Tao, Jingli Zhou, Yupeng Chen, Haoyu Chen, Jiarui Wang, Shengkai Lin, Chuqi Zhang, Bryan Lee Teng, Lian Guo, Zhe Fu, Wenjun Gao, Yisong Wang, Liang Zhao, Zehao Wang, Ziwei Xie, Yongqiang Guo, Peixin Cong, Ziyi Gao, Shuiping Yu, Hanwei Xu, Zuofan Wu, Zhizhou Ren, Yuyang Zhou, Bowei Zhang, Zhihuan Huang, Qihao Zhu, Lei Wang, Tianle Lin, Han Yu, Jiewen Hu, Dejian Yang, Shuo Yang, Shanghao Lu, Shaoyuan Chen, Junjie Qiu, Zhangli Sha, Yinmin Zhong, Yongtong Wu, Shiyu Wang, Wei Liu, Bingzheng Xu, Longhao Chen, Qiushi Du, Yuzhen Huang, Shirong Ma, Yaohui Wang, Mingshu Chen, Tongrui Xiong, Y.C. Yan, Haowen Luo, Haofen Liang, Xiaokang Zhang, Weihao Zeng, Runxin Xu, Peiyi Wang, Jinhua Zhu, Ruoyu Zhang, Wenkai Yang, Qi Tang, Jiping Yu, Tian Ye, Ruizhe Pan, Honghui Ding, Xiaodong Liu, Lingxiao Luo, Zhihong Shao, Yuhan Wu, Jibai Lu, Wen Liu, Haoling Zhang, Jingcheng Hu, Yaoyang Ye, Chaofan Lin, Zhaochen Zhang, Jianan Tong, Hengxu Wu, Zhihao Li, Yicheng Wang, Luyao Wang, Yuzhuo Bai, Lingyue Fu, Ruifan Xu, R.Y. Wang, Zonglin Li, Mingqi Wei, Haiyang Shen, Chengyuan Zhang, Chao Jin, Zili Zhang, R.H. Yang, Xinbo Xu, Jian Zhou, Ruidong Zhu, Yuzhe Guo, Wenfeng Liang