HeadlinesBriefing favicon HeadlinesBriefing.com

DeepSeek Elastic Compute (DSec):本番規模エージェントicトレーニングプラットフォーム

Hacker News •
×

DeepSeek Elastic Compute(DSec)は、大規模言語モデル(LLM)を使用したエージェントicトレーニングと評価のために設計された本番サンドボックスプラットフォームです。このシステムは、統一されたSDKを通じてFn Call、コンテナ、マイクロVM、フルVMのサンドボックスバックエンドを公開し、クラスター間での弾力的な実行を可能にします。DSecは配置とライフサイクル管理を調整し、バージョン済みレイヤーから環境を構成し、Fire-Flyerファイルシステム(3FS)を活用してオンデマンドのイメージロードを行います。

強化学習(RL)フレームワークと共同設計され、DSecは状態を持つロールアウトの実行をプリエンプティブルなGPUトレーニングから切り離し、ロールアウトの状態を保持しながらアイドルリソースを回復します。協調的なサンドボックスライフサイクル管理により、報酬ハッキングなどのエージェントの不正行為を軽減します。本番規模の単位は約160ノードにわたり、1日あたり約300万のサンドボックスを提供します。

本番環境では、DSecは380,000を超える同時サンドボックスをサポートし、1秒あたり5,000のサンドボックス作成を維持します。評価によると、これらのメカニズムは環境セットアップとイメージ配信のオーバーヘッドを削減し、メモリ効率を向上させ、高密度オーバーコミット下でもレイテンシーに敏感なパフォーマンスを維持します。

主要エンティティ: 人物: Jialiang Huang, Hongxuan Tang, Jingchang Chen, Yuxuan Liu, Yixiao Chen, Yuan Cheng, Yi Tao, Jingli Zhou, Yupeng Chen, Haoyu Chen, Jiarui Wang, Shengkai Lin, Chuqi Zhang, Bryan Lee Teng, Lian Guo, Zhe Fu, Wenjun Gao, Yisong Wang, Liang Zhao, Zehao Wang, Ziwei Xie, Yongqiang Guo, Peixin Cong, Ziyi Gao, Shuiping Yu, Hanwei Xu, Zuofan Wu, Zhizhou Ren, Yuyang Zhou, Bowei Zhang, Zhihuan Huang, Qihao Zhu, Lei Wang, Tianle Lin, Han Yu, Jiewen Hu, Dejian Yang, Shuo Yang, Shanghao Lu, Shaoyuan Chen, Junjie Qiu, Zhangli Sha, Yinmin Zhong, Yongtong Wu, Shiyu Wang, Wei Liu, Bingzheng Xu, Longhao Chen, Qiushi Du, Yuzhen Huang, Shirong Ma, Yaohui Wang, Mingshu Chen, Tongrui Xiong, Y.C. Yan, Haowen Luo, Haofen Liang, Xiaokang Zhang, Weihao Zeng, Runxin Xu, Peiyi Wang, Jinhua Zhu, Ruoyu Zhang, Wenkai Yang, Qi Tang, Jiping Yu, Tian Ye, Ruizhe Pan, Honghui Ding, Xiaodong Liu, Lingxiao Luo, Zhihong Shao, Yuhan Wu, Jibai Lu, Wen Liu, Haoling Zhang, Jingcheng Hu, Yaoyang Ye, Chaofan Lin, Zhaochen Zhang, Jianan Tong, Hengxu Wu, Zhihao Li, Yicheng Wang, Luyao Wang, Yuzhuo Bai, Lingyue Fu, Ruifan Xu, R.Y. Wang, Zonglin Li, Mingqi Wei, Haiyang Shen, Chengyuan Zhang, Chao Jin, Zili Zhang, R.H. Yang, Xinbo Xu, Jian Zhou, Ruidong Zhu, Yuzhe Guo, Wenfeng Liang