您现在的位置是：首页 > 快讯快讯
DeepSeek宣布开源优化并行策略
zhoucl 2025-02-27 11:40:53 快讯 已有人查阅
导读Deepseek于开源周第四天宣布开源优化并行策略，其中DualPipe——包括一种用于V3/R1训练中计算-通信重叠的双向管道并行算法；EPLB——一种用于V3/R1的专家并行负载平衡器；以及分析V3/R1中的计算-通信重叠。(金十)
Deepseek在开源周第四天宣布开源优化并行策略，主要包括：
- **DualPipe**：V3/R1训练中的双向管道并行算法，实现计算与通信重叠。
- **EPLB**：V3/R1的专家并行负载平衡器。
- 分析V3/R1中的计算与通信重叠。
(金十)
本文标签：
很赞哦！ ()
