您现在的位置是：首页 > 快讯快讯
DeepSeek开源周第二天，开源 EP通信库DeepEP
zhoucl 2025-02-25 11:41:04 快讯 已有人查阅
导读DeepSeek开源周第二天，很高兴介绍 DeepEP - 第一个用于 MoE 模型训练和推理的开源 EP 通信库。
高效且优化的全对全通信
通过 NVLink 和 RDMA 支持节点内和节点间
用于训练和推理预填充的高吞吐量内核
用于推理解码的低延迟内核
原生 FP8 调度支持
灵活的 GPU 资源控制，用于计算通信重叠
DeepSeek开源周第二天，介绍 DeepEP — 首个用于 MoE 模型训练和推理的开源通信库。
- 高效优化的全对全通信，支持 NVLink 和 RDMA，适用于节点内和节点间。
- 高吞吐量内核，支持训练和推理预填充。
- 低延迟内核，专为推理解码设计。
- 原生 FP8 调度支持。
- 灵活的 GPU 资源控制，实现计算与通信重叠。
本文标签：
很赞哦！ ()
