DeepSeek,重磅突发!

2025-2-25 11:13| 发布者: 仟茂传媒| 查看: 2355| 评论: 0|来自: 每日经济新闻

摘要: 每经编辑 程鹏 2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。 特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐 ...

每经编辑 程鹏    

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。

特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。

CFF20LXzkOxqN7xcquf4vibBRE5ic9XjyCsRzkcXhzaaJibYETpNXwSiaibcPfnnibiaeQkwVUQWEH7ZXH09OHLkzyXnQ.jpg

编辑|程鹏 盖源源

校对|段炼

封面图片来源:视觉中国(资料图 图文无关)

CFF20LXzkOyYmal29zn37N5Bg2NQ4tyN4ylvMFyM3VmF4x90Uj4cDmoEphibia4RN55ibIXmqU1Od9w2Q5nhA08lA.png

来源:每日经济新闻app


鲜花

握手

雷人

路过

鸡蛋

相关分类