DeepSeek开源第二弹,DeepEP通信库开源20分钟获1000收藏!支持FP8在内低精度运算,适 ...

2025-2-25 11:41| 发布者: 仟茂传媒| 查看: 1111| 评论: 0|来自: 和讯财经

摘要: DeepSeek宣布开源五个软件库,其中包括用于MoE模型的DeepEP通信库。DeepEP支持高效全对全通信和低精度运算,适配高性能计算需求,并针对非对称带宽转发进行优化。在开源20分钟后,DeepEP在GitHub上已获得超1000Star ...

仟茂科技讯 2月25日上午消息,在上周DeepSeek宣布本周将是开源周(OpenSourceWeek),并将连续开源五个软件库后。DeepSeek今日向公众开源了DeepEP。

据介绍,DeepEP是一个用于MoE(混合专家)模型训练和推理的EP(Expert Parallelism)通信库,可以实现高效且优化的全对全通信,支持包括FP8在内的低精度运算,适配现代高性能计算需求。同时,DeepEP针对NVLink到RDMA的非对称带宽转发场景进行了深度优化,不仅提供了高吞吐量,还支持SM(Streaming Multiprocessors)数量控制,兼顾训练和推理任务的高吞吐量表现。

目前,在宣布开源20分钟左右,GitHub上DeepEP已获得超1000Star收藏。

来源:仟茂网

(责任编辑:宋政 HN002)

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com


鲜花

握手

雷人

路过

鸡蛋