详情

快科技 2 月 27 日音信，今天是 DeepSeek 开源周第四日欧洲杯体育，不同于前三日早早就发出的开源花式。

今天 DeepSeek 公布开源花式，比平时稍许晚些，让顺心者们等的稍许有点战抖，包括小编在内。

关联词恭候的为止老是值得的，这不今天公布了两项开源执行。话未几说，转入正题。

今天 DeepSeek 发布了DualPipe（双向管谈并行算法）和 EPLB（群众并行负载平衡器）。

据 DeepSeek 先容，DualPipe 是一项在DeepSeek-V3期间施展中引入的双向管谈等值算法，它已矣了向后和向后计较通讯阶段的双向重复，权臣减少检会悠闲时刻。

同期，活水线气泡优化这一更正退换战略，镌汰传统管谈并行中的"气泡"问题，有用熏陶硬件资源欺诈率。在 GitHub 上，现在该算法一经取得 544 个 Star 储藏。

另外，在此谈一谈EPLB（群众并行负载平衡器）。

EPLB（群众并行负载平衡器）具有动态负载平衡、分层与全局平衡结合、流量优化的脾气。

具体来看，动态负载平衡是基于夹杂群众（MoE）架构，通过冗余群众战略复制高负载群众，并继承启发式分派算法优化 GPU 间的负载平衡；

另外皮分层与全局平衡结合方面，它既因循单个节点的分层负载处置，也已矣跨节点的全局负载平衡，减少 GPU 闲置。

此外皮流量优化上，可在平衡负载的同期，通过疗养群众散播镌汰节点间通讯数据量，熏陶全体检会为止。

欧洲杯体育