三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

腾讯开源UCL-MPComm通信库,零拷贝传输性能提升30%、非零拷贝最高提升5倍!

腾讯开源UCL-MPComm通信库,零拷贝传输性能提升30%、非零拷贝最高提升5倍!

【导语:腾讯网平团队宣布开源UCL-MPComm通信库,并将其作为transport接入Mooncake TENT。该通信库针对AI Memory池化场景的数据传输需求深度优化,能实现高性能通信,且性能提升显著。】


UCL-MPComm接入Mooncake TENT,性能提升显著

腾讯网平团队开源的UCL-MPComm通信库,将作为一种传输引擎接入Mooncake TENT。它能实现零拷贝传输性能提升30%、非零拷贝传输性能最高提升5倍。这一提升对于数据中心内大规模计算节点间的数据传输意义重大,能极大提高数据传输效率。

自研引擎打底,后续将持续开源组件

UCL-MPComm底层基于自研UCL-Engine通信引擎,腾讯网平后续还将持续开源更多基于UCL-Engine的高性能通信组件。这显示了腾讯在通信技术领域的持续投入和技术积累,有望为行业带来更多的技术创新和发展。

三大优化策略,攻克传输瓶颈

在UCL-MPComm中,腾讯网平团队实现了独立于业务线程的全局通信引擎,并采用了三大优化策略。一是NUMA感知拓扑发现,初始化时探测机器拓扑,明确网卡所属NUMA,避免跨区绕路,消除“跨区总线”瓶颈。

二是多网卡动态负载均衡,实时追踪网卡负载,将数据块调度到最空闲的网卡,建链时“快卡配快卡、慢卡配慢卡”,充分利用网络资源。三是Two-Stage通信流水线,通过预建“中转仓”,让CPU拷贝与分块RDMA相互重叠、流水推进,在非零拷贝场景下性能提升最高5倍,且接口能与零拷贝接口在协议层无缝互通。

编辑观点:腾讯开源UCL-MPComm通信库是通信技术领域的一次重要突破,其性能提升和优化策略将为数据中心通信带来新的变革,持续开源计划也将推动行业技术进步。

← 返回列表