2.3.3 跨设备数据传输最小化策略

文档摘要

2.3.3 跨设备数据传输最小化策略在分布式图计算系统中，当图规模突破单机内存边界——比如处理数十亿顶点、数百亿边的社交网络快照，或实时更新的金融交易图谱——我们不得不将图切分后部署到多台设备（GPU服务器、异构加速卡集群，甚至跨地域的边缘节点）上协同计算。此时，一个看似朴素却致命的问题浮出水面：图算法每轮迭代中，有多少数据被迫穿越PCIe总线、RDMA网络或TCP/IP链路？这些跨设备通信开销，是否已悄然吞噬掉所有并行加速带来的收益？答案常常是肯定的。我们在某大型推荐平台的实际调优中观测到：当GNN训练扩展至32张A100 GPU时，通信耗时占单步迭代总耗时的67.3%；