第 4 章 · 网(一):机柜内全互联 本章要回答的核心问题:上一章我们看到内存墙逼着模型被切分到多卡,多卡之间必须高速通信——但什么样的互联,才配得上"把多颗芯焊成一颗大芯"?NVL72 的铜背板和昇腾的 HCCS 给出了两种答案。 章节摘要 机柜内全互联是 AI 集群区别于普通服务器集群的关键所在。本章从集合通信(尤其是 AllReduce)的带宽放大效应讲起,说明为什么机柜内必须用远超以太网的专用互联;然后分别拆解 NVIDIA NVL72 的 NVLink/NVSwitch 铜背板方案(72 颗 GPU 单一内存域、无阻塞网络)与华为昇腾950 的 HCCS 片间互联方案(近邻全互联拓扑);最后在带宽、规模、扩展边界三个维度上对比两者。
本章要回答的核心问题:上一章我们看到内存墙逼着模型被切分到多卡,多卡之间必须高速通信——但什么样的互联,才配得上"把多颗芯焊成一颗大芯"?NVL72 的铜背板和昇腾的 HCCS 给出了两种答案。
机柜内全互联是 AI 集群区别于普通服务器集群的关键所在。本章从集合通信(尤其是 AllReduce)的带宽放大效应讲起,说明为什么机柜内必须用远超以太网的专用互联;然后分别拆解 NVIDIA NVL72 的 NVLink/NVSwitch 铜背板方案(72 颗 GPU 单一内存域、无阻塞网络)与华为昇腾950 的 HCCS 片间互联方案(近邻全互联拓扑);最后在带宽、规模、扩展边界三个维度上对比两者。读完本章,你将理解"为什么 NVL72 能把柜做成一颗大芯片",以及 HCCS 在昇腾路线里扮演的角色。
本章先讲"为什么"(4.1 集合通信与带宽放大),再讲两大平台"怎么做"(4.2 NVL72 铜背板、4.3 HCCS),最后"对比"(4.4 互联对比)。这种结构延续了前三章的逻辑——先原理、后平台、再评判。需要特别注意的是,本章是第 3.4 节"内存墙催生互联需求"的直接延续,理解了内存墙,才能真正理解机柜内全互联为什么必须是"全"互联。
4.1 为什么机柜内需要全互联(集合通信/带宽放大) │ ┌────┴────┐ ▼ ▼ 4.2 NVL72 4.3 昇腾950 ←─ 两种实现 铜背板 HCCS NVSwitch │ │ └──────┬───────┘ ▼ 4.4 机柜内互联对比 ←─ 带宽/规模/扩展边界
下面这张 Mermaid 图把两大机柜内互联方案并排画出,是本章的核心对照图。
💡 如何读这张图:左边的 NVL72 是"交换式"拓扑——所有 GPU 通过一组 NVSwitch 芯片互连,任意两点之间都有专用通路,是真正的无阻塞全互联;右边的 HCCS 是"近邻式/分组式"拓扑——NPU 之间通过片间高速总线就近连接,更强调近邻全互联与组内紧耦合。两种思路代表了机柜内互联的两种哲学。
本支柱页是第 4 章的入口,正式内容由四个子章节展开:
建议按 4.1 → 4.2 → 4.3 → 4.4 顺序阅读。本章只讲机柜内,机柜间组网留给第 5 章。
本章关键词:NVLink、NVSwitch、HCCS、铜背板、机柜内互联、集合通信 上一篇:第 3 章 下一篇:第 5 章 · 网(二):机柜间组网与 SuperPoD 扩展