6.1 机柜物理布局与器件分区 把 72 颗 GPU 和一堆交换芯片塞进一个机柜,绝不是"找个架子摞起来"这么简单——每一颗芯片的位置、每一组器件的分区,都直接影响散热、供电和可维护性。 6.1.1 为什么 AI 机柜不能随意堆叠 普通服务器机柜的做法相对随意——一台台 1U/2U 服务器叠起来,电源、网线、风扇各自独立,机柜本身只是个"铁架子"。但 AI 集群机柜完全不是这样,它是一个高度集成的物理系统,器件的位置经过精心设计。原因有三个: 第一,功耗密度太高。一个普通服务器几百瓦,机柜总功耗几千瓦;AI 机柜单颗芯片就几百瓦,整机柜上百千瓦。这种功耗密度要求供电和散热必须"贴近"芯片,不能像普通机柜那样靠通用风道。 第二,高速互联对距离敏感。
把 72 颗 GPU 和一堆交换芯片塞进一个机柜,绝不是"找个架子摞起来"这么简单——每一颗芯片的位置、每一组器件的分区,都直接影响散热、供电和可维护性。
普通服务器机柜的做法相对随意——一台台 1U/2U 服务器叠起来,电源、网线、风扇各自独立,机柜本身只是个"铁架子"。但 AI 集群机柜完全不是这样,它是一个高度集成的物理系统,器件的位置经过精心设计。原因有三个:
第一,功耗密度太高。一个普通服务器几百瓦,机柜总功耗几千瓦;AI 机柜单颗芯片就几百瓦,整机柜上百千瓦。这种功耗密度要求供电和散热必须"贴近"芯片,不能像普通机柜那样靠通用风道。
第二,高速互联对距离敏感。NVLink/HCCS 这类高速互联对走线长度极其敏感——线越长,信号衰减和延迟越大。所以计算芯片和交换芯片必须物理上紧挨着,走线越短越好。
第三,重量惊人。一个满载的 AI 机柜(含液冷冷板、铜背板、电源)重量可达吨级,这对机柜结构强度、楼板承重、安装方式都提出了远超普通机柜的要求。
普通服务器机柜 vs AI 集群机柜: 普通机柜: 通用铁架 + 独立服务器 总功耗几千瓦,靠通用风道散热 重量百公斤级 AI 集群机柜:高度集成的物理系统 总功耗上百千瓦,必须液冷 重量吨级,结构特殊设计
💡 认知转变:AI 集群机柜不是一个"装服务器的柜子",而是一台"机架级计算机"。理解这个转变,才能理解后面所有的物理设计。
尽管不同厂商的具体布局有差异,AI 集群机柜基本都遵循"四大功能分区"的原则:
| 分区 | 内容 | 设计要点 |
|---|---|---|
| 计算区 | GPU/NPU + 内存 + 主板 | 集中布局,液冷贯穿,供电集中配送 |
| 交换区 | NVSwitch / 交换芯片 / 背板接口 | 居中或紧邻计算区,缩短高速走线 |
| 电源区 | PSU / 母线 / BBU / 配电 | 上下分布或侧置,保证配电均衡 |
| 液冷区 | manifold(分水器)/ 管路 / 接头 | 独立通道,与电气物理隔离 |
这种分区的核心思想是"同类器件集中、异类器件隔离"。计算器件集中在一起,便于液冷冷板成片覆盖、供电母线集中配送;交换器件紧邻计算区,把高速走线压到最短;电源和液冷各走各的通道,互不干扰。
⚠️ 液电隔离:液冷管路和电气器件必须物理隔离,且接头处要有防漏设计。一旦冷却液泄漏到电气区,后果不堪设想。这是液冷机柜设计里最基本也最重要的安全原则(详见第 7 章)。
计算区是机柜的核心,它的布局有几个值得关注的逻辑:
计算区节点堆叠(侧视): ┌── 节点N(GPU + 主板 + 液冷冷板)──┐ ├── 节点N-1 ────────────────────────┤ ├── ... ────────────────────────────┤ ← manifold ├── 节点2 ───────────────────────────┤ 并联 └── 节点1 ───────────────────────────┘ 各冷板 每个节点:液冷冷板贴芯片,供电母线集中配送
AI 机柜的重量是个容易被低估的问题。一个满载 NVL72 机柜,加上铜背板、液冷冷板、电源、机柜钢结构,总重量可达吨级。这带来几个工程挑战:
💡 "整机柜交付"的趋势:因为机柜太重、内部走线太复杂,现在越来越多 AI 集群采用"整机柜交付"——厂商在工厂里把整个机柜组装好、测试好,整体运到机房直接上架通电。这避免了现场组装的复杂性和出错率,是 AI 时代数据中心交付方式的重大变化(详见第 9 章)。
最后值得强调的是——机柜的物理布局和前五章讲的逻辑架构是紧密呼应的。计算区里堆叠的 GPU,正是第 2、3 章讲的"芯";交换区里的 NVSwitch,正是第 4 章讲的"网";电源区和液冷区,正是本章和第 7 章的"体"。逻辑架构最终都要落到这些物理器件上,物理布局的好坏直接决定了逻辑架构能否充分发挥。
下一节我们钻进电源区,看上百千瓦的电是怎么安全可靠地分配到每一颗芯片的。
本节关键词:机柜物理布局、功能分区、计算区、交换区、整机柜交付 返回:第 6 章支柱页 下一节:6.2 高密度供电架构