6.1 机柜物理布局与器件分区


文档摘要

6.1 机柜物理布局与器件分区 把 72 颗 GPU 和一堆交换芯片塞进一个机柜,绝不是"找个架子摞起来"这么简单——每一颗芯片的位置、每一组器件的分区,都直接影响散热、供电和可维护性。 6.1.1 为什么 AI 机柜不能随意堆叠 普通服务器机柜的做法相对随意——一台台 1U/2U 服务器叠起来,电源、网线、风扇各自独立,机柜本身只是个"铁架子"。但 AI 集群机柜完全不是这样,它是一个高度集成的物理系统,器件的位置经过精心设计。原因有三个: 第一,功耗密度太高。一个普通服务器几百瓦,机柜总功耗几千瓦;AI 机柜单颗芯片就几百瓦,整机柜上百千瓦。这种功耗密度要求供电和散热必须"贴近"芯片,不能像普通机柜那样靠通用风道。 第二,高速互联对距离敏感。

6.1 机柜物理布局与器件分区

把 72 颗 GPU 和一堆交换芯片塞进一个机柜,绝不是"找个架子摞起来"这么简单——每一颗芯片的位置、每一组器件的分区,都直接影响散热、供电和可维护性。

6.1.1 为什么 AI 机柜不能随意堆叠

普通服务器机柜的做法相对随意——一台台 1U/2U 服务器叠起来,电源、网线、风扇各自独立,机柜本身只是个"铁架子"。但 AI 集群机柜完全不是这样,它是一个高度集成的物理系统,器件的位置经过精心设计。原因有三个:

第一,功耗密度太高。一个普通服务器几百瓦,机柜总功耗几千瓦;AI 机柜单颗芯片就几百瓦,整机柜上百千瓦。这种功耗密度要求供电和散热必须"贴近"芯片,不能像普通机柜那样靠通用风道。

第二,高速互联对距离敏感。NVLink/HCCS 这类高速互联对走线长度极其敏感——线越长,信号衰减和延迟越大。所以计算芯片和交换芯片必须物理上紧挨着,走线越短越好。

第三,重量惊人。一个满载的 AI 机柜(含液冷冷板、铜背板、电源)重量可达吨级,这对机柜结构强度、楼板承重、安装方式都提出了远超普通机柜的要求。

普通服务器机柜 vs AI 集群机柜: 普通机柜: 通用铁架 + 独立服务器 总功耗几千瓦,靠通用风道散热 重量百公斤级 AI 集群机柜:高度集成的物理系统 总功耗上百千瓦,必须液冷 重量吨级,结构特殊设计

💡 认知转变:AI 集群机柜不是一个"装服务器的柜子",而是一台"机架级计算机"。理解这个转变,才能理解后面所有的物理设计。

6.1.2 四大功能分区

尽管不同厂商的具体布局有差异,AI 集群机柜基本都遵循"四大功能分区"的原则:

分区 内容 设计要点
计算区 GPU/NPU + 内存 + 主板 集中布局,液冷贯穿,供电集中配送
交换区 NVSwitch / 交换芯片 / 背板接口 居中或紧邻计算区,缩短高速走线
电源区 PSU / 母线 / BBU / 配电 上下分布或侧置,保证配电均衡
液冷区 manifold(分水器)/ 管路 / 接头 独立通道,与电气物理隔离

这种分区的核心思想是"同类器件集中、异类器件隔离"。计算器件集中在一起,便于液冷冷板成片覆盖、供电母线集中配送;交换器件紧邻计算区,把高速走线压到最短;电源和液冷各走各的通道,互不干扰。

⚠️ 液电隔离:液冷管路和电气器件必须物理隔离,且接头处要有防漏设计。一旦冷却液泄漏到电气区,后果不堪设想。这是液冷机柜设计里最基本也最重要的安全原则(详见第 7 章)。

6.1.3 计算区的布局逻辑

计算区是机柜的核心,它的布局有几个值得关注的逻辑:

  • 节点成组:GPU/NPU 通常以"节点"为单位组织(一个节点含若干颗芯片 + 主板 + 本地内存),多个节点堆叠成计算区。
  • 液冷贯穿:液冷冷板要覆盖每一颗高功耗芯片,且冷板之间通过 manifold 并联,保证流量均衡。
  • 前后风道或侧送风:即使是液冷机柜,通常也保留风道给非液冷器件(如硬盘、低功耗芯片)散热,做"液冷为主、风冷为辅"的混合散热。
计算区节点堆叠(侧视): ┌── 节点N(GPU + 主板 + 液冷冷板)──┐ ├── 节点N-1 ────────────────────────┤ ├── ... ────────────────────────────┤ ← manifold ├── 节点2 ───────────────────────────┤ 并联 └── 节点1 ───────────────────────────┘ 各冷板 每个节点:液冷冷板贴芯片,供电母线集中配送

6.1.4 重量与可维护性

AI 机柜的重量是个容易被低估的问题。一个满载 NVL72 机柜,加上铜背板、液冷冷板、电源、机柜钢结构,总重量可达吨级。这带来几个工程挑战:

  • 楼板承重:普通办公楼楼板承重远不够,AI 机柜必须放在专门加固的机房楼面。
  • 运输与安装:吨级机柜不能用普通叉车和电梯,需要专用起重设备和运输方案。
  • 可维护性:故障件要从吨级机柜里抽出来维护,必须设计滑轨、快速接头、模块化抽换等机制。

💡 "整机柜交付"的趋势:因为机柜太重、内部走线太复杂,现在越来越多 AI 集群采用"整机柜交付"——厂商在工厂里把整个机柜组装好、测试好,整体运到机房直接上架通电。这避免了现场组装的复杂性和出错率,是 AI 时代数据中心交付方式的重大变化(详见第 9 章)。

6.1.5 物理布局与逻辑架构的呼应

最后值得强调的是——机柜的物理布局和前五章讲的逻辑架构是紧密呼应的。计算区里堆叠的 GPU,正是第 2、3 章讲的"芯";交换区里的 NVSwitch,正是第 4 章讲的"网";电源区和液冷区,正是本章和第 7 章的"体"。逻辑架构最终都要落到这些物理器件上,物理布局的好坏直接决定了逻辑架构能否充分发挥。

下一节我们钻进电源区,看上百千瓦的电是怎么安全可靠地分配到每一颗芯片的。

思考与延伸

  1. AI 机柜的"整机柜交付"模式相比传统"现场组装"有什么优势和劣势?在什么场景下现场组装反而更合适?
  2. 计算区、交换区、电源区、液冷区这四个分区,如果必须在机柜空间有限的情况下"砍掉"一个的精细化设计(简化为通用方式),你最不愿意砍哪个?为什么?
  3. 液冷和电气必须物理隔离,但液冷冷板又要贴着 GPU(电气器件)。这对机柜内部的空间设计提出了什么矛盾的要求?工程师是如何解决的?

本节关键词:机柜物理布局、功能分区、计算区、交换区、整机柜交付 返回:第 6 章支柱页 下一节:6.2 高密度供电架构


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U