1.4 关键技术指标速览与口径辨析
1.4 关键技术指标速览与口径辨析
厂商发布会上的数字总是漂亮，但同样一个"算力"，稠密和稀疏能差一倍；同样一个"带宽"，单双工算法不同；同样一个"功耗"，是芯片功耗还是整柜功耗。本节帮你在后续章节里不被参数忽悠。
1.4.1 算力：稠密、稀疏与有效算力
算力是 AI 芯片最常被引用的指标，单位通常是每秒浮点运算次数（FLOPS）。但它有几个最容易踩坑的口径：
- 精度口径：同一个芯片，FP64（双精度）、FP16（半精度）、INT8（8 位整数）、甚至 FP8、FP4 的算力数字可以差好几倍。AI 训练常用低精度，所以厂商喜欢用低精度数字来宣传。比算力前，先比精度。
- 稠密 vs 稀疏：现代加速器支持结构化稀疏（典型是 2:4 稀疏），可以把理论算力数字翻一倍。但稀疏算力只有在模型和算法都支持稀疏时才能兑现，实际能拿到多少是另一回事。
- 峰值 vs 有效：峰值是"理论上每秒能做多少运算"，有效是"实际跑模型时每秒做了多少"。两者的差距可能高达数倍，差距来自内存带宽、通信开销、调度空闲。
| 口径 | 含义 | 容易被误读为 |
|---|---|---|
| 峰值稠密算力 | 理论最大，无任何开销 | 实际性能 |
| 峰值稀疏算力 | 含 2:4 稀疏加速，需算法配合 | 普遍可用的算力 |
| 有效算力 | 真实业务下实测 | （厂商很少主动给） |
⚠️ 一句话原则：跨平台比算力，必须先统一精度、再看稠密/稀疏、最后还要打折。直接拿厂商峰值数字横向比，结论几乎一定是错的。
1.4.2 带宽：HBM 带宽与互联带宽
带宽有两个完全不同的语境，初学者常混淆：
- 内存带宽（HBM 带宽）：芯片内部计算核心到显存的数据搬运速度，单位通常是 TB/s。它决定了一颗芯片"喂不喂得饱"自己的算力，是第 3 章的主角。
- 互联带宽（NVLink/HCCS/IB 带宽）：芯片与芯片之间、机柜与机柜之间的通信速度，单位通常是 GB/s。它决定了多颗芯片协同的紧密度，是第 4、5 章的主角。
两者的口径陷阱也不一样。内存带宽要看是单工还是双工（读+写是否同时计），互联带宽要看是单向还是双向聚合带宽（aggregate bandwidth）。同一个数字，口径不同意义差一倍。
带宽家族 ┌──────────────┴──────────────┐ 内存带宽 互联带宽 (芯内：算到显存) (芯间/柜间：通信) 单位 TB/s 单位 GB/s 决定"喂得饱吗" 决定"协同紧吗" 口径：单工/双工 口径：单向/双向聚合
💡 关键认知：在大模型训练里，内存带宽往往比算力更稀缺。这也是为什么第 3 章会专门讲"内存墙"——很多训练任务是被带宽卡死，而不是被算力卡死的。
1.4.3 功耗与能效：芯片功耗、整柜功耗与 PUE
功耗指标同样有多重口径：
- 芯片功耗（TDP）：单颗芯片的热设计功耗，反映芯片本身的能耗水平。
- 整柜功耗：一个机柜的总功耗，包括芯片、内存、网络、风扇、电源损耗等。NVL72 这类系统常用整柜功耗来表达，因为它本质上是"机架级"产品。
- PUE（电源使用效率）：数据中心总能耗与 IT 设备能耗之比，反映制冷与辅助设施的额外开销。PUE 越接近 1 越好，传统风冷机房 PUE 常在 1.4 以上，液冷机房可降到 1.1–1.2。
| 指标 | 反映什么 | 典型量级 |
|---|---|---|
| 芯片 TDP | 单芯片能耗 | 数百瓦级 |
| 整柜功耗 | 机架级能耗 | 数十到上百千瓦 |
| PUE | 机房制冷效率 | 1.1（液冷）~ 1.5+（风冷） |
⚠️ 整柜功耗是真正的硬约束：它直接决定了这台机器能不能进你现有的机房。一个百千瓦级机柜塞进普通机房（单柜通常只能给到几千瓦到十几千瓦），必须配套改造供电和制冷——这正是第 6、7 章「体」要解决的问题。
1.4.4 一个辨析小练习
假设你看到两条宣传语：「A 平台算力是 B 的 2 倍」「B 平台带宽比 A 高 30%」。在动手下结论前，至少要追问：
- 算力的 2 倍，是同精度、同稠密/稀疏口径下的对比吗？
- 带宽的 30%，是内存带宽还是互联带宽？是单向还是聚合？
- 这两个数字是峰值还是实测有效值？
💡 本节的全部价值：让你在后续九章看到任何参数时，第一反应都是"这是什么口径"。养成这个习惯，你就能在大量营销数字里看出真实差距，也能避免被单一指标带偏。第 2.4 节会用算力口径做一次更深入的实战演练。
思考与延伸
- 找一份你见过的 AI 芯片宣传材料，把里面的算力数字按本节的口径逐一标注（精度、稠密/稀疏、峰值/有效）。标注完，你对这颗芯片的认知变化了吗？
- 为什么厂商更愿意宣传峰值算力而不是有效算力？如果让你设计一个"对用户更公平"的指标，你会怎么定义？
- PUE 从 1.4 降到 1.1，对一个拥有 1 万个机柜的数据中心意味着一年省多少电？试着估算数量级（提示：从单柜功耗入手）。
第 1 章小结
- 算力竞赛已系统化：Scaling Law 把算力需求推到集群级，单芯片不再是胜负手，系统工程才是。
- 两大平台同题不同答：NVL72 走"机柜内全互联 + 单柜算力极致"，昇腾950 SuperPoD 走"超节点 + 大规模组网 + 全栈自主"。
- 芯网体链是全书坐标：从芯片到产业，四个维度层层支撑也层层制约，后续九章都按此展开。
- 指标要看口径：算力的精度与稠密/稀疏、带宽的内存/互联与单双工、功耗的芯片/整柜与 PUE，每一个口径都会改变结论。
读完本章，你已经拿到了阅读后续九章的"地图和防身术"。从下一章开始，我们正式进入「芯」——先看两大平台的计算核心到底是怎么设计的。
本节关键词：算力口径、稠密稀疏、内存带宽、互联带宽、PUE、整柜功耗 返回：第 1 章支柱页 下一篇：第 2 章 · 芯(一)：单芯片计算架构对比