1.4 关键技术指标速览与口径辨析

1.4 关键技术指标速览与口径辨析

厂商发布会上的数字总是漂亮，但同样一个"算力"，稠密和稀疏能差一倍；同样一个"带宽"，单双工算法不同；同样一个"功耗"，是芯片功耗还是整柜功耗。本节帮你在后续章节里不被参数忽悠。

1.4.1 算力：稠密、稀疏与有效算力

算力是 AI 芯片最常被引用的指标，单位通常是每秒浮点运算次数（FLOPS）。但它有几个最容易踩坑的口径：

• 精度口径：同一个芯片，FP64（双精度）、FP16（半精度）、INT8（8 位整数）、甚至 FP8、FP4 的算力数字可以差好几倍。AI 训练常用低精度，所以厂商喜欢用低精度数字来宣传。比算力前，先比精度。
• 稠密 vs 稀疏：现代加速器支持结构化稀疏（典型是 2:4 稀疏），可以把理论算力数字翻一倍。但稀疏算力只有在模型和算法都支持稀疏时才能兑现，实际能拿到多少是另一回事。
• 峰值 vs 有效：峰值是"理论上每秒能做多少运算"，有效是"实际跑模型时每秒做了多少"。两者的差距可能高达数倍，差距来自内存带宽、通信开销、调度空闲。

⚠️ 一句话原则：跨平台比算力，必须先统一精度、再看稠密/稀疏、最后还要打折。直接拿厂商峰值数字横向比，结论几乎一定是错的。

1.4.2 带宽：HBM 带宽与互联带宽

带宽有两个完全不同的语境，初学者常混淆：

• 内存带宽（HBM 带宽）：芯片内部计算核心到显存的数据搬运速度，单位通常是 TB/s。它决定了一颗芯片"喂不喂得饱"自己的算力，是第 3 章的主角。
• 互联带宽（NVLink/HCCS/IB 带宽）：芯片与芯片之间、机柜与机柜之间的通信速度，单位通常是 GB/s。它决定了多颗芯片协同的紧密度，是第 4、5 章的主角。

两者的口径陷阱也不一样。内存带宽要看是单工还是双工（读+写是否同时计），互联带宽要看是单向还是双向聚合带宽（aggregate bandwidth）。同一个数字，口径不同意义差一倍。

                    带宽家族
        ┌──────────────┴──────────────┐
   内存带宽                        互联带宽
   (芯内：算到显存)               (芯间/柜间：通信)
   单位 TB/s                      单位 GB/s
   决定"喂得饱吗"                 决定"协同紧吗"
   口径：单工/双工                口径：单向/双向聚合
​

💡 关键认知：在大模型训练里，内存带宽往往比算力更稀缺。这也是为什么第 3 章会专门讲"内存墙"——很多训练任务是被带宽卡死，而不是被算力卡死的。

1.4.3 功耗与能效：芯片功耗、整柜功耗与 PUE

功耗指标同样有多重口径：

• 芯片功耗（TDP）：单颗芯片的热设计功耗，反映芯片本身的能耗水平。
• 整柜功耗：一个机柜的总功耗，包括芯片、内存、网络、风扇、电源损耗等。NVL72 这类系统常用整柜功耗来表达，因为它本质上是"机架级"产品。
• PUE（电源使用效率）：数据中心总能耗与 IT 设备能耗之比，反映制冷与辅助设施的额外开销。PUE 越接近 1 越好，传统风冷机房 PUE 常在 1.4 以上，液冷机房可降到 1.1–1.2。

⚠️ 整柜功耗是真正的硬约束：它直接决定了这台机器能不能进你现有的机房。一个百千瓦级机柜塞进普通机房（单柜通常只能给到几千瓦到十几千瓦），必须配套改造供电和制冷——这正是第 6、7 章「体」要解决的问题。

1.4.4 一个辨析小练习

假设你看到两条宣传语：「A 平台算力是 B 的 2 倍」「B 平台带宽比 A 高 30%」。在动手下结论前，至少要追问：

1. 算力的 2 倍，是同精度、同稠密/稀疏口径下的对比吗？
2. 带宽的 30%，是内存带宽还是互联带宽？是单向还是聚合？
3. 这两个数字是峰值还是实测有效值？

💡 本节的全部价值：让你在后续九章看到任何参数时，第一反应都是"这是什么口径"。养成这个习惯，你就能在大量营销数字里看出真实差距，也能避免被单一指标带偏。第 2.4 节会用算力口径做一次更深入的实战演练。

思考与延伸

1. 找一份你见过的 AI 芯片宣传材料，把里面的算力数字按本节的口径逐一标注（精度、稠密/稀疏、峰值/有效）。标注完，你对这颗芯片的认知变化了吗？
2. 为什么厂商更愿意宣传峰值算力而不是有效算力？如果让你设计一个"对用户更公平"的指标，你会怎么定义？
3. PUE 从 1.4 降到 1.1，对一个拥有 1 万个机柜的数据中心意味着一年省多少电？试着估算数量级（提示：从单柜功耗入手）。

第 1 章小结

• 算力竞赛已系统化：Scaling Law 把算力需求推到集群级，单芯片不再是胜负手，系统工程才是。
• 两大平台同题不同答：NVL72 走"机柜内全互联 + 单柜算力极致"，昇腾950 SuperPoD 走"超节点 + 大规模组网 + 全栈自主"。
• 芯网体链是全书坐标：从芯片到产业，四个维度层层支撑也层层制约，后续九章都按此展开。
• 指标要看口径：算力的精度与稠密/稀疏、带宽的内存/互联与单双工、功耗的芯片/整柜与 PUE，每一个口径都会改变结论。

读完本章，你已经拿到了阅读后续九章的"地图和防身术"。从下一章开始，我们正式进入「芯」——先看两大平台的计算核心到底是怎么设计的。

本节关键词：算力口径、稠密稀疏、内存带宽、互联带宽、PUE、整柜功耗　返回：第 1 章支柱页　下一篇：第 2 章 · 芯(一)：单芯片计算架构对比