3.3 昇腾950 的内存设计
文档摘要
3.3 昇腾950 的内存设计 昇腾950 的内存设计与 Blackwell 面临同样的物理规律，却走在不同的约束下——先进制程受限、HBM 供应链敏感，这些现实逼出了不同的工程取舍。 3.3.1 同样的内存墙，不同的约束 先确立一个前提：昇腾950 和 Blackwell 面对的是同一堵内存墙。达芬奇架构的 Cube 单元同样饥渴，同样需要高带宽来喂饱；大模型的参数同样越来越大，同样需要大容量来装下。物理规律面前人人平等。 但两者的约束条件不同。Blackwell 背后是成熟的全球 HBM 供应链和台积电先进封装生态，可以放心堆多颗 HBM3e；昇腾950 则在国产替代和供应链自主的语境下，必须考虑 HBM 的可获得性、先进封装的自主能力，以及与自研内存路线的协同。
3.3 昇腾950 的内存设计
昇腾950 的内存设计与 Blackwell 面临同样的物理规律，却走在不同的约束下——先进制程受限、HBM 供应链敏感，这些现实逼出了不同的工程取舍。
3.3.1 同样的内存墙，不同的约束
先确立一个前提：昇腾950 和 Blackwell 面对的是同一堵内存墙。达芬奇架构的 Cube 单元同样饥渴，同样需要高带宽来喂饱；大模型的参数同样越来越大，同样需要大容量来装下。物理规律面前人人平等。
但两者的约束条件不同。Blackwell 背后是成熟的全球 HBM 供应链和台积电先进封装生态，可以放心堆多颗 HBM3e；昇腾950 则在国产替代和供应链自主的语境下，必须考虑 HBM 的可获得性、先进封装的自主能力，以及与自研内存路线的协同。这些约束不会改变物理规律，但会改变工程选择。
💡 理解昇腾内存设计的钥匙：不是"它想做所以做"，而是"它在特定约束下能做什么"。把供应链约束纳入考量，昇腾的很多设计选择就有了合理的解释。
3.3.2 HBM 与自研内存的协同路线
公开信息显示，昇腾系列在内存子系统上走的是"HBM + 自研路线协同"的方向。这里有几个值得关注的维度：
- HBM 的使用：昇腾旗舰芯片同样依赖 HBM 来提供高带宽，因为这是当前唯一能在合理面积内堆出 TB/s 级带宽的成熟方案。在这一点上，昇腾和 Blackwell 的物理选择是一致的。
- 国产 HBM 探索：在国产替代语境下，国内厂商也在推进国产 HBM 的研发与量产，目标是降低对单一外部供应链的依赖。这条路线进展受制于国内先进封装与 DRAM 工艺成熟度。
- 自研内存技术的可能方向：业界公开讨论中，昇腾平台也探索过包括存算融合、新型内存介质在内的自研方向。这些技术多处于研发或早期阶段，本教程不引用具体未公开参数，重点指出"自研内存"是昇腾长期路线图的一部分。
昇腾内存路线（公开方向梳理）： 近期：依赖 HBM 提供高带宽（与 Blackwell 物理选择一致） │ ▼ 中期：推进国产 HBM，降低外部供应链依赖 │ ▼ 长期：探索存算融合、新型介质等自研方向
⚠️ 关于未公开参数：昇腾950 的具体内存容量、带宽、堆叠数量属厂商未公开或半公开信息，且不同来源口径不一。本教程刻意不引用具体数字，避免误导。读者若需精确参数，建议查阅华为官方最新技术资料。
3.3.3 带宽与容量的工程取舍
无论用哪种内存方案，昇腾950 都要在"带宽 vs 容量 vs 成本"这个三角里做权衡。这个三角对所有 AI 芯片都成立，但在昇腾的约束下更紧：
| 维度 | 含义 | 昇腾面临的额外约束 |
|---|---|---|
| 带宽 | 喂数据的速度 | 受 HBM 可获得性与国产替代进度影响 |
| 容量 | 能装多少参数 | 受堆叠数量与封装产能限制 |
| 成本 | 单位带宽/容量的代价 | 国产路线初期良率与规模效应不足 |
在制程受限的现实下，昇腾很难像 Blackwell 那样单纯靠"堆更多更快的 HBM"来无限提升单卡带宽。因此昇腾的总体策略是用集群规模弥补单卡差距——单卡带宽不够，就用更多卡协同，靠互联把总带宽做上去。这正是第 4、5 章「网」的主题，也是昇腾 SuperPod 路线的内存层根源。
💡 "芯"不足，"网"来补：这句概括了昇腾的整体战略。当单卡内存带宽受制程和供应链限制无法做到极致时，把多卡用高速互联连起来、用集体带宽补单卡带宽，就成了自然选择。理解了这一点，就能理解为什么昇腾特别强调 SuperPoD 的规模化能力。
3.3.4 缓解内存墙的架构手段
除了"堆 HBM"这条主路，昇腾架构里还有一些缓解内存墙的常见手段，这些手段在 GPU 侧也有对应物，原理上是通用的：
- 片上存储层次：达芬奇架构的 Cube 单元带专用缓冲（L0A/L0B/L0C），配合 L1/L2 缓存，让频繁复用的数据尽可能留在片上，减少对 HBM 的反复访问。
- 数据复用与分块：通过精心设计的分块策略，让一次加载的数据参与尽可能多的运算，提高算术强度（回顾第 2.4 节屋顶线模型）。
- 算子融合：把多个连续的小算子合并成一个大算子，避免中间结果反复写回显存。现代 AI 框架都大量使用这一技术。
这些手段不能突破物理带宽上限，但能让有限的带宽发挥更大效用。它们对 GPU 和 NPU 同样适用，区别只在于各家的微架构实现细节。在第 4 章开始讲互联之前，先用下一节把"内存墙如何反向驱动集群架构"讲透——这是连接"芯"与"网"的关键桥梁。
思考与延伸
- 如果国产 HBM 在带宽上长期落后于国际最新一代，昇腾用"集群规模补单卡"的策略有什么代价？这些代价会在什么场景下显现？
- 存算融合（把计算做在内存里）被很多人视为突破内存墙的终极方案。它能完全替代 HBM 吗？目前阻碍它落地的工程难题有哪些？
- 假设你是昇腾架构师，在手 HBM 带宽只有竞争对手 70% 的约束下，你会优先在"片上存储"还是"互联"上做投入？为什么？
本节关键词：昇腾950 内存、国产 HBM、存算融合、带宽容量权衡、自研内存路线 返回：第 3 章支柱页 下一节：3.4 内存墙与系统级影响