1.2.2.3 孙-尼定律 (Sun-Ni's Law)：受存储受限的并行性

文档摘要

1.2.2.3 孙-尼定律 (Sun-Ni's Law)：受存储受限的并行性当缓存行撞上矩阵乘法：一个被孙-尼定律钉在墙上的真实故障凌晨两点十七分，监控告警第三次亮起——某金融风控实时图神经网络推理服务的P99延迟从82ms骤升至417ms，GPU利用率却仅徘徊在38%。运维同事甩来一张截图：里显存带宽占用率压着98%红线狂抖，而Tensor Core利用率像被冻住的指针，纹丝不动。这不是算力瓶颈。这是存储瓶颈在敲门。更准确地说，是孙-尼定律（Sun-Ni’s Law）在用最冷峻的数学语言宣告：并行加速的天花板，从来不是你有多少个核，而是你能把多少数据，在多短的时间内，喂到这些核的嘴边。它不像阿姆达尔定律那样广为人知，也不似古斯塔夫森定律那般鼓舞人心；