1.3.3 Graph & Node：计算图的内部表示

文档摘要

1.3.3 Graph & Node：计算图的内部表示在深度学习框架的底层世界里，计算图不是一张挂在墙上的示意图，而是一段被精心编排、逐字解析、动态调度的可执行代码——它既是编译器眼中的中间表示（IR），也是运行时引擎手中的调度蓝图；它既承载着张量的血缘关系，也编码着内存复用的精妙契约。当我们谈论“Graph & Node：计算图的内部表示”，我们真正叩问的是这样一个问题：当这行 Python 代码被执行时，框架究竟在内存中构建了什么？这个结构如何支撑自动微分、图优化、设备迁移与内核融合？它的每一个字段、每一条边、每一次拓扑排序，都在为毫秒级的推理延迟和千卡级的训练吞吐默默计数。这不是抽象的模型图，而是可调试、可序列化、可重写、可验证的第一类运行时对象。