第2章 模型转换与IR：从训练产物到部署契约

第2章 模型转换与IR：从训练产物到部署契约

本章要回答的三个问题：手里的 PyTorch 或 ONNX 模型，走哪条路线变成 IR？转换产物 IR 的内部到底装了什么、为什么值得读懂？转换器报「算子不支持」时，除了重装环境还能做什么？

为什么会有这一章

选型定了 OpenVINO（第 1 章的出口），第一道实操门槛就是转换。它是全书故障率最高的环节：报错信息晦涩、网上答案新旧混杂、成功的转换还可能埋着精度暗雷。这些困难的根源是大多数教程只教「敲哪条命令」，不教命令背后的机制——不知道 IR 是什么，就看不懂报错在说什么；不知道转换器做了哪些假设，就防不住它埋下的契约陷阱。本章把机制讲透再动手：两条转换路线的取舍、IR 一对文件的内部结构、算子映射的三维坐标，全部是排错时直接要用的知识。

另一个理由是工程协作。转换环节处在算法团队与部署团队的交界，预处理归谁、动态形状谁定、算子替换谁验收——这些扯皮最多的问题，本章用「契约」视角给出切分方案：谁声明、谁验收、以什么为凭据。

读完能解决什么

对照开头的三个问题，读完本章你应当能：按迭代节奏在 ovc 离线转换与 read_model 运行时导入之间做正确选择，并给静态形状、动态轴、布局与预处理参数做出不埋雷的声明；打开 IR 结构文件读出算子属性与端口形状，用它三分钟定位「输入尺寸不对」类问题；面对算子不支持的报错，按替换、扩展、回源三条出路的成本顺序处置，而不是从重装环境开始浪费时间；最后，把转换对拍脚本纳入自己的流程，让「转换没有引入数值偏差」从口头保证变成可执行的验证。

各节怎么分工

三节是「先走路、再看图、再修路」的关系：先把常规转换跑通，再解剖产物获得排错能力，最后攻克算子缺口这个非常规场景。三节连起来，就是转换环节的完整自助能力。

本章三节之间的依赖与出口如下：

读完自测：五问检验

一问：离线转换与运行时导入，各自的产物差异是什么？「一个留档一个不留档」之外，能不能说出对精度审计与启动时间的具体影响。二问：输入形状声明里的一个问号，会在编译期与运行期分别引发什么？三问：拿到一份 IR 的结构文件，先看哪三处？每处各能回答什么问题。四问：算子不被目标设备支持的三条出路，成本从低到高怎么排？止损线定在几天。五问：预处理常量被固化进 IR 之后，调用方的责任发生了什么变化？这一条为什么必须在接口文档里写明。前四问的答案都在本章小节里，第五问的答案藏在 2.1 节的参数语义与第 6 章的服务化契约之间——部署知识的特点就是环环相扣，本章正是那个环扣最密的地方。

本章高频追问

两个阅读前的高频疑问先答掉。一问：「我的模型转换一次就成功了，这章还用细读吗？」——转换成功只是入场券，形状声明与预处理契约埋的雷要到精度对拍或线上运行才炸，这章的另一半价值在防雷。二问：「算子不支持这类问题，等遇到再查不行吗？」——可以，但 2.3 节的价值是先建立三维坐标与三条出路的地图，故障现场按图索骥半小时；没有地图，现场试错的代价是两天起步。章名里的「契约」二字是全章的钥匙：转换环节产出的不只是文件，还有一堆隐式约定，这章教你把它们全部显式化。顺带一提，读完本章后不妨回头再看一眼第 1 章的选型记录——转换环节学到的模型约束，常常会反过来细化选型时写下的假设。

先决条件

本章假设你已完成第 1 章的选型（至少读过 1.1 与 1.2，知道 IR 在工具链中的位置）；手上有一个待部署的模型——PyTorch 权重或 ONNX 文件均可；环境装好了 Python 与 OpenVINO 运行时。不需要任何编译原理背景，本章讲到图与算子的地方都会配工程化的解释。

往下走到哪

本章的出口物是一份合法 IR 与对拍报告——它们正是第 3 章的入口：运行时怎么把 IR 编译到设备、内存怎么流转、调度怎么配。如果你在 2.3 节被迫走了算子替换或扩展的路，请额外留意第 3 章加载环节——改动过的图要在运行期做一次完整的冒烟验证。