3.1 EP 抽象接口层


文档摘要

3.1 EP 抽象接口层 3.1 EP 抽象接口层:异构加速世界的通用契约与运行时宪法 当一个 ONNX 模型从训练框架导出、穿越序列化边界、落入推理引擎怀抱的那一刻,它尚未真正“活”过来——它只是一份静态的计算图契约:节点定义算子语义,边声明张量依赖,属性标注形状与类型。真正的生命律动始于执行提供者(Execution Provider, EP)的介入。而 EP 抽象接口层,正是这场生命跃迁的临界面:它不负责具体算子如何在 GPU 上调度 warp,也不决定内存页是否驻留于 HBM;


发布者: 作者: 转发
评论区 (0)
U