3.1.1 `ov::Core`:资源管理器与设备发现


文档摘要

3.1.1 :资源管理器与设备发现 ——这个看似朴素的类名,实则是OpenVINO™运行时真正的“心脏起搏器”。它不直接执行推理,却掌控着所有推理引擎的呼吸节律;它不参与张量计算,却决定着每一层算子最终在何处落脚、以何种精度燃烧;它不暴露模型结构,却在毫秒级内完成从CPU到GPU、从集成核显到独立NPU的设备拓扑测绘与资源仲裁。当开发者调用 时,表面是一行简洁API,背后却是 在数十毫秒内完成的一场精密调度:遍历PCIe拓扑、查询驱动版本、校验IR兼容性、加载插件动态库、初始化设备上下文、分配内存池、绑定DMA通道、预热CUDA流……这一切,都始于一个构造函数: 。 这不是一个空壳对象,而是一个可配置、可观测、可调试、可嵌入的异构资源中枢。


发布者: 作者: 转发
评论区 (0)
U