第三章:Microsoft Olive 优化套件 目录 简介 什么是 Microsoft Olive? 安装 快速入门指南 示例:将 Qwen3 转换为 ONNX INT4 高级用法 Olive 配方库 最佳实践 故障排除 其他资源 简介 Microsoft Olive 是一个强大且易于使用的硬件感知模型优化工具包,简化了针对不同硬件平台部署机器学习模型的优化过程。无论目标是 CPU、GPU 还是专用 AI 加速器,Olive 都能帮助您在保持模型准确性的同时实现最佳性能。 什么是 Microsoft Olive? Olive 是一个易于使用的硬件感知模型优化工具,集成了行业领先的模型压缩、优化和编译技术。它与 ONNX Runtime 配合使用,提供端到端的推理优化解决方案。