第三节：在FoundryLocal中使用开源模型

文档摘要

第三节：在 Foundry Local 中使用开源模型摘要了解如何将 Hugging Face 和其他开源模型引入 Foundry Local。学习模型选择策略、社区贡献工作流程、性能比较方法，以及如何通过自定义模型注册扩展 Foundry。本节内容与每周的“模型星期一”探索主题相关，帮助您在扩展到 Azure 之前，在本地评估和运营开源模型。学习目标完成本节后，您将能够：发现与评估：通过质量与资源权衡，识别候选模型（mistral、gemma、qwen、deepseek）。加载与运行：使用 Foundry Local CLI 下载、缓存并启动社区模型。基准测试：应用一致的延迟 + 令牌吞吐量 + 质量评估方法。扩展：按照与 SDK 兼容的模式注册或调整自定义模型包装器。