Phi-3：微软Phi-3模型的实践示例

Phi-3 烹饪书：微软 Phi-3 模型的实践示例

Phi 是微软开发的一系列开源 AI 模型。Phi 模型是最强大且性价比最高的小型语言模型（SLM），在多种语言、推理、编码和数学基准测试中表现优于同等大小和更大一号的模型。Phi-3 家族包括 mini、small、medium 和 vision 版本，基于不同的参数量进行训练，以满足各种应用场景。有关微软 Phi 家族的详细信息，请访问 欢迎来到 Phi 家族 页面。

目录

• 介绍

  • 设置您的环境(✅)
  • 欢迎来到 Phi 家族(✅)
  • 了解关键技术(✅)
  • Phi 模型的 AI 安全性(✅)
  • Phi-3 硬件支持(✅)
  • Phi-3 模型及跨平台的可用性(✅)
  • 使用 Guidance-ai 和 Phi(✅)

• 快速入门

  • 在 GitHub 模型目录中使用 Phi-3(✅)
  • 在 Hugging face 中使用 Phi-3(✅)
  • 使用 OpenAI SDK 的 Phi-3(✅)
  • 通过 Http 请求使用 Phi-3(✅)
  • 在 Azure AI Studio 中使用 Phi-3(✅)
  • 使用 Azure MaaS 或 MaaP 进行 Phi-3 模型推理(✅)
  • 在 Azure AI Studio 中将 Phi-3 模型部署为无服务器 API(✅)
  • 在 Ollama 中使用 Phi-3(✅)
  • 在 LM Studio 中使用 Phi-3(✅)
  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)
  • 使用 Phi-3 和 LiteLLM(✅)

• 推理 Phi-3

  • 在 iOS 上推理 Phi-3(✅)
  • 在 Jetson 上推理 Phi-3(✅)
  • 在 AI PC 上推理 Phi-3(✅)
  • 使用 Apple MLX 框架推理 Phi-3(✅)
  • 在本地服务器上推理 Phi-3(✅)
  • 使用 AI 工具包在远程服务器上推理 Phi-3(✅)
  • 使用 Rust 推理 Phi-3(✅)
  • 在本地推理 Phi-3-Vision(✅)
  • 使用 Kaito AKS 和 Azure 容器（官方支持）推理 Phi-3(✅)
  • 推理您微调的 ONNX Runtime 模型(✅)

• 微调 Phi-3

  • 下载并创建示例数据集(✅)
  • 微调场景(✅)
  • 微调 vs RAG(✅)
  • 微调使 Phi-3 成为行业专家(✅)
  • 使用 AI 工具包为 VS Code 微调 Phi-3(✅)
  • 使用 Azure 机器学习服务微调 Phi-3(✅)
  • 使用 Lora 微调 Phi-3(✅)
  • 使用 QLora 微调 Phi-3(✅)
  • 使用 Azure AI Studio 微调 Phi-3(✅)
  • 使用 Azure ML CLI/SDK 微调 Phi-3(✅)
  • 使用 Microsoft Olive 微调(✅)
  • 使用 Weights and Bias 微调 Phi-3-vision(✅)
  • 使用 Apple MLX 框架微调 Phi-3(✅)
  • 微调 Phi-3-vision（官方支持）(✅)
  • 使用 Kaito AKS 和 Azure 容器（官方支持）微调 Phi-3(✅)
  • 微调 Phi-3 和 3.5 Vision(✅)

• 评估 Phi-3

  • 负责任的 AI 简介(✅)
  • Promptflow 简介(✅)
  • 用于评估的 Azure AI Studio 简介(✅)

• Phi-3-mini 的端到端示例

• 端到端样例介绍(✅)

  • 准备你的行业数据(✅)
  • 使用 Microsoft Olive 构建你的项目架构(✅)
  • 在安卓设备上使用 Phi-3、ONNXRuntime Mobile 和 ONNXRuntime Generate API 的本地聊天机器人(✅)
  • Hugging Face Space WebGPU 和 Phi-3-mini 演示 - Phi-3-mini 为用户提供了一个私密（且强大）的聊天机器人体验。你可以试试(✅)
  • 在浏览器中使用 Phi3、ONNX Runtime Web 和 WebGPU 的本地聊天机器人(✅)
  • OpenVino 聊天(✅)
  • 多模型 - 互动的 Phi-3-mini 和 OpenAI Whisper(✅)
  • MLFlow - 构建包装器并使用 MLFlow 的 Phi-3(✅)
  • 模型优化 - 如何使用 Olive 为 ONNX Runtime Web 优化 Phi-3-min 模型(✅)
  • 使用 Phi-3 mini-4k-instruct-onnx 的 WinUI3 应用(✅)
  • WinUI3 多模型 AI 驱动的笔记应用示例(✅)
  • 使用 Prompt flow 微调和集成自定义 Phi-3 模型(✅)
  • 在 Azure AI Studio 中使用 Prompt flow 微调和集成自定义 Phi-3 模型(✅)
  • 在 Azure AI Studio 中评估微调后的 Phi-3 / Phi-3.5 模型，重点关注微软的负责任 AI 原则(✅)
  • Phi-3.5-mini-instruct 语言预测示例（中文/英文）(✅)

• Phi-3-vision 的端到端样例

  • Phi-3-vision-图像文本到文本(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 嵌入(✅)
  • 演示：Phi-3 回收(✅)
  • Phi-3-vision - 使用 Phi3-Vision 和 OpenVINO 的视觉语言助手(✅)
  • Phi-3 Vision Nvidia NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 多帧或多图像示例(✅)

• Phi-3.5-MoE 的端到端样例

  • Phi-3.5 专家模型混合（MoEs）社交媒体示例(✅)
  • 使用 NVIDIA NIM Phi-3 MOE、Azure AI 搜索和 LlamaIndex 构建检索增强生成（RAG）管道(✅)

• Phi-3 的实验室和工作坊样例

  • C# .NET 实验室(✅)
  • 使用 Microsoft Phi-3 系列构建你自己的 Visual Studio Code GitHub Copilot 聊天(✅)
  • 本地 WebGPU Phi-3 Mini RAG 聊天机器人样例与本地 RAG 文件(✅)
  • Phi-3 ONNX 教程(✅)

• Phi-3-vision ONNX 教程(✅)

  • 使用 ONNX Runtime generate() API 运行 Phi-3 模型(✅)
  • Phi-3 ONNX 多模型 LLM 聊天界面，这是一款聊天演示(✅)
  • C# Hello Phi-3 ONNX 示例 Phi-3(✅)
  • C# API Phi-3 ONNX 示例以支持 Phi3-Vision(✅)
  • 在 CodeSpace 中运行 C# Phi-3 示例(✅)
  • 使用 Promptflow 和 Azure AI 搜索与 Phi-3(✅)
  • 使用 Windows Copilot 库的 Windows AI-PC API

• 学习 Phi-3.5

  • Phi-3.5 家族的新功能(✅)
  • 量化 Phi-3.5 家族(✅)
    • 使用 llama.cpp 量化 Phi-3.5(✅)
    • 使用 onnxruntime 的生成式 AI 扩展量化 Phi-3.5(✅)
    • 使用 Intel OpenVINO 量化 Phi-3.5(✅)
    • 使用 Apple MLX 框架量化 Phi-3.5(✅)
  • Phi-3.5 应用示例
    • Phi-3.5-Instruct WebGPU RAG 聊天机器人(✅)
    • 使用 Phi-3.5 和 GitHub 模型创建自己的 Visual Studio Code 聊天助理(✅)

使用 Phi-3 模型

Azure AI Studio 上的 Phi-3

你可以学习如何使用 Microsoft Phi-3，并在不同硬件设备上构建端到端解决方案。要亲自体验 Phi-3，请先使用 Azure AI Studio, Azure AI Model Catalog 来试用模型并根据你的场景自定义 Phi-3。你可以在 Azure AI Studio 快速入门 中了解更多信息。

操场
每个模型都有一个专用的操场来测试模型 Azure AI Playground。

GitHub 模型上的 Phi-3

你可以学习如何使用 Microsoft Phi-3，并在不同硬件设备上构建端到端解决方案。要亲自体验 Phi-3，请先使用 GitHub Model Catalog 来试用模型并根据你的场景自定义 Phi-3。你可以在 GitHub Model Catalog 快速入门 中了解更多信息。

操场
每个模型都有一个专用的 操场来测试模型。

Hugging Face 上的 Phi-3

你也可以在 Hugging Face 上找到该模型。

操场
Hugging Chat 操场

多语言支持

Note:
这些翻译是使用开源的 co-op-translator 自动生成的，可能包含错误或不准确之处。对于重要信息，建议参考原文或咨询专业人工翻译。如果你想添加或更新翻译，请参考 co-op-translator 仓库，你可以通过简单的命令轻松贡献。

商标

此项目可能包含项目、产品或服务的商标或标识。经授权使用 Microsoft 商标或标识必须遵循 Microsoft 的商标与品牌指南。
在此项目的修改版本中使用 Microsoft 商标或标识不得引起混淆或暗示 Microsoft 的赞助。任何第三方商标或标识的使用都必须遵循第三方的政策。

免责声明：
本文档使用基于机器的人工智能翻译服务进行翻译。尽管我们努力确保准确性，但请注意，自动翻译可能包含错误或不准确之处。应以原文档的母语版本为权威来源。对于关键信息，建议进行专业的人类翻译。我们对因使用本翻译而产生的任何误解或误读不承担责任。