第十八章：自我指导学习资源

文档摘要

自我指导学习资源本课程使用了多个核心资源，包括来自OpenAI和Azure OpenAI的参考资料，以帮助理解术语和教程。以下是一些非全面的列表，供您自己进行自我指导学习。主要资源标题/链接 | 描述使用OpenAI模型进行微调 | 微调通过在比提示中能容纳的例子多得多的情况下进行训练来改进少样本学习，从而节省成本、提高响应质量，并实现更低延迟的请求。了解OpenAI提供的微调概述。什么是Azure OpenAI中的微调？ | 了解什么是微调（概念），为什么应该考虑它（动机问题），应该使用什么数据（训练）以及如何衡量质量使用微调自定义模型 | Azure OpenAI服务允许您使用微调将我们的模型定制为您的个人数据集。

自我指导学习资源

本课程使用了多个核心资源，包括来自OpenAI和Azure OpenAI的参考资料，以帮助理解术语和教程。以下是一些非全面的列表，供您自己进行自我指导学习。

1. 主要资源

标题/链接	描述
使用OpenAI模型进行微调	微调通过在比提示中能容纳的例子多得多的情况下进行训练来改进少样本学习，从而节省成本、提高响应质量，并实现更低延迟的请求。了解OpenAI提供的微调概述。
什么是Azure OpenAI中的微调？	了解什么是微调（概念），为什么应该考虑它（动机问题），应该使用什么数据（训练）以及如何衡量质量
使用微调自定义模型	Azure OpenAI服务允许您使用微调将我们的模型定制为您的个人数据集。学习如何使用Azure AI Studio、Python SDK或REST API对选定模型进行微调。
LLM微调建议	大型语言模型（LLMs）可能在特定领域、任务或数据集中表现不佳，或者可能产生不准确或误导性的输出。何时应考虑微调作为解决方案？
连续微调	连续微调是一个迭代过程，选择一个已经微调过的模型作为基础模型，然后在此基础上进一步微调新的训练示例集。
微调与功能调用	使用带有功能调用示例对模型进行微调可以提高模型输出的准确性和一致性，并节省成本。
微调模型：Azure OpenAI指南	查看此表以了解哪些模型可以在Azure OpenAI中进行微调，这些模型在哪些区域可用。如有需要，查找它们的令牌限制和训练数据过期日期。
微调还是不微调？这是一个问题	这个时长为30分钟的2023年10月的AI节目讨论了微调的好处、缺点和实用见解，帮助你做出决策。
LLM微调入门	此AI手册资源引导您了解数据要求、格式化、超参数微调以及应知的挑战和限制。
教程：Azure OpenAI GPT3.5 Turbo微调	学习创建一个样本微调数据集，准备微调，创建微调作业，并在Azure上部署微调后的模型。
教程：在Azure AI Studio中微调Llama 2模型	Azure AI Studio允许您使用适合低代码开发者的基于UI的工作流，对大型语言模型进行个性化定制。请参见此示例。
教程：在Azure上使用单个GPU微调Hugging Face模型	本文档介绍了如何在Azure Databricks上使用Hugging Face转换器库对Hugging Face模型进行微调。
培训：使用Azure机器学习微调基础模型	Azure机器学习中的模型目录提供了许多开源模型，您可以对其进行微调以满足特定任务需求。尝试这个模块，它是来自AzureML生成式AI学习路径的一部分。
教程：Azure OpenAI微调	使用W&B在Microsoft Azure上对GPT-3.5或GPT-4模型进行微调，允许详细跟踪和分析模型性能。此指南扩展了OpenAI微调指南的概念，并针对Azure OpenAI提供了具体步骤和功能。

2. 次要资源

这一部分包含了额外值得探索的资源，但在本课程中没有时间覆盖。这些资源可能会在未来课程中被涵盖，或者作为后续任务选项，在以后使用。目前，使用它们来构建您在这个主题上的专业知识和知识。

标题/链接	描述
OpenAI食谱：聊天模型微调的数据准备和分析	此笔记本工具用于预处理和分析用于聊天模型微调的聊天数据集。检查格式错误，提供基本统计信息，并估算微调成本所需的令牌计数。查看：gpt-3.5-turbo的微调方法。
OpenAI食谱：使用Qdrant进行检索增强生成（RAG）的微调	本笔记本旨在展示如何全面地微调OpenAI模型以实现检索增强生成（RAG）。我们还将集成Qdrant和少量学习以提升模型性能并减少虚构内容。
OpenAI食谱：使用Weights & Biases进行GPT微调	Weights & Biases（W&B）是AI开发者平台，具有训练模型、微调模型和利用基础模型的工具。首先阅读他们的OpenAI微调指南，然后尝试食谱练习。
社区教程 Phinetuning 2.0 - 小型语言模型的微调	介绍Phi-2，微软的新小型模型，非常强大且紧凑。本教程将引导您完成Phi-2的微调，演示如何构建独特的数据集并使用QLoRA进行微调。
Hugging Face教程如何在2024年使用Hugging Face微调LLM	本博客文章将引导您了解如何在2024年使用Hugging Face TRL、Transformers和Datasets对开放LLM进行微调。定义一个用例，设置开发环境，准备数据集，微调模型，测试评估它，然后将其部署到生产环境中。
Hugging Face：AutoTrain高级版	提供更快更简单的训练和部署最先进的机器学习模型的方法。仓库有Colab友好的教程和YouTube视频指导，用于微调。反映了最近的本地优先更新。阅读AutoTrain文档

声明:
本文件灏天文库团队进行了翻译。尽管我们力求准确，但请注意，翻译可能包含错误或不准确之处。原文档以其原始语言为准。我们不对因使用此翻译而产生的任何误解或误译负责。