使用 Gemini API 进行微调

提示设计策略（例如少样本提示）可能并不总能产生您需要的结果。微调是一种流程，可提高模型针对特定任务的效果，或帮助模型在说明不足且您有一系列示例来展示所需输出时符合特定的输出要求。

本页面从概念上简要介绍了如何微调背后的文本模型， Gemini API 文本服务。当您准备好开始进行微调时，请尝试精调教程。如果您想 有关如何针对特定应用场景自定义 LLM 的更笼统的介绍，请查看 出局 LLM：微调、蒸馏和提示工程 在 机器学习速成课程。

微调的工作原理

微调的目标是进一步提高模型针对特定任务的效果。通过为模型提供训练 数据集包含该任务的许多示例。对于小众任务 通过在中等程度上调优模型来显著提升模型性能 数量。这种模型微调有时也称为监督式微调，以便与其他类型的微调区分开来。

您的训练数据应构建为包含提示输入和 预期响应输出。您还可以直接使用示例数据对模型进行调参 。目标是让模型模仿期望的行为 来说明该行为或任务。

当您运行调参作业时，模型会学习帮助它的其他参数 对必要的信息进行编码，以执行您想要的任务或了解 行为这些参数随后可在推断时使用。此 调优作业是一个新模型，它实际上是新模型 和原始模型之间的差异。

准备数据集

在开始微调之前，您需要一个数据集来调优模型。对于 以获得最佳性能，则数据集中的样本应具有较高的质量， 并且代表真实的输入和输出。

格式

数据集中包含的样本应与您的预期生产流量相匹配。如果您的数据集包含特定的格式、关键字、说明或信息，则生产数据应以相同方式设置格式并包含相同的说明。

例如，如果数据集中的样本包含 "question:" 和 "context:"，则生产流量的格式也应设置为包含 "question:" 和 "context:"，其顺序与在数据集样本中的显示顺序相同。如果您排除上下文，模型将无法识别该模式， 即使确切的问题出现在数据集内的样本中。

再举一个例子，下面是用于生成序列中下一个数字的应用的 Python 训练数据：

training_data = [
  {"text_input": "1", "output": "2"},
  {"text_input": "3", "output": "4"},
  {"text_input": "-3", "output": "-2"},
  {"text_input": "twenty two", "output": "twenty three"},
  {"text_input": "two hundred", "output": "two hundred one"},
  {"text_input": "ninety nine", "output": "one hundred"},
  {"text_input": "8", "output": "9"},
  {"text_input": "-98", "output": "-97"},
  {"text_input": "1,000", "output": "1,001"},
  {"text_input": "10,100,000", "output": "10,100,001"},
  {"text_input": "thirteen", "output": "fourteen"},
  {"text_input": "eighty", "output": "eighty one"},
  {"text_input": "one", "output": "two"},
  {"text_input": "three", "output": "four"},
  {"text_input": "seven", "output": "eight"},
]

为数据集中的每个示例添加提示或前言也可以帮助提升经过调优的模型的性能。请注意，如果提示或序言 也应该包含在调优参数提示中， 生成模型。

限制

注意：Gemini 1.5 Flash 数据集微调具有以下特征 限制：

• 每个示例的输入大小上限为 4 万个字符。
• 每个示例的输出大小上限为 5,000 个字符。

训练数据大小

您只需 20 个示例即可微调模型。其他数据 通常可以提高响应的质量。您应以 100 到 500 个示例为目标，具体取决于您的应用。下表显示了针对各种常见任务微调文本模型的建议数据集大小：

上传您的调参数据集

数据是使用 API 或通过在 Google AI Studio 中上传的文件内嵌传递的。

如需使用该客户端库，请在 createTunedModel 调用中提供数据文件。文件大小上限为 4 MB。请参阅 Python 微调快速入门 。

要使用 c网址 调用 REST API，请向 training_data 参数。请参阅 使用 c网址 调参快速入门 。

高级调参设置

创建调整作业时，您可以指定以下高级设置：

• 周期：对整个训练集进行一次完整的训练遍历，每次训练时 已经过一次处理。
• 批次大小：一次训练迭代中使用的一组示例。批处理大小决定了批处理中的示例数量。
• 学习速率：一个浮点数，用于指示算法在每次迭代中调整模型参数的幅度。例如，与学习率为 0.1 相比，学习率为 0.3 会使权重和偏差的调整力度提高三倍。高学习率和低学习率各有利弊，应根据您的用例进行调整。
• 学习速率调节系数：速率调节系数用于修改模型的原始学习速率。值为 1 表示使用模型的原始学习速率。大于 1 的值会提高学习率，介于 1 和 0 之间的值会降低学习率。

建议的配置

下表显示了用于微调 基础模型：

损失曲线显示了在每个训练周期结束后，模型的预测与训练示例中的理想预测的偏差程度。理想情况下 在曲线停滞之前，曲线的最低点进行训练。例如，下图显示了损失曲线在第 4-6 个迭代大约达到平台期，这意味着您可以将 Epoch 参数设置为 4，仍然可以获得相同的效果。

检查调参作业状态

您可以在 Google AI Studio 的我的库标签页中检查调优作业的状态，也可以在 Gemini API 中使用经过调优的模型的 metadata 属性检查其状态。

排查错误

本部分包含一些提示，介绍了如何解决您在 创建经过调整的模型。

身份验证

使用 API 和客户端库进行调整需要进行身份验证。您可以使用 API 密钥（推荐）或 OAuth 凭据设置身份验证。有关设置 API 密钥的文档，请参阅 设置 API 密钥。

如果您看到 'PermissionDenied: 403 Request had insufficient authentication scopes' 错误，则可能需要使用 OAuth 设置用户身份验证 凭据。如需为 Python 配置 OAuth 凭据，请参阅我们的 OAuth 设置教程。

已取消的模型

在微调作业完成之前，您可以随时取消该作业。不过，取消的模型的推理性能是不可预测的，尤其是在训练阶段提前取消调优作业时。如果您因为想在较早的迭代中停止训练而取消了作业，则应创建新的调优作业，并将迭代设置为较低的值。

经过调优的模型的限制

注意：已调参模型具有以下限制：

• 经调参的 Gemini 1.5 Flash 模型的输入限制为 40,000 个字符。
• 经过调优的模型不支持 JSON 模式。
• 仅支持文本输入。

后续步骤

开始学习微调教程：

• 微调教程 (Python)
• 微调教程 (REST)