开始使用 Gemma 模型

Gemma 系列开放模型包括一系列模型大小、功能 和任务专用的变体,可帮助您构建自定义生成式解决方案。 下面列出了在 Google Cloud 项目中使用 Gemma 模型时 应用:

  • 选择一个模型并按原样部署在应用中
  • 选择一个模型,针对特定任务对其进行调优,然后进行部署 或者与社区分享

本指南可帮助您开始选择模型、测试 其功能,并视需要调优您为 部署应用

选择模型

本部分帮助您了解 Gemma 模型的官方变体 系列,并为您的应用选择一个模型。模型变体提供了 或专门用于特定任务, 参数大小,因此您可以根据自己的偏好选择 并满足您的计算要求

Gemma 模型列表

下表列出了 Gemma 模型系列的主要变体及其 预期的部署平台:

参数大小 输入 输出 架构 变体 目标平台
2B 文本 文本 Gemma 2 移动设备和笔记本电脑
Gemma 1
30 亿 文字、图片 文本 Gemma 1 移动设备和笔记本电脑
70 亿 文本 文本 Gemma 1 桌面设备和小型服务器
90 亿 文本 文本 Gemma 2 高端桌面设备和服务器
Gemma 1
270 亿 文本 文本 Gemma 2 大型服务器或服务器集群

您可以从以下位置下载 Gemma 的所有官方模型变体: Kaggle 模型

测试模型

您可以通过使用 下载模型和支持软件。然后,您可以提示模型 评估其响应。将以下任一 Python 笔记本与您的 首选机器学习框架来设置测试环境和提示, Gemma 模型:

在 AI Studio 中测试 Gemma 2

您可以使用以下命令快速测试 Gemma 2,而无需设置开发环境 Google AI Studio。借助此 Web 应用,你可以使用 Gemma 2 试用提示 并评估其功能。

如需在 Google AI Studio 中试用 Gemma 2,请执行以下操作:

  1. 打开 AI Studio

  2. 在右侧运行设置面板的模型字段中, 选择一个 Gemma 2 模型。

  3. 在中央面板的底部,输入提示,然后选择运行

如需详细了解如何使用 AI Studio,请参阅 Google AI Studio 快速入门

调优模型

您可以通过对 Gemma 模型执行调参来更改这些模型的行为。调优 模型需要足够规模的输入数据集和预期响应 和变体来指导模型的行为。您还需要大量 与运行实验相比,完成调参作业所需的计算和内存资源更多 Gemma 模型。使用以下某个 Python 笔记本 设置调整开发环境并调整 Gemma 模型:

后续步骤

查看以下指南,了解如何使用 Gemma 构建更多解决方案: