Gemma 系列开放模型包括一系列模型大小、功能和任务专用变体,可帮助您构建自定义生成式解决方案。在应用中使用 Gemma 模型时,可遵循以下主要路径:
- 选择一个模型并按原样部署在应用中
- 选择一个模型,针对特定任务对其进行调优,然后将其部署在应用中或与社区共享。
本指南可帮助您开始选择模型、测试其功能,以及根据需要调整您为应用选择的模型。
选择模型
本部分帮助您了解 Gemma 模型系列的官方变体,并为您的应用选择模型。模型变体提供通用功能或专门用于特定任务,并且以不同的参数大小提供,因此您可以选择具有首选功能并满足计算要求的模型。
Gemma 模型列表
下表列出了 Gemma 模型系列的主要变体及其高级功能:
参数大小 | 输入 | 输出 | 架构 | 款式/规格 | 目标平台 |
---|---|---|---|---|---|
2B | 文字 | 文字 | Gemma 1 | 移动设备和笔记本电脑 | |
30 亿 | 文字、图片 | 文字 | Gemma 1 | 移动设备和笔记本电脑 | |
70 亿 | 文字 | 文字 | Gemma 1 | 桌面设备和小型服务器 | |
90 亿 | 文字 | 文字 | 高端桌面设备和服务器 | ||
270 亿 | 文字 | 文字 | Gemma 2 | 大型服务器或服务器集群 |
您可以从 Kaggle 模型下载 Gemma 的所有官方模型变体。
测试模型
您可以通过设置具有下载的模型和支持软件的开发环境来测试 Gemma 模型。然后,您可以提示模型并评估其响应。将以下某个 Python 笔记本与您的首选机器学习框架搭配使用,以设置测试环境并提示 Gemma 模型:
在 AI Studio 中测试 Gemma 2
您可以使用 Google AI Studio 快速测试 Gemma 2,而无需设置开发环境。此 Web 应用可让您使用 Gemma 2 试用提示并评估其功能。
如需在 Google AI Studio 中试用 Gemma 2,请执行以下操作:
打开 AI Studio。
在右侧运行设置面板的模型字段中,选择一个 Gemma 2 模型。
在中央面板的底部,输入提示,然后选择运行。
如需详细了解如何使用 AI Studio,请参阅 Google AI Studio 快速入门。
调优模型
您可以通过对 Gemma 模型执行调参来更改这些模型的行为。调整模型需要具有足够大小和变化的输入数据集和预期响应来指导模型的行为。与运行 Gemma 模型生成文本相比,完成调参运行还需要更多的计算和内存资源。使用以下某个 Python 笔记本来设置调整开发环境并调整 Gemma 模型:
后续步骤
查看以下指南,了解如何使用 Gemma 构建更多解决方案: