Gemma 系列开放模型包括一系列模型大小、功能 和任务专用的变体,可帮助您构建自定义生成式解决方案。 下面列出了在 Google Cloud 项目中使用 Gemma 模型时 应用:
- 选择一个模型并按原样部署在应用中
- 选择一个模型,针对特定任务对其进行调优,然后进行部署 或者与社区分享
本指南可帮助您开始选择模型、测试 其功能,并视需要调优您为 部署应用
选择模型
本部分帮助您了解 Gemma 模型的官方变体 系列,并为您的应用选择一个模型。模型变体提供了 或专门用于特定任务, 参数大小,因此您可以根据自己的偏好选择 并满足您的计算要求
Gemma 模型列表
下表列出了 Gemma 模型系列的主要变体及其 预期的部署平台:
参数大小 | 输入 | 输出 | 架构 | 变体 | 目标平台 |
---|---|---|---|---|---|
2B | 文本 | 文本 | Gemma 2 | 移动设备和笔记本电脑 | |
Gemma 1 | |||||
30 亿 | 文字、图片 | 文本 | Gemma 1 | 移动设备和笔记本电脑 | |
70 亿 | 文本 | 文本 | Gemma 1 | 桌面设备和小型服务器 | |
90 亿 | 文本 | 文本 | Gemma 2 | 高端桌面设备和服务器 | |
Gemma 1 | |||||
270 亿 | 文本 | 文本 | Gemma 2 | 大型服务器或服务器集群 |
您可以从以下位置下载 Gemma 的所有官方模型变体: Kaggle 模型。
测试模型
您可以通过使用 下载模型和支持软件。然后,您可以提示模型 评估其响应。将以下任一 Python 笔记本与您的 首选机器学习框架来设置测试环境和提示, Gemma 模型:
在 AI Studio 中测试 Gemma 2
您可以使用以下命令快速测试 Gemma 2,而无需设置开发环境 Google AI Studio。借助此 Web 应用,你可以使用 Gemma 2 试用提示 并评估其功能。
如需在 Google AI Studio 中试用 Gemma 2,请执行以下操作:
打开 AI Studio。
在右侧运行设置面板的模型字段中, 选择一个 Gemma 2 模型。
在中央面板的底部,输入提示,然后选择运行。
如需详细了解如何使用 AI Studio,请参阅 Google AI Studio 快速入门。
调优模型
您可以通过对 Gemma 模型执行调参来更改这些模型的行为。调优 模型需要足够规模的输入数据集和预期响应 和变体来指导模型的行为。您还需要大量 与运行实验相比,完成调参作业所需的计算和内存资源更多 Gemma 模型。使用以下某个 Python 笔记本 设置调整开发环境并调整 Gemma 模型:
后续步骤
查看以下指南,了解如何使用 Gemma 构建更多解决方案: