Gemma 開放式模型系列包含各種模型大小、功能和專門工作變化版本,可協助您建構自訂生成式解決方案。以下是應用程式中使用 Gemma 模型時,可遵循的主要路徑:
- 選取模型,並在應用程式中原樣部署
- 選取模型,將其調整為特定工作,然後在應用程式中部署模型,或與社群分享。
這份指南可協助您開始挑選模型、測試其功能,以及視需要微調為應用程式選取的模型。
試用 Gemma 3 在 Kaggle 取得模型 在 Hugging Face 取得模型
選擇模型
本節將說明 Gemma 模型系列的官方變化版本,以及如何為應用程式選取模型。模型變化版本提供一般功能,或專門用於特定工作,且提供不同參數大小,讓您能選擇具備所需功能且符合運算需求的模型。
Gemma 模型清單
下表列出 Gemma 系列型號的主要變化版本,以及這些變化版本的預期部署平台:
參數大小 | 輸入功率 | 輸出內容 | Variant | Foundation | 預定平台 |
---|---|---|---|---|---|
10 億 | 文字 | 文字 | Gemma 3 | 行動裝置和單板電腦 | |
20 億 | 文字 | 文字 | Gemma 2 | 行動裝置和筆電 | |
Gemma 1 | |||||
30 億次 | 文字、圖片 | 文字 | Gemma 2 | 桌上型電腦和小型伺服器 | |
40 億 | 文字、圖片 | 文字 | Gemma 3 | 桌上型電腦和小型伺服器 | |
7B | 文字 | 文字 | Gemma 1 | 桌上型電腦和小型伺服器 | |
90 億 | 文字 | 文字 | Gemma 2 | 高階桌上型電腦和伺服器 | |
10B | 文字、圖片 | 文字 | Gemma 2 | 高階桌上型電腦和伺服器 | |
120 億 | 文字、圖片 | 文字 | Gemma 3 | 高階桌上型電腦和伺服器 | |
27B | 文字、圖片 | 文字 | Gemma 3 | 大型伺服器或伺服器叢集 | |
文字 | 文字 | Gemma 2 | |||
28B | 文字、圖片 | 文字 | Gemma 2 | 大型伺服器或伺服器叢集 |
Gemma 系列模型也包含特殊用途和研究模型,包括 ShieldGemma、DataGemma、Gemma Scope 和 Gemma-APS。
測試模型
您可以透過下載模型和支援軟體,設定開發環境,以便測試 Gemma 模型。接著,您可以提示模型並評估其回應。請使用下列任一 Python 筆記本,搭配偏好的機器學習架構,設定測試環境並提示 Gemma 模型:
在 AI Studio 中測試 Gemma 3
您可以使用 Google AI Studio 快速測試 Gemma,無須設定開發環境。這個網頁應用程式可讓您使用 Gemma 試用提示,並評估其功能。
如要在 Google AI Studio 中試用 Gemma 3,請按照下列步驟操作:
開啟 AI Studio。
在右側的「執行設定」面板中,選取「模型」欄位,選取不同大小的 Gemma 模型。
在中央面板底部輸入提示,然後選取「執行」。
如要進一步瞭解如何使用 AI Studio,請參閱 Google AI Studio 快速入門指南。
調整模型
您可以對 Gemma 模型進行調整,以變更模型的行為。調整模型時,您需要有足夠大小和變化的輸入內容和預期回應資料集,以便引導模型的行為。相較於執行 Gemma 模型以產生文字,完成調整執行作業所需的運算和記憶體資源也要多得多。請使用下列其中一個 Python 筆記本,設定調整開發環境並調整 Gemma 模型:
後續步驟
請參閱下列指南,瞭解如何使用 Gemma 建構更多解決方案: