Gemma 開放式模型系列包括各種模型大小、功能 和任務專屬變化版本 協助打造自訂生成式解決方案 將 Gemma 模型用於 應用程式:
- 選取模型,然後在應用程式中依原樣部署
- 選取模型,配合特定工作調整模型,然後部署模型 或與社群分享連結
本指南可協助您開始挑選模型、測試 並且視需要調整您所選模型 應用程式
選擇模型
本節將協助您瞭解 Gemma 模型的官方變化版本 並選取應用程式的模型模型變化版本 一般功能或專門用於特定工作 且參數大小各有不同 以便選出符合需求的模型 並滿足運算需求
Gemma 模型清單
下表列出 Gemma 模型系列的主要變體及其 部署平台:
參數大小 | 輸入功率 | 輸出內容 | 架構 | 變化版本 | 目標平台 |
---|---|---|---|---|---|
20 億 | 文字 | 文字 | Gemma 2 | 行動裝置和筆記型電腦 | |
Gemma 1 | |||||
30 億次 | 文字、圖片 | 文字 | Gemma 1 | 行動裝置和筆記型電腦 | |
70 億 | 文字 | 文字 | Gemma 1 | 桌機和小型伺服器 | |
90 億 | 文字 | 文字 | Gemma 2 | 高階桌上型電腦和伺服器 | |
Gemma 1 | |||||
270 億次 | 文字 | 文字 | Gemma 2 | 大型伺服器或伺服器叢集 |
您可以從以下位置下載所有官方 Gemma 模型變化版本: Kaggle 模型。
測試模型
如要測試 Gemma 模型,請使用 下載模型和支援軟體接著可以提示模型 評估回應請將下列任一 Python 筆記本與 偏好的機器學習架構來設定測試環境和提示 Gemma 模型
在 AI Studio 中測試 Gemma 2
如要快速測試 Gemma 2,無需設定開發環境: Google AI Studio這個網頁應用程式可讓您試用 Gemma 2 的提示功能 並評估其功能
如要在 Google AI Studio 中試用 Gemma 2,請按照下列步驟操作:
開啟 AI Studio。
在右側的「Run settings」(執行設定) 面板的「Model」(模型) 欄位中, 選擇 Gemma 2 模型
在中央面板底部輸入提示,然後選取「執行」。
如要進一步瞭解如何使用 AI Studio,請參閱 Google AI Studio 快速入門導覽課程。
調整模型
調整 Gemma 模型的行為,即可變更 Gemma 模型的行為。調整 模型需要輸入資料集,且預期回應的大小充足 藉此引導模型行為此外,您還必須 額外運算和記憶體資源才能完成微調執行作業 (與已執行相比) 用於生成文字的 Gemma 模型請使用下列其中一個 Python 筆記本執行以下作業: 如何設定調整開發環境並調整 Gemma 模型:
後續步驟
請參閱下列指南,瞭解如何透過 Gemma 打造更多解決方案: