開始使用 Gemma 模型

Gemma 公開模型系列提供各種模型大小、功能和工作專屬變化版本,可協助您建構自訂生成式解決方案。在應用程式中使用 Gemma 模型時,您可以採用的主要路徑如下:

  • 選取模型,然後在應用程式中依原樣部署
  • 請選取模型,配合特定工作調整模型,然後在應用程式中部署,或是與社群共用。

本指南可協助您開始挑選模型、測試其功能,並視需要調整您為應用程式選取的模型。

選擇模型

本節將協助您瞭解 Gemma 模型系列的官方變化版本,並為您的應用程式選取模型。這個模型變化版本提供一般功能,或專門用於特定工作,並且以不同的參數大小提供,方便您挑選具備所需功能且符合運算需求的模型。

Gemma 模型清單

下表列出 Gemma 模型系列的主要變體及其高階功能:

參數大小 輸入功率 輸出功率 架構 子類 目標平台
20 億 文字 文字 Gemma 1 行動裝置和筆記型電腦
30 億次 文字、圖片 文字 Gemma 1 行動裝置和筆記型電腦
70 億 文字 文字 Gemma 1 桌機和小型伺服器
90 億 文字 文字 高階桌上型電腦和伺服器
270 億次 文字 文字 Gemma 2 大型伺服器或伺服器叢集

您可以從 Kaggle Models 下載所有官方 Gemma 模型變化版本。

測試模型

設定含有下載模型和支援軟體的開發環境,即可測試 Gemma 模型。接著,您可以提示模型 並評估回應請使用下列其中一種 Python 筆記本搭配您偏好的機器學習架構,設定測試環境並提示 Gemma 模型:

在 AI Studio 中測試 Gemma 2

您可以使用 Google AI Studio 快速測試 Gemma 2,不必設定開發環境。這個網頁應用程式可讓您試用 Gemma 2 的提示,並評估其功能。

如要在 Google AI Studio 中試用 Gemma 2,請按照下列步驟操作:

  1. 開啟 AI Studio

  2. 在右側的「Run settings」(執行設定) 面板中,在「Model」(模型) 欄位中,選取 Gemma 2 模型。

  3. 在中央面板底部輸入提示,然後選取「執行」

如要進一步瞭解如何使用 AI Studio,請參閱 Google AI Studio 快速入門導覽課程

調整模型

調整 Gemma 模型的行為,即可變更 Gemma 模型的行為。調整模型時,需要有輸入內容的資料集,以及大小和變化版本的預期回應,才能引導模型的行為。相較於執行 Gemma 模型來生成文字,您還需要大量的運算和記憶體資源才能完成調整執行作業。請使用下列其中一種 Python 筆記本來設定調整開發環境及調整 Gemma 模型:

後續步驟

請參閱下列指南,瞭解如何透過 Gemma 打造更多解決方案: