Die offenen Modelle der Gemma-Familie umfassen eine Reihe von Modellgrößen, und aufgabenspezifische Varianten zum Erstellen benutzerdefinierter generativer Lösungen. Dies sind die Hauptpfade, die Sie befolgen können, wenn Sie Gemma-Modelle in einem Anwendung:
- Modell auswählen und in der Anwendung im aktuellen Zustand bereitstellen
- Modell auswählen, für eine bestimmte Aufgabe abstimmen und dann bereitstellen in einer Anwendung veröffentlichen oder sie mit der Community teilen.
Dieser Leitfaden hilft Ihnen beim Auswählen und Testen eines Modells. seine Funktionen ausführen und optional das Modell abstimmen, das Sie für Ihre Anwendung.
Modell auswählen
In diesem Abschnitt erhalten Sie Informationen zu den offiziellen Varianten des Gemma-Modells Familie und wählen Sie ein Modell für Ihre Anwendung aus. Die Modellvarianten bieten allgemeine Fähigkeiten haben oder auf bestimmte Aufgaben spezialisiert sind und bereitgestellt werden, Parametergrößen festlegen, damit Sie ein Modell auswählen können, und Ihren Computing-Anforderungen entsprechen.
Liste der Gemma-Modelle
In der folgenden Tabelle sind die wichtigsten Varianten der Gemma-Modellfamilie und ihre vorgesehene Bereitstellungsplattformen:
| Parametergröße | Eingabe | Ausgabe | Architektur | Varianten | Vorhergesehene Plattformen |
|---|---|---|---|---|---|
| 2 Mrd. | Text | Text | Gemma 2 | Mobilgeräte und Laptops | |
| Gemma 1 | |||||
| 3 Mrd. | Text, Bilder | Text | Gemma 1 | Mobilgeräte und Laptops | |
| 7 Mrd. | Text | Text | Gemma 1 | Computer und kleine Server | |
| 9 Mrd. | Text | Text | Gemma 2 | High-End-Desktop-Computer und -Server | |
| Gemma 1 | |||||
| 27 Mrd. | Text | Text | Gemma 2 | Große Server oder Servercluster |
Sie können alle offiziellen Gemma-Modellvarianten hier herunterladen: Kaggle-Modelle:
Testmodelle
Sie können Gemma-Modelle testen, indem Sie eine Entwicklungsumgebung mit einem das heruntergeladene Modell und die zugehörige Software. Sie können dann das Modell auffordern und die Antworten zu bewerten. Verwenden Sie eines der folgenden Python-Notebooks mit Ihrem bevorzugtes Framework für maschinelles Lernen, um eine Testumgebung und einen Prompt einzurichten eines Gemma-Modells:
Gemma 2 in AI Studio testen
Sie können Gemma 2 schnell testen, ohne eine Entwicklungsumgebung einzurichten: Google AI Studio Mit dieser Webanwendung können Sie Prompts mit Gemma 2 ausprobieren und ihre Funktionen bewerten.
So testen Sie Gemma 2 in Google AI Studio:
Öffnen Sie AI Studio.
Wählen Sie rechts im Bereich Ausführungseinstellungen im Feld Modell ein Gemma 2-Modell aus.
Geben Sie unten im mittleren Bereich eine Eingabeaufforderung ein und wählen Sie Ausführen aus.
Weitere Informationen zur Verwendung von AI Studio finden Sie in der Kurzanleitung zu Google AI Studio
Modelle abstimmen
Sie können das Verhalten von Gemma-Modellen ändern, indem Sie sie abstimmen. Feinabstimmung Für ein Modell ist ein Dataset mit Eingaben und erwarteten Antworten von ausreichender Größe erforderlich und Variation, um das Verhalten des Modells zu steuern. Außerdem benötigen Sie mehr Rechen- und Arbeitsspeicherressourcen, um einen Abstimmungslauf durchzuführen, als ein Gemma-Modell zur Textgenerierung. Verwenden Sie eines der folgenden Python-Notebooks, Richten Sie eine Feinabstimmungsentwicklungsumgebung ein und stimmen Sie ein Gemma-Modell ab:
- Tune Gemma mit Keras- und LoRA-Abstimmung
- Tune Gemma mit JAX
- Größere Gemma-Modelle mit verteiltem Training optimieren
Nächste Schritte
Sehen Sie sich diese Leitfäden zum Erstellen weiterer Lösungen mit Gemma an: