Erste Schritte mit Gemma-Modellen

Die offene Gemma-Modellfamilie umfasst eine Reihe von Modellgrößen, Funktionen und aufgabenspezifischen Varianten, mit denen Sie benutzerdefinierte generative Lösungen erstellen können. Dies sind die wichtigsten Pfade, die Sie bei der Verwendung von Gemma-Modellen in einer Anwendung befolgen können:

  • Modell auswählen und in der Anwendung unverändert bereitstellen
  • Wählen Sie ein Modell aus, passen Sie es an eine bestimmte Aufgabe an und stellen Sie es dann in einer Anwendung bereit oder geben Sie es für die Community frei.

In diesem Leitfaden erfahren Sie, wie Sie ein Modell auswählen, seine Funktionen testen und optional das für Ihre Anwendung ausgewählte Modell abstimmen.

Gemma 3 testen Auf Kaggle herunterladen Auf Hugging Face herunterladen

Modell auswählen

In diesem Abschnitt erfahren Sie mehr über die offiziellen Varianten der Gemma-Modellfamilie und können ein Modell für Ihre Anwendung auswählen. Die Modellvarianten bieten allgemeine Funktionen oder sind auf bestimmte Aufgaben spezialisiert. Sie sind in verschiedenen Parametergrößen verfügbar, sodass Sie ein Modell auswählen können, das Ihre bevorzugten Funktionen hat und Ihren Rechenanforderungen entspricht.

Liste der Gemma-Modelle

In der folgenden Tabelle sind die wichtigsten Varianten der Gemma-Modellfamilie und die vorgesehenen Bereitstellungsplattformen aufgeführt:

Parametergröße Eingabe Ausgabe Variante Grundlagen Vorhergesehene Plattformen
1 Mrd. Text Text Gemma 3 Mobilgeräte und Einplatinencomputer
2 Mrd. Text Text Gemma 2 Mobilgeräte und Laptops
Gemma 1
3 Mrd. Text, Bilder Text Gemma 2 Computer und kleine Server
4 Mrd. Text, Bilder Text Gemma 3 Computer und kleine Server
7B Text Text Gemma 1 Computer und kleine Server
9 Mrd. Text Text Gemma 2 Hochwertige Computer und Server
10 Mrd. Text, Bilder Text Gemma 2 Hochwertige Computer und Server
12 Mrd. Text, Bilder Text Gemma 3 Hochwertige Computer und Server
27B Text, Bilder Text Gemma 3 Große Server oder Servercluster
Text Text Gemma 2
28 B Text, Bilder Text Gemma 2 Große Server oder Servercluster

Die Gemma-Modellfamilie umfasst auch Modelle für spezielle Zwecke und Forschungsmodelle, darunter ShieldGemma, DataGemma, Gemma Scope und Gemma-APS.

Testmodelle

Sie können Gemma-Modelle testen, indem Sie eine Entwicklungsumgebung mit einem heruntergeladenen Modell und unterstützender Software einrichten. Sie können das Modell dann auffordern und seine Antworten bewerten. Verwenden Sie eines der folgenden Python-Notebooks mit Ihrem bevorzugten Framework für maschinelles Lernen, um eine Testumgebung einzurichten und ein Gemma-Modell aufzurufen:

Gemma 3 in AI Studio testen

Mit Google AI Studio können Sie Gemma schnell testen, ohne eine Entwicklungsumgebung einzurichten. In dieser Web-App können Sie Prompts mit Gemma ausprobieren und ihre Funktionen bewerten.

So testen Sie Gemma 3 in Google AI Studio:

  1. Öffnen Sie AI Studio.

  2. Wählen Sie rechts im Bereich Ausführungseinstellungen im Feld Modell ein anderes Gemma-Modell aus.

  3. Geben Sie unten im mittleren Bereich einen Prompt ein und wählen Sie Ausführen aus.

Weitere Informationen zur Verwendung von AI Studio finden Sie im Schnellstart zu Google AI Studio.

Modelle abstimmen

Sie können das Verhalten von Gemma-Modellen ändern, indem Sie sie optimieren. Für die Optimierung eines Modells ist ein Dataset mit Eingaben und erwarteten Antworten erforderlich, das groß genug und vielfältig genug ist, um das Verhalten des Modells zu steuern. Außerdem benötigen Sie für die Tuning-Ausführung deutlich mehr Rechen- und Arbeitsspeicherressourcen als für die Ausführung eines Gemma-Modells zur Textgenerierung. Verwenden Sie eines der folgenden Python-Notebooks, um eine Entwicklungsumgebung für die Optimierung einzurichten und ein Gemma-Modell zu optimieren:

Nächste Schritte

In diesen Anleitungen erfährst du, wie du mit Gemma weitere Lösungen erstellen kannst: