Gemma-Einrichtung

Auf dieser Seite finden Sie eine Anleitung zur Einrichtung von Gemma in Colab. Einige der Anweisungen gelten auch für andere Entwicklungsumgebungen.

Zugang zu Gemma erhalten

Bevor Sie Gemma zum ersten Mal verwenden, müssen Sie über Kaggle Zugriff auf das Modell anfordern. Dazu müssen Sie ein Kaggle-Konto verwenden, um die Gemma-Nutzungsrichtlinien und -Lizenzbedingungen zu akzeptieren.

Wenn Sie noch kein Kaggle-Konto haben, können Sie sich unter kaggle.com für ein Konto registrieren. Führen Sie dann die folgenden Schritte aus:

  1. Rufen Sie die Gemma-Modellkarte auf und wählen Sie Zugriff anfordern aus.
  2. Füllen Sie das Einwilligungsformular aus und akzeptieren Sie die Nutzungsbedingungen.

Colab-Laufzeit auswählen

Zum Ausführen einer Colab-Anleitung benötigen Sie eine Colab-Laufzeit mit ausreichenden Ressourcen zum Ausführen des Gemma-Modells. Für den Einstieg können Sie eine T4-GPU verwenden:

  1. Wählen Sie oben rechts im Colab-Fenster ▾ (Zusätzliche Verbindungsoptionen) aus.
  2. Wählen Sie Laufzeittyp ändern aus.
  3. Wählen Sie unter Hardwarebeschleuniger die Option T4-GPU aus.

API-Schlüssel konfigurieren

Um Gemma verwenden zu können, müssen Sie Ihren Kaggle-Benutzernamen und einen Kaggle-API-Schlüssel angeben. So generieren und konfigurieren Sie diese Werte:

  1. Um einen Kaggle API-Schlüssel zu generieren, wechseln Sie zum Tab Account (Konto) Ihres Kaggle-Nutzerprofils und wählen Sie Create New Token (Neues Token erstellen) aus. Dadurch wird der Download der Datei kaggle.json mit Ihren API-Anmeldedaten ausgelöst.

  2. Öffnen Sie kaggle.json in einem Texteditor. Der Inhalt sollte in etwa so aussehen:

    {"username":"your_username","key":"012345678abcdef012345678abcdef1a"}

  3. Wählen Sie in Colab Secrets (🚀) aus und fügen Sie Ihren Kaggle-Nutzernamen und Ihren Kaggle API-Schlüssel hinzu. Speichern Sie Ihren Nutzernamen unter dem Namen KAGGLE_USERNAME und Ihren API-Schlüssel unter dem Namen KAGGLE_KEY.

Jetzt können Sie die verbleibenden Einrichtungsschritte in Colab ausführen. Wenn Sie eine Colab-Anleitung durcharbeiten, rufen Sie Colab auf und legen Sie die Umgebungsvariablen fest.