Rodzina modeli otwartych Gemma obejmuje różne rozmiary, możliwości, i specjalistycznych odmian, ułatwiając tworzenie niestandardowych rozwiązań generatywnych. To są główne ścieżki, którymi można się podążać, używając modeli Gemma aplikacja:
- Wybierz model i wdróż go w takiej postaci w aplikacji
- Wybierz model, dostrój go do konkretnego zadania, a następnie wdróż go w aplikacji lub udostępnić całej społeczności.
Z tego przewodnika dowiesz się, jak wybrać model, testować jego możliwości i opcjonalnie dostrajanie wybranego modelu Twojej aplikacji.
Wybierz model
Ta sekcja pomaga zrozumieć oficjalne warianty modelu Gemma rodzinny i wybierz model swojej aplikacji. Warianty modelu zapewniają ogólnych umiejętności lub specjalizacji w konkretnych zadaniach, z różnymi rozmiarami parametrów, aby wybrać model, który najbardziej Ci odpowiada, i spełnia Twoje wymagania obliczeniowe.
Lista modeli Gemma
W poniższej tabeli podano główne warianty rodziny modeli Gemma oraz ich platformy wdrożeniowe:
| Rozmiar parametru | Wejście | Wyjście | Architektura | Wersje | Docelowe platformy |
|---|---|---|---|---|---|
| 2B | Tekst | Tekst | Gemma 2 | Telefony komórkowe i laptopy | |
| Gemma 1 | |||||
| 3 MLD | Tekst, obrazy | Tekst | Gemma 1 | Telefony komórkowe i laptopy | |
| 7 MLD | Tekst | Tekst | Gemma 1 | Komputery stacjonarne i małe serwery | |
| 9 MLD | Tekst | Tekst | Gemma 2 | Zaawansowane komputery stacjonarne i serwery | |
| Gemma 1 | |||||
| 27 MLD | Tekst | Tekst | Gemma 2 | Duże serwery lub klastry serwerów |
Wszystkie oficjalne warianty modeli Gemma możesz pobrać ze strony Modele Kaggle.
Testuj modele
Możesz testować modele Gemma, konfigurując środowisko programistyczne z komponentem pobrany model i oprogramowanie pomocnicze. Możesz następnie poprosić model o jego odpowiedzi. Użyj jednego z tych notatników w Pythonie ze swoim preferowanej platformy systemów uczących się do skonfigurowania środowiska testowego i promptu model Gemma:
Przetestuj Gemma 2 w AI Studio
Możesz szybko przetestować Gemma 2 bez konfigurowania środowiska programistycznego za pomocą Google AI Studio Ta aplikacja internetowa umożliwia testowanie promptów w Gemma 2 i jego możliwości.
Aby wypróbować Gemma 2 w Google AI Studio:
Otwórz AI Studio.
W panelu Ustawienia uruchamiania po prawej stronie, w polu Model, wybierz model Gemma 2.
U dołu środkowego panelu wpisz prompt i kliknij Uruchom.
Więcej informacji o korzystaniu z AI Studio znajdziesz tutaj: Krótkie wprowadzenie do Google AI Studio
Dostrajanie modeli
Możesz zmienić działanie modeli Gemma, dostrajając je. Dostrajanie model wymaga zbioru danych wejściowych i oczekiwanych odpowiedzi o wystarczającym rozmiarze i wariant, aby kształtować zachowanie modelu. Wymagana jest też więcej zasobów obliczeniowych i pamięci do przeprowadzenia dostrajania niż w trybie pracochłonnym To model Gemma do generowania tekstu. Użyj jednego z tych notatników w Pythonie do skonfiguruj środowisko programistyczne dostrajania i dostrój model Gemma:
- Dostrajanie Gemma dzięki dostrajaniu Keras i LoRA
- Tune Gemma z JAX
- Dostrój większe modele Gemma za pomocą trenowania rozproszonego
Następne kroki
Zapoznaj się z tymi przewodnikami, aby tworzyć więcej rozwiązań za pomocą Gemmy: