Rodzina otwartych modeli Gemma obejmuje różne rozmiary, możliwości i odmiany dostosowane do konkretnego zadania, co ułatwia tworzenie niestandardowych rozwiązań generatywnych. Oto główne ścieżki, którymi możesz się kierować, używając modeli Gemma w aplikacji:
- Wybierz model i wdróż go w takiej postaci w aplikacji
- Wybierz model, dostrój go do konkretnego zadania, a następnie wdróż go w aplikacji lub udostępnij społeczności.
Z tego przewodnika dowiesz się, jak wybrać model, testować jego możliwości i opcjonalnie dostroić model wybrany dla Twojej aplikacji.
Wybierz model
W tej sekcji zapoznasz się z oficjalnymi wariantami rodziny modeli Gemma i wybierzesz model dla swojej aplikacji. Warianty modelu zapewniają ogólne możliwości lub są specjalistyczne pod kątem konkretnych zadań i są dostępne w różnych rozmiarach, dzięki czemu możesz wybrać model z preferowanymi możliwościami i zgodny z Twoimi wymaganiami dotyczącymi mocy obliczeniowej.
Lista modeli Gemma
W poniższej tabeli znajdziesz główne warianty rodziny modeli Gemma wraz z ich ogólnymi możliwościami:
| Rozmiar parametru | Wejście | Wyjście | Architektura | Wersje | Docelowe platformy |
|---|---|---|---|---|---|
| 2B | Tekst | Tekst | Gemma 1 | Telefony komórkowe i laptopy | |
| 3 MLD | Tekst, obrazy | Tekst | Gemma 1 | Telefony komórkowe i laptopy | |
| 7 MLD | Tekst | Tekst | Gemma 1 | Komputery stacjonarne i małe serwery | |
| 9 MLD | Tekst | Tekst | Zaawansowane komputery stacjonarne i serwery | ||
| 27 MLD | Tekst | Tekst | Gemma 2 | Duże serwery lub klastry serwerów |
Wszystkie oficjalne warianty modeli Gemma możesz pobrać ze strony Modele Kaggle.
Testuj modele
Możesz testować modele Gemma, konfigurując środowisko programistyczne z pobranym modelem i oprogramowaniem pomocniczym. Następnie możesz poprosić model i ocenić jego odpowiedzi. Użyj jednego z tych notatników w Pythonie z preferowaną platformą systemów uczących się, aby skonfigurować środowisko testowe i wyświetlić prompt dla modelu Gemma:
Przetestuj Gemma 2 w AI Studio
Możesz szybko przetestować Gemma 2 bez konfigurowania środowiska programistycznego za pomocą Google AI Studio. Ta aplikacja internetowa pozwala testować prompty w Gemma 2 i oceniać jej możliwości.
Aby wypróbować Gemma 2 w Google AI Studio:
Otwórz AI Studio.
W panelu Ustawienia uruchamiania po prawej stronie w polu Model wybierz model Gemma 2.
U dołu środkowego panelu wpisz prompt i kliknij Uruchom.
Więcej informacji o korzystaniu z AI Studio znajdziesz w krótkim wprowadzeniu do Google AI Studio.
Dostrajanie modeli
Możesz zmienić działanie modeli Gemma, dostrajając je. Dostrajanie modelu wymaga zbioru danych wejściowych i oczekiwanych odpowiedzi, które mają odpowiednią wielkość i zmienność, aby odpowiednio kształtować działanie modelu. Do dostrajania potrzebujesz też znacznie więcej zasobów obliczeniowych i pamięci niż używanie modelu Gemma do generowania tekstu. Użyj jednego z tych notatników w Pythonie, aby skonfigurować środowisko programistyczne dostrajania i dostroić model Gemma:
- Dostrajanie Gemma dzięki dostrajaniu Keras i LoRA
- Tune Gemma z JAX
- Dostrój większe modele Gemma za pomocą trenowania rozproszonego
Dalsze kroki
Zapoznaj się z tymi przewodnikami, aby tworzyć więcej rozwiązań za pomocą Gemmy: