Pierwsze kroki z modelami Gemma

Rodzina otwartych modeli Gemma obejmuje różne rozmiary, możliwości i warianty wyspecjalizowane w określonych zadaniach, co ułatwia tworzenie niestandardowych rozwiązań generatywnych. Oto główne ścieżki, które możesz obrać podczas korzystania z modeli Gemma w aplikacji:

• Wybierz model i wdroż go w aplikacji w niezmienionej postaci.
• Wybierz model, dostosuj go do konkretnego zadania, a następnie wdróż go w aplikacji lub udostępnij społeczności.

Z tego przewodnika dowiesz się, jak wybrać model, przetestować jego możliwości i opcjonalnie dostosować wybrany model do swojej aplikacji.

Pobierz w Kaggle Pobierz w Hugging Face

Wybierz model

Z tej sekcji dowiesz się więcej o oficjalnych wariantach modeli z rodziny Gemma i wybierzesz model do swojej aplikacji. Warianty modeli zapewniają ogólne możliwości lub są wyspecjalizowane w wykonywaniu konkretnych zadań. Są one dostępne w różnych rozmiarach parametrów, dzięki czemu możesz wybrać model, który ma preferowane przez Ciebie możliwości i spełnia Twoje wymagania dotyczące mocy obliczeniowej.

Lista modeli Gemma

W tabeli poniżej znajdziesz główne warianty rodziny modeli Gemma i platformy, na których są przeznaczone do wdrażania:

Rodzina modeli Gemma obejmuje też modele specjalnego przeznaczenia i modele badawcze, w tym ShieldGemma, DataGemma, Gemma Scope i Gemma-APS.

Testowanie modeli

Modele Gemma możesz przetestować, konfigurując środowisko deweloperskie z pobranym modelem i oprogramowaniem pomocniczym. Następnie możesz wydać modelowi polecenie i ocenić jego odpowiedzi. Aby skonfigurować środowisko testowe i wydać polecenie modelowi Gemma, użyj jednego z tych notatników Pythona z wybraną platformą uczenia maszynowego:

• Wnioskowanie za pomocą Keras
• Wnioskowanie za pomocą PyTorch
• Wnioskowanie za pomocą biblioteki Gemma

Dostrajanie modeli

Działanie modeli Gemma możesz zmienić, dostrajając je. Dostrajanie modelu wymaga zbioru danych wejściowych i oczekiwanych odpowiedzi o odpowiedniej wielkości i różnorodności, aby kierować zachowaniem modelu. W porównaniu z uruchamianiem modelu Gemma do generowania tekstu, uruchomienie dostrajania wymaga znacznie większych zasobów obliczeniowych i pamięci. Aby skonfigurować środowisko programistyczne do dostrajania i dostroić model Gemma, użyj jednego z tych notatników w Pythonie:

• Dostrajanie modelu Gemma za pomocą Keras i dostrajania LoRA
• Dostrajanie większych modeli Gemma za pomocą trenowania rozproszonego

Następne kroki

Zapoznaj się z tymi przewodnikami, aby tworzyć więcej rozwiązań z Gemma:

• Tworzenie czatbota z Gemma
• Wdrażanie modelu Gemma w środowisku produkcyjnym za pomocą Vertex AI
• Korzystanie z Genkit z Ollamą i Gemmą