Começar a usar os modelos Gemma

A família Gemma de modelos abertos inclui uma variedade de tamanhos, recursos, e variações especializadas em tarefas para ajudar a criar soluções generativas personalizadas. Estes são os principais caminhos que você pode seguir ao usar os modelos Gemma em uma aplicativo:

• Selecione um modelo e implante-o no estado em que se encontra no aplicativo
• Selecione um modelo, ajuste-o para uma tarefa específica e implante-o em um aplicativo ou compartilhar com a comunidade.

Este guia ajuda você a começar a escolher um modelo, testar os recursos dele e, opcionalmente, ajustar o modelo selecionado seu aplicativo.

Escolha um modelo

Esta seção ajuda você a entender as variantes oficiais do modelo Gemma e selecionar um modelo para o aplicativo. As variantes de modelo oferecem capacidades gerais ou são especializadas para tarefas específicas e são fornecidas em diferentes tamanhos de parâmetros para que você possa escolher um modelo que tenha sua preferência e atender aos seus requisitos de computação.

Lista de modelos do Gemma

A tabela a seguir lista as principais variantes da família de modelos Gemma e as plataformas de implantação pretendidas:

Você pode fazer o download de todas as variantes de modelo oficiais do Gemma no Modelos Kaggle.

Testar modelos

É possível testar modelos Gemma configurando um ambiente de desenvolvimento com um baixado e software de suporte. Em seguida, é possível solicitar ao modelo e avaliar as respostas dele. Use um dos seguintes notebooks Python com seu framework de machine learning preferido para configurar um ambiente de teste e um comando um modelo Gemma:

• Inferência com a Keras
• Inferência com PyTorch
• Inferência com JAX e Flax

Testar o Gemma 2 no AI Studio

Você pode testar o Gemma 2 rapidamente sem configurar um ambiente de desenvolvimento usando Google AI Studio. Este aplicativo da Web permite testar comandos com o Gemma 2 e avaliar os recursos dele.

Para testar o Gemma 2 no Google AI Studio:

1. Abra o AI Studio.

2. No painel Configurações de execução à direita, no campo Modelo, selecione um modelo do Gemma 2.

3. Na parte de baixo do painel central, digite um comando e selecione Executar.

Para mais informações sobre como usar o AI Studio, consulte a Guia de início rápido do Google AI Studio.

Ajustar modelos

Você pode ajustar o comportamento dos modelos do Gemma para alterá-los. Ajuste um modelo exige um conjunto de dados de entradas e respostas esperadas de tamanho suficiente e variação para orientar o comportamento do modelo. Você também precisa de mais recursos de computação e memória para concluir uma execução de ajuste em comparação com a execução um modelo Gemma para a geração de textos. Use um dos seguintes notebooks Python para configurar um ambiente de desenvolvimento de ajuste e ajustar um modelo Gemma:

• Ajuste do Gemma com o ajuste do Keras e LoRA
• Ajuste o Gemma com o JAX
• Ajuste modelos maiores do Gemma com treinamento distribuído

Próximas etapas

Confira estes guias para criar mais soluções com o Gemma:

• Criar um chatbot com o Gemma
• Implantar o Gemma na produção com a Vertex AI
• Firebase Genkit, Ollama e Gemma