Como fazer ajustes com a API Gemini

Estratégias de design de comandos, como comandos de poucos disparos (few-shot), nem sempre produzem os resultados necessários. O ajuste fino é um processo que pode melhorar o desempenho do modelo em tarefas específicas ou ajudar o modelo a obedecer a requisitos de saída específicos quando as instruções não forem suficientes e você tiver um conjunto de exemplos que demonstrem as saídas desejadas.

Esta página oferece uma visão geral conceitual de como ajustar o modelo de texto por trás do serviço de texto da API Gemini. Quando estiver tudo pronto para começar a sintonização, tente o tutorial de ajuste fino. Se você quiser uma introdução mais geral à personalização de LLMs para casos de uso específicos, confira LLMs: ajuste fino, destilação e engenharia de comando no Curso intensivo de machine learning.

Como funciona o ajuste fino

O objetivo do ajuste fino é melhorar ainda mais o desempenho do modelo para sua tarefa específica. O ajuste fino funciona fornecendo ao modelo um conjunto de dados de treinamento que contém muitos exemplos da tarefa. Para tarefas de nicho, é possível conseguir melhorias significativas no desempenho do modelo ajustando o modelo em um número modesto de exemplos. Esse tipo de ajuste de modelo às vezes é chamado de ajuste de detalhes supervisionado, para diferenciá-lo de outros tipos de ajuste de detalhes.

Os dados de treinamento precisam ser estruturados como exemplos com entradas de comando e saídas de resposta esperadas. Também é possível ajustar modelos usando dados de exemplo diretamente no Google AI Studio. O objetivo é ensinar o modelo a imitar o comportamento ou a tarefa desejada, fornecendo muitos exemplos que ilustram esse comportamento ou tarefa.

Ao executar um job de ajuste, o modelo aprende outros parâmetros que o ajudam a codificar as informações necessárias para executar a tarefa desejada ou aprender o comportamento desejado. Esses parâmetros podem ser usados no momento da inferência. A saída do job de ajuste é um novo modelo, que é efetivamente uma combinação dos parâmetros apenas aprendidos e do modelo original.

Preparar o conjunto de dados

Antes de começar a fazer ajustes, você precisa de um conjunto de dados para ajustar o modelo. Para ter a melhor performance, os exemplos no conjunto de dados precisam ser de alta qualidade, diversos e representativos de entradas e saídas reais.

Formato

Os exemplos no seu conjunto de dados precisam corresponder ao tráfego de produção esperado. Se o conjunto de dados contiver formatação, palavras-chave, instruções ou informações específicas, os dados de produção deverão ser formatados da mesma maneira e conter as mesmas instruções.

Por exemplo, se os exemplos no seu conjunto de dados incluem um "question:" e um "context:", o tráfego de produção também deve ser formatado para incluir um "question:" e um "context:" na mesma ordem em que aparece no exemplos de conjuntos de dados. Se você excluir o contexto, o modelo não reconhecerá o padrão, mesmo que a pergunta exata esteja em um exemplo no conjunto de dados.

Como outro exemplo, confira os dados de treinamento do Python para um aplicativo que gera o próximo número em uma sequência:

training_data = [
  {"text_input": "1", "output": "2"},
  {"text_input": "3", "output": "4"},
  {"text_input": "-3", "output": "-2"},
  {"text_input": "twenty two", "output": "twenty three"},
  {"text_input": "two hundred", "output": "two hundred one"},
  {"text_input": "ninety nine", "output": "one hundred"},
  {"text_input": "8", "output": "9"},
  {"text_input": "-98", "output": "-97"},
  {"text_input": "1,000", "output": "1,001"},
  {"text_input": "10,100,000", "output": "10,100,001"},
  {"text_input": "thirteen", "output": "fourteen"},
  {"text_input": "eighty", "output": "eighty one"},
  {"text_input": "one", "output": "two"},
  {"text_input": "three", "output": "four"},
  {"text_input": "seven", "output": "eight"},
]

Adicionar um comando ou preâmbulo a cada exemplo no conjunto de dados também pode ajudar a melhorar o desempenho do modelo ajustado. Se um comando ou preâmbulo for incluído no seu conjunto de dados, ele também precisa ser incluído no comando para o modelo sintonizado no momento da inferência.

Limitações

Observação:os conjuntos de dados de ajuste fino para o Gemini 1.5 Flash têm as seguintes limitações:

• O tamanho máximo de entrada por exemplo é de 40.000 caracteres.
• O tamanho máximo de saída por exemplo é de 5.000 caracteres.

Tamanho dos dados de treinamento

É possível ajustar um modelo com apenas 20 exemplos. Dados adicionais geralmente melhoram a qualidade das respostas. Você deve ter entre 100 e 500 exemplos, dependendo do seu aplicativo. A tabela a seguir mostra os tamanhos de conjuntos de dados recomendados para ajustar um modelo de texto para várias tarefas comuns:

Fazer upload do conjunto de dados de ajuste

Os dados são transmitidos inline usando a API ou por arquivos enviados no Google AI Studio.

Para usar a biblioteca de cliente, forneça o arquivo de dados na chamada createTunedModel. O limite de tamanho do arquivo é de 4 MB. Consulte o guia de início rápido de ajuste fino com o Python para começar.

Para chamar a API REST usando o cURL, forneça exemplos de treinamento no formato JSON para o argumento training_data. Consulte o guia de início rápido de ajuste com o cURL para começar.

Configurações avançadas de ajuste

Ao criar um job de ajuste, é possível especificar as seguintes configurações avançadas:

• Períodos:uma passagem de treinamento completa por todo o conjunto de treinamento, de modo que cada exemplo seja processado uma vez.
• Tamanho do lote:o conjunto de exemplos usados em uma iteração de treinamento. O tamanho do lote determina o número de exemplos em um lote.
• Taxa de aprendizado:um número de ponto flutuante que informa ao algoritmo como ajustar os parâmetros do modelo em cada iteração. Por exemplo, uma taxa de aprendizado de 0,3 ajustaria pesos e vieses três vezes mais eficientemente do que uma taxa de aprendizado de 0,1. As taxas de aprendizado altas e baixas têm suas próprias compensações e precisam ser ajustadas com base no seu caso de uso.
• Multiplicador da taxa de aprendizado:o multiplicador de taxa modifica a taxa de aprendizado original do modelo. Um valor de 1 usa a taxa de aprendizado original do modelo. Valores maiores que 1 aumentam a taxa de aprendizado, e valores entre 1 e 0 diminuem a taxa de aprendizado.

Configurações recomendadas

A tabela a seguir mostra as configurações recomendadas para ajustar um modelo de base:

A curva de perda mostra o quanto a previsão do modelo se desvia das previsões ideais nos exemplos de treinamento após cada época. O ideal é interromper o treinamento no ponto mais baixo da curva, logo antes de ele se estabilizar. Por exemplo, o gráfico abaixo mostra a curva de perda estabilizando-se na época 4-6, o que significa que você pode definir o parâmetro Epoch como 4 e ainda ter o mesmo desempenho.

Verificar o status do job de ajuste

É possível verificar o status do job de ajuste no Google AI Studio na guia My Library ou usando a propriedade metadata do modelo ajustado na API Gemini.

Solucionar erros

Esta seção inclui dicas sobre como resolver erros que podem ocorrer ao criar o modelo ajustado.

Autenticação

O ajuste usando a API e a biblioteca de cliente exige autenticação. É possível configurar a autenticação usando uma chave de API (recomendado) ou credenciais OAuth. Para conferir a documentação sobre como configurar uma chave de API, consulte Configurar a chave de API.

Se você receber um erro 'PermissionDenied: 403 Request had insufficient authentication scopes', talvez seja necessário configurar a autenticação do usuário usando credenciais do OAuth. Para configurar as credenciais do OAuth no Python, acesse nosso tutorial de configuração do OAuth.

Modelos cancelados

É possível cancelar um job de ajuste fino a qualquer momento antes da conclusão. No entanto, a performance de inferência de um modelo cancelado é imprevisível, principalmente se o job de ajuste for cancelado no início do treinamento. Se você cancelou porque quer interromper o treinamento em uma época anterior, crie um novo job de ajuste e defina a época como um valor menor.

Limitações dos modelos ajustados

Observação:os modelos ajustados têm as seguintes limitações:

• O limite de entrada de um modelo Gemini 1.5 Flash ajustado é de 40.000 caracteres.
• O modo JSON não é compatível com modelos ajustados.
• As instruções do sistema não são compatíveis com modelos ajustados.
• Somente a entrada de texto é aceita.

A seguir

Comece a usar os tutoriais de ajuste fino:

• Tutorial de ajuste fino (Python)
• Tutorial de ajuste fino (REST)