GenerationConfig

{
  "stopSequences": [
    string
  ],
  "responseMimeType": string,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

Opcional. O conjunto de sequências de caracteres (até 5) que interromperá a geração de saída. Se especificado, a API vai parar na primeira ocorrência de uma sequência de parada. A sequência de paradas não será incluída como parte da resposta.

string

Opcional. Tipo MIME da resposta de saída do texto candidato gerado. Tipo MIME compatível: text/plain (padrão): saída de texto. application/json: resposta JSON nos candidatos.

integer

Opcional. Número de respostas geradas a serem retornadas.

Atualmente, esse valor só pode ser definido como 1. Se não for definido, o padrão será 1.

integer

Opcional. O número máximo de tokens a serem incluídos em um candidato.

Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo Model.output_token_limit do Model retornado da função getModel.

number

Opcional. Controla a aleatoriedade da saída.

Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo Model.temperature do Model retornado da função getModel.

Os valores podem variar de [0,0 a 2,0].

number

Opcional. A probabilidade cumulativa máxima de tokens a serem considerados durante a amostragem.

O modelo usa amostragem combinada Top-k e de núcleos.

Os tokens são classificados com base nas probabilidades atribuídas, de modo que apenas os mais prováveis são considerados. A amostragem Top-k limita diretamente o número máximo de tokens a serem considerados, enquanto a amostragem Nucleus limita o número de tokens com base na probabilidade cumulativa.

Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo Model.top_p do Model retornado da função getModel.

integer

Opcional. O número máximo de tokens a serem considerados durante a amostragem.

Os modelos usam a amostragem de núcleos ou a amostragem combinada de Top-k e de núcleos. A amostragem top-k considera o conjunto de topK tokens mais prováveis. Os modelos em execução com amostragem de núcleos não permitem a configuração de topK.

Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo Model.top_k do Model retornado da função getModel. Campo topK vazio em Model indica que o modelo não aplica amostragem top-k e não permite a configuração de topK em solicitações.