Opções de configuração para geração e saídas de modelos. Nem todos os parâmetros podem ser configurados para todos os modelos.
Representação JSON |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
Campos | |
---|---|
stopSequences[] |
Opcional. O conjunto de sequências de caracteres (até 5) que interromperá a geração de saída. Se especificado, a API vai parar na primeira ocorrência de uma sequência de parada. A sequência de paradas não será incluída como parte da resposta. |
responseMimeType |
Opcional. Tipo MIME da resposta de saída do texto candidato gerado. Tipo MIME compatível: |
responseSchema |
Opcional. Esquema de resposta de saída do texto candidato gerado quando o tipo MIME da resposta pode ter esquema. O esquema pode ser objetos, primitivos ou matrizes e é um subconjunto do esquema da OpenAPI. Se definido, um responseMimeType compatível também precisará ser definido. Tipos MIME compatíveis: |
candidateCount |
Opcional. Número de respostas geradas a serem retornadas. Atualmente, esse valor só pode ser definido como 1. Se não for definido, o padrão será 1. |
maxOutputTokens |
Opcional. O número máximo de tokens a serem incluídos em um candidato. Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo |
temperature |
Opcional. Controla a aleatoriedade da saída. Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo Os valores podem variar de [0,0 a 2,0]. |
topP |
Opcional. A probabilidade cumulativa máxima de tokens a serem considerados durante a amostragem. O modelo usa amostragem combinada Top-k e de núcleos. Os tokens são classificados com base nas probabilidades atribuídas, de modo que apenas os mais prováveis são considerados. A amostragem Top-k limita diretamente o número máximo de tokens a serem considerados, enquanto a amostragem Nucleus limita o número de tokens com base na probabilidade cumulativa. Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo |
topK |
Opcional. O número máximo de tokens a serem considerados durante a amostragem. Os modelos usam a amostragem de núcleos ou a amostragem combinada de Top-k e de núcleos. A amostragem top-k considera o conjunto de Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo |