Opções de configuração para geração e saídas de modelos. Nem todos os parâmetros podem ser configurados para todos os modelos.
Representação JSON |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
Campos | |
---|---|
stopSequences[] |
Opcional. O conjunto de sequências de caracteres (até 5) que interromperá a geração de saída. Se especificado, a API vai parar na primeira ocorrência de uma sequência de parada. A sequência de paradas não será incluída como parte da resposta. |
candidateCount |
Opcional. Número de respostas geradas a serem retornadas. Atualmente, esse valor só pode ser definido como 1. Se não for definido, o padrão será 1. |
maxOutputTokens |
Opcional. O número máximo de tokens a serem incluídos em um candidato. Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo |
temperature |
Opcional. Controla a aleatoriedade da saída. Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo Os valores podem variar de [0,0 a 2,0]. |
topP |
Opcional. A probabilidade cumulativa máxima de tokens a serem considerados durante a amostragem. O modelo usa amostragem combinada Top-k e de núcleos. Os tokens são classificados com base nas probabilidades atribuídas, de modo que apenas os mais prováveis são considerados. A amostragem Top-k limita diretamente o número máximo de tokens a serem considerados, enquanto a amostragem Nucleus limita o número de tokens com base na probabilidade cumulativa. Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo |
topK |
Opcional. O número máximo de tokens a serem considerados durante a amostragem. Os modelos usam a amostragem de núcleos ou a amostragem combinada de Top-k e de núcleos. A amostragem top-k considera o conjunto de Observação: o valor padrão varia de acordo com o modelo. Consulte o atributo |