GenerationConfig

{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

Opcional. El conjunto de secuencias de caracteres (hasta 5) que detendrán la generación de resultados. Si se especifica, la API se detendrá cuando aparezca una secuencia de detención por primera vez. La secuencia de detención no se incluirá como parte de la respuesta.

integer

Opcional. Cantidad de respuestas generadas que se mostrarán.

Actualmente, este valor solo se puede establecer en 1. Si no la estableces, el valor predeterminado será 1.

integer

Opcional. El número máximo de tokens que se deben incluir en un candidato.

Nota: El valor predeterminado varía según el modelo. Consulta el atributo Model.output_token_limit de la Model que muestra la función getModel.

number

Opcional. Controla la aleatorización del resultado.

Nota: El valor predeterminado varía según el modelo. Consulta el atributo Model.temperature de la Model que muestra la función getModel.

Los valores pueden variar de [0.0, 2.0].

number

Opcional. Es la probabilidad acumulativa máxima de los tokens que se deben tener en cuenta cuando se realiza el muestreo.

El modelo usa el muestreo combinado de k superior y núcleo.

Los tokens se ordenan según sus probabilidades asignadas, de modo que solo se consideren los más probables. El muestreo de k superior limita directamente la cantidad máxima de tokens que se deben considerar, mientras que el muestreo de Nucleus limita la cantidad de tokens en función de la probabilidad acumulativa.

Nota: El valor predeterminado varía según el modelo. Consulta el atributo Model.top_p de la Model que muestra la función getModel.

integer

Opcional. La cantidad máxima de tokens que se deben tener en cuenta durante el muestreo.

Los modelos usan el muestreo de núcleos o el muestreo combinado de Top-k y núcleo. El muestreo de k superior considera el conjunto de tokens más probables de topK. Los modelos que se ejecutan con el muestreo de núcleos no permiten la configuración de TopK.

Nota: El valor predeterminado varía según el modelo. Consulta el atributo Model.top_k de la Model que muestra la función getModel. El campo topK vacío en Model indica que el modelo no aplica el muestreo de k superior y no permite configurar topK en las solicitudes.