Opciones de configuración para la generación y los resultados del modelo. Es posible que no todos los parámetros se puedan configurar en todos los modelos.
Representación JSON |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
Campos | |
---|---|
stopSequences[] |
Opcional. El conjunto de secuencias de caracteres (hasta 5) que detendrán la generación de resultados. Si se especifica, la API se detendrá cuando aparezca una secuencia de detención por primera vez. La secuencia de detención no se incluirá como parte de la respuesta. |
candidateCount |
Opcional. Cantidad de respuestas generadas que se mostrarán. Actualmente, este valor solo se puede establecer en 1. Si no la estableces, el valor predeterminado será 1. |
maxOutputTokens |
Opcional. El número máximo de tokens que se deben incluir en un candidato. Nota: El valor predeterminado varía según el modelo. Consulta el atributo |
temperature |
Opcional. Controla la aleatorización del resultado. Nota: El valor predeterminado varía según el modelo. Consulta el atributo Los valores pueden variar de [0.0, 2.0]. |
topP |
Opcional. Es la probabilidad acumulativa máxima de los tokens que se deben tener en cuenta cuando se realiza el muestreo. El modelo usa el muestreo combinado de k superior y núcleo. Los tokens se ordenan según sus probabilidades asignadas, de modo que solo se consideren los más probables. El muestreo de k superior limita directamente la cantidad máxima de tokens que se deben considerar, mientras que el muestreo de Nucleus limita la cantidad de tokens en función de la probabilidad acumulativa. Nota: El valor predeterminado varía según el modelo. Consulta el atributo |
topK |
Opcional. La cantidad máxima de tokens que se deben tener en cuenta durante el muestreo. Los modelos usan el muestreo de núcleos o el muestreo combinado de Top-k y núcleo. El muestreo de k superior considera el conjunto de tokens más probables de Nota: El valor predeterminado varía según el modelo. Consulta el atributo |