Opzioni di configurazione per la generazione e gli output del modello. Non tutti i parametri possono essere configurabili per ogni modello.
Rappresentazione JSON |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
Campi | |
---|---|
stopSequences[] |
Campo facoltativo. Il set di sequenze di caratteri (fino a 5) che interromperà la generazione dell'output. Se specificato, l'API si arresterà alla prima visualizzazione di una sequenza di interruzione. La sequenza di interruzioni non viene inclusa nella risposta. |
responseMimeType |
Campo facoltativo. Tipo MIME della risposta di output del testo del candidato generato. Tipo MIME supportato: |
responseSchema |
Campo facoltativo. Schema di risposta di output del testo candidato generato quando il tipo MIME di risposta può avere uno schema. Lo schema può essere costituito da oggetti, primitive o array ed è un sottoinsieme di schema OpenAPI. Se impostato, è necessario impostare anche un responseMimeType compatibile. Tipi MIME compatibili: |
candidateCount |
Campo facoltativo. Numero di risposte generate da restituire. Attualmente, questo valore può essere impostato solo su 1. Se il criterio non viene configurato, il valore predefinito sarà 1. |
maxOutputTokens |
Campo facoltativo. Il numero massimo di token da includere in un candidato. Nota: il valore predefinito varia in base al modello. Consulta l'attributo |
temperature |
Campo facoltativo. Controlla la casualità dell'output. Nota: il valore predefinito varia in base al modello. Consulta l'attributo I valori possono essere compresi tra [0,0 e 2,0]. |
topP |
Campo facoltativo. La probabilità cumulativa massima di token da considerare durante il campionamento. Il modello utilizza il campionamento combinato di Top-K e nucleo. I token vengono ordinati in base alle probabilità assegnate, in modo da considerare solo i token più probabili. Il campionamento Top-K limita direttamente il numero massimo di token da considerare, mentre il campionamento Nucleus limita il numero di token in base alla probabilità cumulativa. Nota: il valore predefinito varia in base al modello. Consulta l'attributo |
topK |
Campo facoltativo. Il numero massimo di token da considerare durante il campionamento. I modelli utilizzano il campionamento del nucleo o il campionamento combinato di Top-K e nucleo. Il campionamento Top-K considera l'insieme di Nota: il valore predefinito varia in base al modello. Consulta l'attributo |