Method: models.generateText

{
  "prompt": {
    object (TextPrompt)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "stopSequences": [
    string
  ],
  "temperature": number,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "topP": number,
  "topK": integer
}

object (TextPrompt)

Obbligatorio. Il testo di input in formato libero assegnato al modello come prompt.

Dato un prompt, il modello genererà una risposta TextComplete che prevede come completamento del testo di input.

object (SafetySetting)

Campo facoltativo. Un elenco di istanze SafetySetting univoche per bloccare contenuti non sicuri.

che verrà applicato a GenerateTextRequest.prompt e GenerateTextResponse.candidates. Per ogni tipo di SafetyCategory non deve essere presente più di un'impostazione. L'API bloccherà tutti i prompt e le risposte che non soddisfano le soglie impostate da queste impostazioni. Questo elenco sostituisce le impostazioni predefinite per ogni SafetyCategory specificato nelle impostazioni di sicurezza. Se nell'elenco non è presente SafetySetting per un determinato SafetyCategory, l'API utilizzerà l'impostazione di sicurezza predefinita per quella categoria. Le categorie di danni HARM_CATEGORY_DEROGATORY, HARM_CATEGORY_TOXICITY, HARM_CATEGORY_VIOLENCE, HARM_CATEGORY_SEXUAL, HARM_CATEGORY_MEDICAL e HARM_CATEGORY_DANGEROUS sono supportate nel servizio di testo.

string

Il set di sequenze di caratteri (fino a 5) che interromperà la generazione di output. Se specificato, l'API si arresterà alla prima comparsa di una sequenza di interruzioni. La sequenza di interruzioni non sarà inclusa nella risposta.

number

Campo facoltativo. Controlla la casualità dell'output. Nota: il valore predefinito varia in base al modello. Controlla l'attributo Model.temperature di Model che ha restituito la funzione getModel.

I valori possono essere compresi tra [0,0 e 1,0] inclusi. Un valore più vicino a 1,0 produrrà risposte più diverse e creative, mentre un valore più vicino a 0,0 genererà in genere risposte più dirette da parte del modello.

integer

Campo facoltativo. Numero di risposte generate da restituire.

Questo valore deve essere compreso tra [1, 8] inclusi. Se non viene configurato, il valore predefinito è 1.

integer

Campo facoltativo. Il numero massimo di token da includere in un candidato.

Se il criterio non viene configurato, verrà utilizzato il valore predefinito outputTokenLimit specificato nella specifica Model.

number

Campo facoltativo. La probabilità cumulativa massima di token da considerare durante il campionamento.

Il modello utilizza il campionamento combinato di Top-k e nucleo.

I token vengono ordinati in base alle probabilità che sono state assegnate in modo da prendere in considerazione solo quelli con maggiore probabilità. Il campionamento Top-K limita direttamente il numero massimo di token da considerare, mentre il campionamento del nucleo limita il numero di token in base alla probabilità cumulativa.

Nota: il valore predefinito varia in base al modello. Controlla l'attributo Model.top_p di Model che ha restituito la funzione getModel.

integer

Campo facoltativo. Il numero massimo di token da considerare durante il campionamento.

Il modello utilizza il campionamento combinato di Top-k e nucleo.

Il campionamento Top-K considera l'insieme di topK token più probabili. Il valore predefinito è 40.

Nota: il valore predefinito varia in base al modello. Controlla l'attributo Model.top_k di Model che ha restituito la funzione getModel.