Method: models.countTokens

Esegue il tokenizzatore di un modello sui contenuti di input e restituisce il conteggio dei token.

Richiesta HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

L'URL utilizza la sintassi di transcodifica gRPC.

Parametri del percorso

Parametri
model

string

Obbligatoria. Il nome della risorsa del modello. Serve da ID per il modello.

Questo nome deve corrispondere a un nome di modello restituito dal metodo models.list.

Formato: models/{model}

Corpo della richiesta

Il corpo della richiesta contiene dati con la seguente struttura:

Rappresentazione JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Campi
contents[]

object (Content)

Campo facoltativo. L'input fornito al modello come prompt. Questo campo viene ignorato se viene impostato il criterio generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Campo facoltativo. L'input complessivo fornito al modello. models.countTokens conteggerà i prompt, le chiamate di funzione e così via.

Corpo della risposta

Una risposta da models.countTokens.

Restituisce il valore tokenCount del modello per prompt.

In caso di esito positivo, il corpo della risposta contiene dati con la seguente struttura:

Rappresentazione JSON 
{
  "totalTokens": integer
}
Campi
totalTokens

integer

Il numero di token in cui model tokenizza prompt.

Sempre non negativo. Quando è impostata l'impostazione cacheContent, si tratta comunque delle dimensioni effettive totali del prompt. Questo include il numero di token nei contenuti memorizzati nella cache.

Ambiti di autorizzazione

Richiede uno dei seguenti ambiti OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Per ulteriori informazioni, consulta la Panoramica dell'autenticazione.

GenerateContentRequest

Richiesta di generare un completamento dal modello.

Rappresentazione JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Campi
model

string

Obbligatoria. Il nome dell'evento Model da utilizzare per generare il completamento.

Formato: name=models/{model}.
contents[]

object (Content)

Obbligatoria. I contenuti della conversazione corrente con il modello.

Per le query a turno singolo, si tratta di una singola istanza. Per le query in più passaggi, si tratta di un campo ripetuto contenente la cronologia delle conversazioni e l'ultima richiesta.
safetySettings[]

object (SafetySetting)

Campo facoltativo. Un elenco di istanze SafetySetting univoche per il blocco di contenuti non sicuri.

Questa norma verrà applicata in modo forzato a GenerateContentRequest.contents e GenerateContentResponse.candidates. Non dovrebbe essere presente più di un'impostazione per ogni tipo di SafetyCategory. L'API bloccherà tutti i contenuti e le risposte che non rispetteranno le soglie impostate da queste impostazioni. Questo elenco sostituisce le impostazioni predefinite per ogni SafetyCategory specificato nelle impostazioni di sicurezza. Se non è presente alcun valore SafetySetting per un determinato SafetyCategory nell'elenco, l'API utilizzerà l'impostazione di sicurezza predefinita per la categoria in questione. Sono supportate le categorie di danni HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT e HARM_CATEGORY_HARASSMENT.
generationConfig

object (GenerationConfig)

Campo facoltativo. Opzioni di configurazione per la generazione e gli output del modello.