Method: models.countTokens

Exécute la fonction de tokenisation d'un modèle sur le contenu d'entrée et renvoie le nombre de jetons.

Requête HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

L'URL utilise la syntaxe de transcodage gRPC.

Paramètres de chemin d'accès

Paramètres
model

string

Obligatoire. Nom de ressource du modèle. Il servira d'ID au modèle à utiliser.

Ce nom doit correspondre à un nom de modèle renvoyé par la méthode models.list.

Format : models/{model}

Corps de la requête

Le corps de la requête contient des données présentant la structure suivante :

Représentation JSON
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Champs
contents[]

object (Content)

Facultatif. Entrée transmise au modèle en tant que requête. Ce champ est ignoré lorsque generateContentRequest est défini.

generateContentRequest

object (GenerateContentRequest)

Facultatif. L'entrée globale donnée au modèle. model.model.countTokens comptabilise les requêtes, les appels de fonction, etc.

Corps de la réponse

Réponse de models.countTokens.

Elle renvoie la valeur tokenCount du modèle pour l'élément prompt.

Si la requête aboutit, le corps de la réponse contient des données qui ont la structure suivante :

Représentation JSON
{
  "totalTokens": integer
}
Champs
totalTokens

integer

Nombre de jetons dans lesquels model tokenise l'élément prompt.

Toujours non négatif.

Champs d'application des autorisations

Nécessite l'un des champs d'application OAuth suivants :

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Pour en savoir plus, consultez la page Présentation de l'authentification.

GenerateContentRequest

Requête pour générer une achèvement à partir du modèle.

Représentation JSON
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Champs
model

string

Obligatoire. Nom de Model à utiliser pour générer la saisie semi-automatique.

Format : name=models/{model}.

contents[]

object (Content)

Obligatoire. Contenu de la conversation en cours avec le modèle.

Pour les requêtes à un seul tour, il s'agit d'une instance unique. Pour les requêtes multitours, il s'agit d'un champ répété contenant l'historique de la conversation et la dernière requête.

safetySettings[]

object (SafetySetting)

Facultatif. Liste d'instances SafetySetting uniques permettant de bloquer les contenus à risque.

Cette règle sera appliquée sur GenerateContentRequest.contents et GenerateContentResponse.candidates. Il ne doit y avoir qu'un seul paramètre par type de SafetyCategory. L'API bloque les contenus et les réponses qui ne respectent pas les seuils définis par ces paramètres. Cette liste remplace les paramètres par défaut pour chaque SafetyCategory spécifié dans safetySettings. Si aucun élément SafetySetting n'est indiqué dans la liste pour un SafetyCategory donné, l'API utilise le paramètre de sécurité par défaut de cette catégorie. Les catégories de danger HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT et HARM_CATEGORY_HARASSMENT sont acceptées.

generationConfig

object (GenerationConfig)

Facultatif. Options de configuration pour la génération de modèles et les sorties