Method: models.countTokens

Exécute la fonction de tokenisation d'un modèle sur le contenu d'entrée et renvoie le nombre de jetons.

Requête HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

L'URL utilise la syntaxe de transcodage gRPC.

Paramètres de chemin d'accès

Paramètres
model

string

Obligatoire. Nom de ressource du modèle. Il servira d'ID pour le modèle.

Ce nom doit correspondre à un nom de modèle renvoyé par la méthode models.list.

Format : models/{model}

Corps de la requête

Le corps de la requête contient des données présentant la structure suivante :

Représentation JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Champs
contents[]

object (Content)

Facultatif. Entrée donnée au modèle en tant que requête. Ce champ est ignoré lorsque generateContentRequest est défini.
generateContentRequest

object (GenerateContentRequest)

Facultatif. Valeur d'entrée globale donnée au modèle. La méthode "models.countTokens" compte la requête, l'appel de fonction, etc.

Corps de la réponse

Réponse de models.countTokens.

Elle renvoie l'tokenCount du modèle pour prompt.

Si la requête aboutit, le corps de la réponse contient des données qui ont la structure suivante :

Représentation JSON 
{
  "totalTokens": integer
}
Champs
totalTokens

integer

Nombre de jetons dans lesquels le model tokenise le prompt.

Toujours non négatif. Lorsque la valeur "cacheContent" est définie, il s'agit toujours de la taille totale effective de la requête. Cela inclut le nombre de jetons dans le contenu mis en cache.

Champs d'application des autorisations

Nécessite l'un des champs d'application OAuth suivants :

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Pour en savoir plus, consultez la page Présentation de l'authentification.

GenerateContentRequest

Requête pour générer une complétion à partir du modèle.

Représentation JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Champs
model

string

Obligatoire. Nom de la Model à utiliser pour générer l'achèvement.

Format : name=models/{model}.
contents[]

object (Content)

Obligatoire. Contenu de la conversation en cours avec le modèle.

Pour les requêtes à un seul tour, il s'agit d'une instance unique. Pour les requêtes multitours, il s'agit d'un champ répété contenant l'historique de la conversation et la dernière requête.
safetySettings[]

object (SafetySetting)

Facultatif. Liste d'instances SafetySetting uniques permettant de bloquer le contenu à risque.

Cette modification sera appliquée à GenerateContentRequest.contents et à GenerateContentResponse.candidates. Il ne doit pas y avoir plus d'un paramètre par type de SafetyCategory. L'API bloquera tous les contenus et toutes les réponses qui ne respectent pas les seuils définis par ces paramètres. Cette liste remplace les paramètres par défaut pour chaque SafetyCategory spécifié dans les paramètres de sécurité. Si aucun SafetySetting ne figure dans la liste pour un SafetyCategory donné, l'API utilise le paramètre de sécurité par défaut pour cette catégorie. Les catégories de préjudices HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT et HARM_CATEGORY_HARASSMENT sont prises en charge.
generationConfig

object (GenerationConfig)

Facultatif. Options de configuration pour la génération et les sorties de modèles