Method: models.countTokens

Exécute la fonction de tokenisation d'un modèle sur le contenu d'entrée et renvoie le nombre de jetons.

Requête HTTP

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

L'URL utilise la syntaxe de transcodage gRPC.

Paramètres de chemin d'accès

Paramètres
model

string

Obligatoire. Nom de ressource du modèle. Il servira d'ID pour le modèle.

Ce nom doit correspondre à un nom de modèle renvoyé par la méthode models.list.

Format : models/{model}

Corps de la requête

Le corps de la requête contient des données présentant la structure suivante :

Représentation JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Champs
contents[]

object (Content)

Facultatif. Entrée donnée au modèle en tant que requête. Ce champ est ignoré lorsque generateContentRequest est défini.
generateContentRequest

object (GenerateContentRequest)

Facultatif. Valeur d'entrée globale donnée au modèle. La méthode "models.countTokens" compte la requête, l'appel de fonction, etc.

Corps de la réponse

Réponse de models.countTokens.

Elle renvoie l'tokenCount du modèle pour prompt.

Si la requête aboutit, le corps de la réponse contient des données qui ont la structure suivante :

Représentation JSON 
{
  "totalTokens": integer
}
Champs
totalTokens

integer

Nombre de jetons dans lesquels le model tokenise le prompt.

Toujours non négatif. Lorsque la valeur "cacheContent" est définie, il s'agit toujours de la taille totale effective de la requête. Cela inclut le nombre de jetons dans le contenu mis en cache.

Champs d'application des autorisations

Nécessite l'un des champs d'application OAuth suivants :

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Pour en savoir plus, consultez la page Présentation de l'authentification.

GenerateContentRequest

Requête pour générer une complétion à partir du modèle.

Représentation JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  },
  "cachedContent": string
}
Champs
model

string

Obligatoire. Nom de la Model à utiliser pour générer l'achèvement.

Format : name=models/{model}.
contents[]

object (Content)

Obligatoire. Contenu de la conversation en cours avec le modèle.

Pour les requêtes à un seul tour, il s'agit d'une instance unique. Pour les requêtes multitours, il s'agit d'un champ répété contenant l'historique de la conversation et la dernière requête.
tools[]

object (Tool)

Facultatif. Liste de Tools que le modèle peut utiliser pour générer la réponse suivante.

Un Tool est un extrait de code qui permet au système d'interagir avec des systèmes externes pour effectuer une ou plusieurs actions, en dehors des connaissances et du champ d'application du modèle. Le seul outil actuellement compatible est Function.
toolConfig

object (ToolConfig)

Facultatif. Configuration de l'outil pour tous les Tool spécifiés dans la requête.
safetySettings[]

object (SafetySetting)

Facultatif. Liste d'instances SafetySetting uniques permettant de bloquer le contenu à risque.

Cette modification sera appliquée à GenerateContentRequest.contents et à GenerateContentResponse.candidates. Il ne doit pas y avoir plus d'un paramètre par type de SafetyCategory. L'API bloquera tous les contenus et toutes les réponses qui ne respectent pas les seuils définis par ces paramètres. Cette liste remplace les paramètres par défaut pour chaque SafetyCategory spécifié dans les paramètres de sécurité. Si aucun SafetySetting ne figure dans la liste pour un SafetyCategory donné, l'API utilise le paramètre de sécurité par défaut pour cette catégorie. Les catégories de préjudices HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT et HARM_CATEGORY_HARASSMENT sont prises en charge.
systemInstruction

object (Content)

Facultatif. Instruction concernant le système défini par le développeur. Pour le moment, il s'agit uniquement de texte.
generationConfig

object (GenerationConfig)

Facultatif. Options de configuration pour la génération et les sorties de modèles
cachedContent

string

Facultatif. Nom du contenu mis en cache utilisé comme contexte pour diffuser la prédiction. Remarque: Utilisé uniquement dans la mise en cache explicite, où les utilisateurs peuvent contrôler la mise en cache (par exemple, quel contenu mettre en cache) et bénéficier d'économies garanties. Format : cachedContents/{cachedContent}