Para um guia detalhado sobre como contar tokens usando a API Gemini, incluindo como imagens, áudio e vídeo são contados, consulte o guia de contagem de tokens e a receita do Cookbook.
Método: models.countTokens
- Endpoint
- Parâmetros de caminho
- Corpo da solicitação
- Corpo da resposta
- Escopos de autorização
- Exemplo de solicitação
Executa o tokenizador de um modelo na entrada Content e retorna a contagem de tokens. Consulte o guia de tokens para saber mais sobre eles.
Endpoint
posthttps: / /generativelanguage.googleapis.com /v1beta /{model=models /*}:countTokens
Parâmetros de caminho
model
string
Obrigatório. O nome do recurso do modelo. Ele serve como um ID para o modelo usar.
Esse nome precisa corresponder a um nome de modelo retornado pelo método models.list.
Formato: models/{model}. Ele assume a forma models/{model}.
Corpo da solicitação
O corpo da solicitação contém dados com a seguinte estrutura:
contents[]
object (Content)
Opcional. A entrada fornecida ao modelo como um comando. Esse campo é ignorado quando generateContentRequest está definido.
generateContentRequest
object (GenerateContentRequest)
Opcional. A entrada geral fornecida ao Model. Isso inclui o comando, bem como outras informações de direção do modelo, como instruções do sistema e/ou declarações de função para chamadas de função. Models/Contents e generateContentRequests são mutuamente exclusivos. Você pode enviar Model + Contents ou um generateContentRequest, mas nunca os dois.
Exemplo de solicitação
Texto
Python
Node.js
Go
Shell
Chat
Python
Node.js
Go
Shell
Mídia inline
Python
Node.js
Go
Shell
Vídeo
Python
Node.js
Go
Shell
Python
Cache
Python
Node.js
Go
Instrução do sistema
Go
Ferramentas
Java
Corpo da resposta
Uma resposta de models.countTokens.
Ele retorna o tokenCount do modelo para o prompt.
Se bem-sucedido, o corpo da resposta incluirá dados com a estrutura a seguir:
totalTokens
integer
O número de tokens que o Model tokeniza o prompt. Sempre não negativo.
cachedContentTokenCount
integer
Número de tokens na parte armazenada em cache do comando (o conteúdo armazenado em cache).
promptTokensDetails[]
object (ModalityTokenCount)
Apenas saída. Lista de modalidades que foram processadas na entrada da solicitação.
cacheTokensDetails[]
object (ModalityTokenCount)
Apenas saída. Lista de modalidades que foram processadas no conteúdo armazenado em cache.
| Representação JSON |
|---|
{ "totalTokens": integer, "cachedContentTokenCount": integer, "promptTokensDetails": [ { object ( |