Method: models.countTokens

Executa o tokenizador de um modelo no conteúdo de entrada e retorna a contagem de tokens.

Solicitação HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

O URL usa a sintaxe de transcodificação gRPC.

Parâmetros de caminho

Parâmetros
model

string

Obrigatório. O nome do recurso do modelo. Isso serve como um ID a ser usado pelo modelo.

Esse nome precisa corresponder a um nome de modelo retornado pelo método models.list.

Formato: models/{model}

Corpo da solicitação

O corpo da solicitação contém dados com a seguinte estrutura:

Representação JSON
{
  "contents": [
    {
      object (Content)
    }
  ]
}
Campos
contents[]

object (Content)

Obrigatório. A entrada dada ao modelo como um comando.

Corpo da resposta

Uma resposta de models.countTokens.

Ele retorna o tokenCount do modelo para o prompt.

Se bem-sucedido, o corpo da resposta incluirá dados com a estrutura a seguir:

Representação JSON
{
  "totalTokens": integer
}
Campos
totalTokens

integer

O número de tokens em que o model tokeniza o prompt.

Sempre não negativo.

Escopos de autorização

Requer um dos seguintes escopos de OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Para saber mais, consulte a Visão geral da autenticação.