Method: models.countTokens

Executa o tokenizador de um modelo no conteúdo de entrada e retorna a contagem de tokens.

Solicitação HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

O URL usa a sintaxe de transcodificação gRPC.

Parâmetros de caminho

Parâmetros
model

string

Obrigatório. O nome do recurso do modelo. Isso serve como um ID a ser usado pelo modelo.

Esse nome precisa corresponder a um nome de modelo retornado pelo método models.list.

Formato: models/{model}

Corpo da solicitação

O corpo da solicitação contém dados com a seguinte estrutura:

Representação JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Campos
contents[]

object (Content)

Opcional. A entrada dada ao modelo como um comando. Este campo é ignorado quando generateContentRequest é definido.
generateContentRequest

object (GenerateContentRequest)

Opcional. A entrada geral dada a model. models.countTokens contará comando, chamada de função etc.

Corpo da resposta

Resposta de models.countTokens.

Ele retorna o tokenCount do modelo para o prompt.

Se bem-sucedido, o corpo da resposta incluirá dados com a estrutura a seguir:

Representação JSON 
{
  "totalTokens": integer
}
Campos
totalTokens

integer

O número de tokens em que model tokeniza o prompt.

Sempre não negativo. Quando cacheContent é definido, esse ainda é o tamanho total efetivo da solicitação. Ou seja, isso inclui o número de tokens no conteúdo armazenado em cache.

Escopos de autorização

Requer um dos seguintes escopos de OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Para saber mais, consulte a Visão geral da autenticação.

GenerateContentRequest

Solicitação para gerar uma conclusão a partir do modelo.

Representação JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Campos
model

string

Obrigatório. O nome da Model que será usada para gerar a conclusão.

Formato: name=models/{model}.
contents[]

object (Content)

Obrigatório. O conteúdo da conversa atual com o modelo.

Para consultas de turno único, esta é uma instância única. Para consultas de vários turnos, esse é um campo repetido que contém o histórico de conversas + a solicitação mais recente.
safetySettings[]

object (SafetySetting)

Opcional. Uma lista de instâncias SafetySetting exclusivas para bloquear conteúdo não seguro.

Isso será aplicado no GenerateContentRequest.contents e no GenerateContentResponse.candidates. Não pode haver mais de uma configuração para cada tipo de SafetyCategory. A API vai bloquear todos os conteúdos e respostas que não atenderem aos limites definidos por essas configurações. Essa lista substitui as configurações padrão de cada SafetyCategory especificada em safetySettings. Se não houver SafetySetting para um determinado SafetyCategory fornecido na lista, a API vai usar a configuração de segurança padrão para essa categoria. As categorias de dano HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT e HARM_CATEGORY_HARASSMENT são compatíveis.
generationConfig

object (GenerationConfig)

Opcional. Opções de configuração para geração e saídas de modelos.