Método: models.countTokens
- Endpoint
- Parâmetros de caminho
- Corpo da solicitação
- Corpo da resposta
- Escopos de autorização
- Exemplo de solicitação
- GenerateContentRequest
Executa o tokenizador de um modelo no conteúdo de entrada e retorna a contagem de tokens.
Endpoint
postar
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
Parâmetros de caminho
model
string
Obrigatório. O nome do recurso do modelo. Isso serve como um ID a ser usado pelo modelo.
Esse nome precisa corresponder a um nome de modelo retornado pelo método models.list
.
Formato: models/{model}
. Ele assume o formato models/{model}
.
Corpo da solicitação
O corpo da solicitação contém dados com a seguinte estrutura:
contents[]
object (Content
)
Opcional. A entrada dada ao modelo como um comando. Este campo é ignorado quando generateContentRequest
é definido.
generateContentRequest
object (GenerateContentRequest
)
Opcional. A entrada geral dada ao modelo. Os modelos.countTokens vão contar o comando, a chamada de função etc.
Exemplo de solicitação
Texto
Python
Node.js
Concha
Kotlin
Swift
Dart
Java
Chat
Python
Node.js
Concha
Kotlin
Swift
Dart
Java
Mídia inline
Python
Node.js
Kotlin
Swift
Dart
Java
Arquivos
Python
Node.js
Cache
Python
Node.js
Instrução do sistema
Python
Node.js
Kotlin
Swift
Dart
Java
Ferramentas
Python
Node.js
Kotlin
Swift
Dart
Java
Corpo da resposta
Resposta de models.countTokens
.
Ele retorna o tokenCount
do modelo para o prompt
.
Se bem-sucedido, o corpo da resposta incluirá dados com a estrutura a seguir:
totalTokens
integer
O número de tokens em que model
tokeniza o prompt
.
Sempre não negativo. Quando cacheContent é definido, esse ainda é o tamanho total efetivo da solicitação. Por exemplo: isso inclui o número de tokens no conteúdo armazenado em cache.
Representação JSON |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Solicitação para gerar uma conclusão a partir do modelo.
Representação JSON |
---|
{ "model": string, "contents": [ { object ( |
model
string
Obrigatório. O nome da Model
que será usada para gerar a conclusão.
Formato: name=models/{model}
.
contents[]
object (Content
)
Obrigatório. O conteúdo da conversa atual com o modelo.
Para consultas de turno único, esta é uma instância única. Para consultas de vários turnos, este é um campo repetido que contém o histórico de conversas + a solicitação mais recente.
tools[]
object (Tool
)
Opcional. Uma lista de Tools
que o modelo pode usar para gerar a próxima resposta.
Um Tool
é um trecho de código que permite ao sistema interagir com sistemas externos para realizar uma ação, ou conjunto de ações, fora do conhecimento e do escopo do modelo. No momento, a única ferramenta compatível é Function
.
toolConfig
object (ToolConfig
)
Opcional. Configuração de ferramenta para qualquer Tool
especificado na solicitação.
safetySettings[]
object (SafetySetting
)
Opcional. Uma lista de instâncias SafetySetting
exclusivas para bloquear conteúdo não seguro.
Isso será aplicado no GenerateContentRequest.contents
e no GenerateContentResponse.candidates
. Não pode haver mais de uma configuração para cada tipo de SafetyCategory
. A API vai bloquear todos os conteúdos e respostas que não atenderem aos limites definidos por essas configurações. Essa lista substitui as configurações padrão de cada SafetyCategory
especificada em safetySettings. Se não houver SafetySetting
para um determinado SafetyCategory
fornecido na lista, a API vai usar a configuração de segurança padrão para essa categoria. As categorias de dano HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT e HARM_CATEGORY_HARASSMENT são compatíveis.
systemInstruction
object (Content
)
Opcional. O desenvolvedor definiu as instruções do sistema. No momento, somente texto.
generationConfig
object (GenerationConfig
)
Opcional. Opções de configuração para geração e saídas de modelos.
cachedContent
string
Opcional. O nome do conteúdo armazenado em cache usado como contexto para disponibilizar a previsão. Observação: usado apenas em armazenamento em cache explícito, em que os usuários podem ter controle sobre o armazenamento em cache (por exemplo, qual conteúdo armazenar em cache) e aproveitar a economia de custos garantida. Formato: cachedContents/{cachedContent}