Method: models.countTokens

Ejecuta el tokenizador de un modelo en el contenido de entrada y muestra el recuento de tokens.

Solicitud HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

La URL usa la sintaxis de la transcodificación gRPC.

Parámetros de ruta de acceso

Parámetros
model

string

Obligatorio. El nombre del recurso del modelo. Esto sirve como un ID para que use el modelo.

Este nombre debe coincidir con el nombre de modelo que muestra el método models.list.

Formato: models/{model}

Cuerpo de la solicitud

El cuerpo de la solicitud contiene datos con la siguiente estructura:

Representación JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Campos
contents[]

object (Content)

Opcional. La entrada proporcionada al modelo como instrucción. Este campo se ignora cuando se configura generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Opcional. La entrada general otorgada al modelo. models.countTokens contará los mensajes, las llamadas a funciones, etcétera.

Cuerpo de la respuesta

Una respuesta de models.countTokens.

Muestra el tokenCount del modelo para el prompt.

Si se ejecuta correctamente, el cuerpo de la respuesta contendrá datos con la siguiente estructura:

Representación JSON 
{
  "totalTokens": integer
}
Campos
totalTokens

integer

La cantidad de tokens en los que model asigna un token a prompt.

Siempre no es negativo. Cuando se configura cacheContent, este sigue siendo el tamaño total de la instrucción efectiva. Es decir, esto incluye la cantidad de tokens en el contenido almacenado en caché.

Permisos de autorización

Se necesita uno de los siguientes permisos de OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Para obtener más información, consulta Descripción general de la autenticación.

GenerateContentRequest

Solicitud para generar una finalización a partir del modelo.

Representación JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Campos
model

string

Obligatorio. Es el nombre de Model que se usará para generar la finalización.

Formato: name=models/{model}.
contents[]

object (Content)

Obligatorio. El contenido de la conversación actual con el modelo.

Para consultas de un solo turno, esta es una instancia única. Para consultas de varios turnos, es un campo repetido que contiene el historial de conversaciones y la solicitud más reciente.
safetySettings[]

object (SafetySetting)

Opcional. Una lista de instancias de SafetySetting únicas para bloquear contenido no seguro.

Esto se aplicará de manera forzosa en GenerateContentRequest.contents y GenerateContentResponse.candidates. No debe haber más de un parámetro de configuración para cada tipo de SafetyCategory. La API bloqueará el contenido y las respuestas que no cumplan con los umbrales establecidos por esta configuración. Esta lista anula la configuración predeterminada para cada SafetyCategory especificado en SafetySettings. Si no hay un SafetySetting para un SafetyCategory determinado proporcionado en la lista, la API usará la configuración de seguridad predeterminada para esa categoría. Se admiten las categorías de daños HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT.
generationConfig

object (GenerationConfig)

Opcional. Opciones de configuración para la generación y la salida de modelos.