Método: models.countTokens
- Extremo
- Parámetros de ruta de acceso
- Cuerpo de la solicitud
- Cuerpo de la respuesta
- Permisos de autorización
- Ejemplo de solicitud
- GenerateContentRequest
Ejecuta el tokenizador de un modelo en el contenido de entrada y muestra el recuento de tokens.
Extremo
publicación
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
Parámetros de ruta
model
string
Obligatorio. El nombre del recurso del modelo. Esto sirve como un ID para que use el modelo.
Este nombre debe coincidir con el nombre de modelo que muestra el método models.list
.
Formato: models/{model}
Toma la forma models/{model}
.
Cuerpo de la solicitud
El cuerpo de la solicitud contiene datos con la siguiente estructura:
contents[]
object (Content
)
Opcional. La entrada proporcionada al modelo como instrucción. Este campo se ignora cuando se configura generateContentRequest
.
generateContentRequest
object (GenerateContentRequest
)
Opcional. La entrada general otorgada al modelo. model.countTokens contará instrucciones, llamadas a funciones, etcétera.
Ejemplo de solicitud
Texto
Python
Node.js
Una caracola
Kotlin
Swift
Dart
Java
Chat
Python
Node.js
Una caracola
Kotlin
Swift
Dart
Java
Contenido multimedia intercalado
Python
Node.js
Kotlin
Swift
Dart
Java
Archivos
Python
Node.js
Caché
Python
Node.js
Instrucción del sistema
Python
Node.js
Kotlin
Swift
Dart
Java
Herramientas
Python
Node.js
Kotlin
Swift
Dart
Java
Cuerpo de la respuesta
Una respuesta de models.countTokens
.
Muestra el tokenCount
del modelo para el prompt
.
Si se ejecuta correctamente, el cuerpo de la respuesta contendrá datos con la siguiente estructura:
totalTokens
integer
La cantidad de tokens en los que model
asigna un token a prompt
.
Siempre no es negativo. Cuando se configura cacheContent, este sigue siendo el tamaño total de la instrucción efectiva. Por ejemplo, esto incluye la cantidad de tokens en el contenido almacenado en caché.
Representación JSON |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Solicitud para generar una finalización a partir del modelo.
Representación JSON |
---|
{ "model": string, "contents": [ { object ( |
model
string
Obligatorio. Es el nombre de Model
que se usará para generar la finalización.
Formato: name=models/{model}
.
contents[]
object (Content
)
Obligatorio. El contenido de la conversación actual con el modelo.
Para consultas de un solo turno, esta es una instancia única. Para consultas de varios turnos, es un campo repetido que contiene el historial de conversaciones y la solicitud más reciente.
tools[]
object (Tool
)
Opcional. Una lista de Tools
que el modelo puede usar para generar la siguiente respuesta.
Un Tool
es un fragmento de código que permite que el sistema interactúe con sistemas externos para realizar una acción, o un conjunto de acciones, fuera del conocimiento y el alcance del modelo. Por el momento, la única herramienta compatible es Function
.
toolConfig
object (ToolConfig
)
Opcional. Configuración de herramientas para cualquier Tool
especificado en la solicitud.
safetySettings[]
object (SafetySetting
)
Opcional. Una lista de instancias de SafetySetting
únicas para bloquear contenido no seguro.
Esto se aplicará de manera forzosa en GenerateContentRequest.contents
y GenerateContentResponse.candidates
. No debe haber más de un parámetro de configuración para cada tipo de SafetyCategory
. La API bloqueará el contenido y las respuestas que no cumplan con los umbrales establecidos por esta configuración. Esta lista anula la configuración predeterminada para cada SafetyCategory
especificado en SafetySettings. Si no hay un SafetySetting
para un SafetyCategory
determinado proporcionado en la lista, la API usará la configuración de seguridad predeterminada para esa categoría. Se admiten las categorías de daños HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT.
systemInstruction
object (Content
)
Opcional. Instrucción del sistema establecida por el desarrollador. Actualmente, es solo texto.
generationConfig
object (GenerationConfig
)
Opcional. Opciones de configuración para la generación y la salida de modelos.
cachedContent
string
Opcional. Es el nombre del contenido almacenado en caché que se usa como contexto para entregar la predicción. Nota: Solo se usa en el almacenamiento en caché explícito, donde los usuarios pueden tener control sobre el almacenamiento en caché (p.ej., qué contenido almacenar en caché) y disfrutar de ahorros de costos garantizados. Formato: cachedContents/{cachedContent}