La API de Gemini ofrece una variedad de mecanismos de optimización para ayudarte a equilibrar la velocidad, el costo y la confiabilidad según las necesidades específicas de tu carga de trabajo. Ya sea que estés creando bots conversacionales en tiempo real o ejecutando canalizaciones de procesamiento de datos sin conexión pesadas, elegir el paradigma adecuado puede reducir significativamente los costos o mejorar el rendimiento.
| Función | Estándar | Flexible | Prioridad | Lote | Almacenamiento en caché |
|---|---|---|---|---|---|
| Precios | Precio completo | 50% de descuento | Entre un 75% y un 100% más que el estándar | 50% de descuento | 90% de descuento + almacenamiento de tokens prorrateado |
| Latencia | De segundos a minutos | Minutos (objetivo de 1 a 15 min) | Segundos | Hasta 24 horas | Tiempo hasta el primer token más rápido |
| Confiabilidad | Alta / media-alta | Mejor esfuerzo (descartable) | Alto (no se desprende) | Alto (para la capacidad de procesamiento) | N/A |
| Interface | Síncrona | Síncrona | Síncrona | Asíncrono | Estado guardado |
| Mejor caso de uso | Flujos de trabajo generales de la aplicación | Cadenas secuenciales no urgentes | Apps de producción para el usuario | Conjuntos de datos masivos y evaluaciones sin conexión | Consultas recurrentes sobre el mismo archivo |
Niveles de servicio de inferencia (síncronos)
Puedes cambiar entre el tráfico síncrono optimizado para la confiabilidad y el optimizado para el costo pasando el parámetro service_tier en tus llamadas de generación estándar.
Inferencia estándar (predeterminada)
El nivel estándar es la opción predeterminada para la generación de contenido secuencial. Proporciona tiempos de respuesta normales sin primas adicionales ni filas pesadas.
- Confiabilidad: Criticidad estándar
- Precio: Precios estándar.
- Ideal para: La mayoría de las aplicaciones interactivas cotidianas.
Inferencia prioritaria (optimizada para la latencia)
El procesamiento con prioridad dirige tus solicitudes a colas de procesamiento de alta criticidad. Este tráfico no se puede descartar (nunca se interrumpe por otros niveles) y ofrece la mayor confiabilidad. Si excedes los límites de prioridad dinámica, el sistema degradará la solicitud al procesamiento estándar en lugar de fallar con un error.
- Confiabilidad: Criticidad más alta
- Precio: Entre un 75% y un 100% más que las tarifas estándar.
- Ideal para: Chatbots de clientes, detección de fraudes en tiempo real y copilotos fundamentales para la empresa.
Inferencia Flex (con optimización de costos)
La inferencia flexible ofrece un descuento del 50% en comparación con las tarifas estándar, ya que utiliza capacidad de procesamiento oportunista fuera de las horas pico. Las solicitudes se procesan de forma síncrona, lo que significa que no es necesario que reescribas el código para administrar objetos por lotes. Dado que es tráfico "descartable", es posible que las solicitudes se interrumpan si el sistema experimenta picos de tráfico estándar.
- Confiabilidad: Criticidad descartable y no garantizada
- Precio: El 50% del precio estándar (se factura por token).
- Ideal para: Agentic Workflows de varios pasos en los que la llamada N+1 depende del resultado de la llamada N, actualizaciones del CRM en segundo plano y evaluaciones sin conexión.
API de Batch (masiva y asíncrona)
La API de Batch está diseñada para procesar grandes volúmenes de solicitudes de forma asíncrona con el 50% del costo estándar. Puedes enviar solicitudes como diccionarios intercalados o con un archivo de entrada JSONL (hasta 2 GB). Procesa las solicitudes con filas de procesamiento en segundo plano con un tiempo de respuesta objetivo de 24 horas.
- Confiabilidad: Descartable, pero con reintentos automatizados y sistema de filas de espera las 24 horas
- Precio: 50% del precio de la edición Standard
- Ideal para: Procesar previamente conjuntos de datos masivos, ejecutar paquetes de pruebas de regresión periódicos y generar imágenes o incorporaciones de gran volumen
Caché de contexto (ahorro de entradas)
El almacenamiento en caché de contexto se usa cuando las solicitudes más cortas hacen referencia repetidamente a un contexto inicial sustancial.
- Almacenamiento en caché implícito: Se habilita automáticamente en los modelos de Gemini 2.5 y versiones posteriores. El sistema transfiere los ahorros de costos si tu solicitud alcanza las cachés existentes en función de los prefijos de instrucciones comunes.
- Almacenamiento en caché explícito: Puedes crear manualmente un objeto de caché con un tiempo de actividad (TTL) específico. Una vez creados, puedes consultar los tokens almacenados en caché para las solicitudes posteriores y evitar pasar la misma carga útil del corpus de forma repetida.
- Precio: Se factura según la cantidad de tokens de caché y la duración del almacenamiento (TTL).
- Ideal para: Chatbots con instrucciones del sistema extensas, análisis repetitivos de archivos de video largos o consultas en grandes conjuntos de documentos
Reduce los costos de entrada de video con el procesamiento agentivo
En el caso del contenido de video de formato largo, el procesamiento agentivo puede reducir los costos de tokens de entrada hasta en un 88% y, al mismo tiempo, mejorar la calidad de las respuestas. En lugar de extraer cada fotograma a 1 FPS (procesamiento estático), el modelo busca de forma dinámica en el video y carga la transcripción, los fotogramas o el audio relevantes para tu instrucción. En el caso de los clips cortos (de menos de 5 minutos) en los que la latencia es fundamental, el procesamiento estático puede proporcionar un tiempo hasta el primer token (TTFT) más rápido, ya que el modo de agente incurre en razonamiento interno y viajes de ida y vuelta de herramientas antes de que comience la generación.
Para usar el procesamiento con agentes con Gemini 3.8 Flash, 3.6 Flash o 3.5 Flash Lite, configura processing: "agentic" (API de Interactions) o media_processing: "AGENTIC" (API de GenerateContent) en la entrada de video. Si el modelo no admite el procesamiento con agentes, devolverá un error.
Consulta Comprensión de video de agentes para ver ejemplos de código.