En un flujo de trabajo típico de IA, es posible que pases los mismos tokens de entrada una y otra vez a un modelo. La API de Gemini ofrece almacenamiento en caché implícito para optimizar el rendimiento y los costos.
Almacenamiento en caché implícito
El almacenamiento en caché implícito está habilitado de forma predeterminada para todos los modelos de Gemini 2.5 y versiones posteriores. Se admite tanto para los modos de conversación con estado (con previous_interaction_id) como sin estado.
Si tu solicitud llega a las memorias caché, te transferiremos automáticamente los ahorros de costos. No es necesario que realices ninguna acción para habilitar esta función. En la siguiente tabla, se indica la cantidad mínima de tokens de entrada para el almacenamiento en caché del contexto de cada modelo:
Modelo
Límite mínimo de tokens
Gemini 3.8 Flash
4,096
Gemini 3.6 Flash
4,096
Versión preliminar de Gemini 3.1 Pro
4,096
Gemini 2.5 Flash
2,048
Gemini 2.5 Pro
2,048
Para aumentar las probabilidades de un acierto de caché implícito, haz lo siguiente:
Intenta colocar contenido grande y común al principio de tu instrucción.
Intenta enviar solicitudes con prefijos similares en un corto período
Puedes ver la cantidad de tokens que fueron aciertos de caché en el campo usage.total_cached_tokens (Python y JavaScript) del objeto de respuesta.
[[["Fácil de comprender","easyToUnderstand","thumb-up"],["Resolvió mi problema","solvedMyProblem","thumb-up"],["Otro","otherUp","thumb-up"]],[["Falta la información que necesito","missingTheInformationINeed","thumb-down"],["Muy complicado o demasiados pasos","tooComplicatedTooManySteps","thumb-down"],["Desactualizado","outOfDate","thumb-down"],["Problema de traducción","translationIssue","thumb-down"],["Problema con las muestras o los códigos","samplesCodeIssue","thumb-down"],["Otro","otherDown","thumb-down"]],["Última actualización: 2026-10-09 (UTC)"],[],[]]
