O armazenamento em cache de contexto

Em um fluxo de trabalho de IA típico, você pode transmitir os mesmos tokens de entrada várias vezes para um modelo. A API Gemini oferece armazenamento em cache implícito para otimizar a performance e os custos.

Armazenamento em cache implícito

O armazenamento em cache implícito é ativado por padrão para todos os modelos do Gemini 2.5 e mais recentes. Ele é compatível com modos de conversa com estado (usando previous_interaction_id) e sem estado. Transmitimos automaticamente a economia de custos se a solicitação atingir os caches. Não é necessário fazer nada para ativar esse recurso. A contagem mínima de tokens de entrada para o armazenamento em cache de contexto está listada na tabela a seguir para cada modelo:

Para aumentar a chance de uma ocorrência em cache implícita:

• Coloque conteúdos grandes e comuns no início do prompt.
• Tente enviar solicitações com prefixo semelhante em um curto período.

É possível conferir o número de tokens que foram acertos de cache no campo usage.total_cached_tokens (Python e JavaScript) do objeto de resposta.