上下文缓存

在典型的 AI 工作流中，您可能会反复向模型传递相同的输入词元。Gemini API 提供隐式缓存，可优化性能和成本。

隐式缓存

对于所有 Gemini 2.5 及更新的模型，隐式缓存默认处于启用状态。它同时支持有状态（使用 previous_interaction_id）和无状态对话模式。如果您的请求命中缓存，我们会自动为您节省费用。您无需进行任何配置即可开启此功能。下表列出了每个模型的输入 token 数量下限：

模型	词元数量下限
Gemini 4 Argon	4096
Gemini 3.8 Flash	4096
Gemini 3.6 Flash	4096
Gemini 3 Pro 预览版	4096
Gemini 2.5 Flash	2048
Gemini 2.5 Pro	2048

如要提高隐式缓存命中的几率，可以：

• 尝试将较大且常见的内容放置在提示的开头
• 尝试在短时间内发送具有相似前缀的请求

您可以在回答对象的 usage.total_cached_tokens（Python 和 JavaScript）字段中查看缓存命中的 token 数量。