Gemini API 提供多种优化机制，可帮助您根据具体工作负载需求平衡速度、费用和可靠性。 无论您是构建实时对话机器人，还是运行繁重的离线数据处理流水线，选择合适的范式都可以显著降低费用或提升性能。
| 功能 | 标准版 | Flex | 优先级 | 批量 | 缓存 |
|---|---|---|---|---|---|
| 价格 | 全价 | 5 折 | 比标准价格高 75% 到 100% | 5 折 | 9 折 + 按比例计算的 token 存储费用 |
| 延迟时间 | 秒到分钟 | 分钟（目标时间为 1-15 分钟） | 秒 | 最长 24 小时 | 首 token 延迟时间更短 |
| 可靠性 | 高 / 中高 | 尽力而为（可舍弃） | 高（不可舍弃） | 高（针对吞吐量） | 不适用 |
| 接口 | 同步 | 同步 | 同步 | 异步 | 已保存状态 |
| 最佳使用场景 | 常规应用工作流 | 非紧急的顺序链 | 生产环境、面向用户的应用 | 大型数据集、离线评估 | 针对同一文件的周期性查询 |
推理服务层级（同步）
您可以通过在标准生成调用中传递 service_tier 参数，在针对可靠性优化的同步流量和针对费用优化的同步流量之间切换。
标准推理（默认）
标准层级是顺序内容生成的默认选项。 它提供正常的响应时间，无需额外付费或大量排队。
- 可靠性： 标准关键性
- 价格： 标准价格。
- 最适合： 大多数日常交互式应用。
优先级推理（针对延迟时间进行了优化）
优先级处理会将您的请求路由 到高关键性计算队列。 此流量严格不可舍弃（永远不会被其他层级抢占），并且提供最高的可靠性。如果您超出动态优先级限制，系统会正常将请求降级为标准处理，而不是因错误而失败。
- 可靠性： 最高关键性
- 价格： 比标准价格高 75% 到 100%。
- 最适合： 客户聊天机器人、实时欺诈检测和业务关键型副驾驶。
Flex 推理（针对费用进行了优化）
Flex 推理利用机会性非高峰计算容量，与标准价格相比可享受 5 折优惠。请求是同步处理的，这意味着您无需重写代码来管理批量对象。 由于它是“可舍弃”的流量，因此如果系统遇到标准流量高峰，请求可能会被抢占。
- 可靠性： 无保证，可舍弃的关键性
- 价格： 标准价格的 50%（按 token 计费）。
- 最适合： 多步骤 Agentic Workflows（其中调用 N+1 取决于调用 N 的输出）、后台 CRM 更新和离线评估。
Batch API（批量、异步）
Batch API 旨在以标准费用的 50% 异步处理大量请求。您可以以内嵌字典的形式提交请求，也可以使用 JSONL 输入文件（最大 2GB）。它使用后台吞吐量队列处理请求，目标周转时间为 24 小时。
- 可靠性： 可舍弃，但具有 24 小时自动重试和排队系统
- 价格： 标准价格的 50%。
- 最适合： 预处理大型数据集、运行定期回归测试套件以及生成大量图片或嵌入内容。
上下文缓存（节省输入）
上下文缓存用于当较短的请求重复引用大量初始 上下文时。
- 隐式缓存： 在 Gemini 2.5 及更新型号上自动启用。 如果您的请求基于常见提示前缀命中现有缓存，系统会将节省的费用传递给您。
- 显式缓存： 您可以手动创建具有特定存留时间 (TTL) 的缓存对象。创建后，您可以引用缓存的 token 以进行后续请求，从而避免重复传递相同的语料库载荷。Gemini 4 Argon 及更高版本不支持显式缓存。
- 价格： 根据缓存 token 数量和存储时长 (TTL) 计费。
- 最适合： 有大量系统指令的聊天机器人、重复分析较长的视频文件，或针对大型文档集进行查询。
通过智能体处理降低视频输入费用
对于长视频内容（超过 5-10 分钟）或定向查询，智能体处理可以将输入 token 费用降低高达 88%，同时提高响应质量。默认情况下，所有模型（包括 Gemini 4）都使用 静态处理 以 1 FPS 的速率提取帧。借助智能体视频理解，模型会先检查视频转写，然后仅在需要时以更高的帧速率和分辨率动态加载视觉片段。对于短片（不到 5 分钟）或广泛的完整视频摘要，请保留默认的静态处理模式，以缩短首 token 延迟时间 (TTFT) 并降低 token 开销。在时间轴导航期间，任务型模式会产生内部推理 (total_thought_tokens) 和工具往返 (total_tool_use_tokens)。
如需将智能体处理与 Gemini 4 Argon、3.8 Flash、3.6 Flash 或 3.5 Flash Lite 搭配使用，请在视频输入中设置 processing: "agentic" (Interactions API) 或 media_processing: "AGENTIC" (GenerateContent API)。如果模型不支持任务型处理，则会返回错误。
如需了解详情，请参阅 智能体视频理解。