Gemini API 提供多種最佳化機制，可根據特定工作負載需求，協助您平衡速度、成本和可靠性。無論是建構即時對話機器人，還是執行大量離線資料處理管道，選擇合適的範例都能大幅降低成本或提升效能。
| 功能 | 標準 | Flex | 優先順序 | 批次 | 快取 |
|---|---|---|---|---|---|
| 定價 | 原價 | 50% 折扣 | 比標準版多 75% 到 100% | 50% 折扣 | 90% 折扣 + 按比例計算的權杖儲存空間 |
| 延遲 | 幾秒至幾分鐘 | 分鐘 (目標：1 至 15 分鐘) | 秒 | 長達 24 小時 | 縮短第一個詞元生成時間 |
| 穩定性 | 高 / 中高 | 盡可能提供最佳服務 (可捨棄) | 高 (不可捨棄) | 高 (適用於處理量) | 不適用 |
| 介面 | 同步 | 同步 | 同步 | 非同步 | 已儲存狀態 |
| 最佳用途 | 一般應用程式工作流程 | 非緊急依序鏈 | 正式版、面向使用者的應用程式 | 大量資料集、離線評估 | 對相同檔案重複查詢 |
推論服務層級 (同步)
在標準生成呼叫中傳遞 service_tier 參數，即可在可靠性最佳化和成本最佳化的同步流量之間切換。
標準推論 (預設)
標準級是依序生成內容的預設選項。提供正常的回應時間，不需額外付費或長時間排隊。
- 可靠性：標準重要性
- 價格：標準價格。
- 適用情境：大多數互動式日常應用程式。
優先推論 (延遲時間最佳化)
優先處理會將要求傳送至高重要性的運算佇列。這類流量絕對不會捨棄 (絕不會被其他級別優先占用)，可靠性最高。如果超過動態優先處理限制，系統會自動將要求降級為標準處理，而不是失敗並傳回錯誤。
- 可靠性：最重要
- 價格：比標準費率高 75% 至 100%。
- 最適合：客戶聊天機器人、即時詐欺偵測，以及業務關鍵 Copilot。
Flex 推論 (成本效益最佳)
Flex 推論會利用離峰時段的運算資源，因此價格比標準費率低 50%。要求會同步處理，因此您不必重寫程式碼來管理批次物件。由於這是「可捨棄」的流量，如果系統發生標準流量尖峰，要求可能會遭到搶占。
- 可靠性：無保證、可捨棄的重要程度
- 價格：標準價格的 50% (按詞元計費)。
- 最適合：多步驟 Agentic Workflows，其中呼叫 N+1 取決於呼叫 N 的輸出內容、背景 CRM 更新，以及離線評估。
Batch API (大量、非同步)
Batch API 專為非同步處理大量要求而設計，費用僅為標準費用的 50%。您可以透過內嵌字典或 JSONL 輸入檔案 (大小上限為 2 GB) 提交要求。系統會使用背景處理量佇列處理要求，目標週轉時間為 24 小時。
- 可靠性：可捨棄，但有 24 小時自動重試和佇列系統
- 價格：標準價格的 50%。
- 適用情境：預先處理大量資料集、定期執行迴歸測試套件，以及大量生成圖片或嵌入。
脈絡快取 (節省輸入詞元)
如果較短的要求會重複參照大量初始脈絡，則可使用脈絡快取。
- 隱式快取：Gemini 2.5 和更新版本模型會自動啟用。如果要求根據常見的提示詞前置字元命中現有快取，系統會降低費用。
- 明確快取：您可以手動建立具有特定存留時間 (TTL) 的快取物件。建立後，您可以在後續要求中參照快取權杖，避免重複傳遞相同的語料庫酬載。Gemini 4 Argon 以上版本不支援明確快取。
- 價格：根據快取權杖數量和儲存時間 (TTL) 計費。
- 最適合：具有大量系統指令的聊天機器人、重複分析長篇影片檔案，或查詢大型文件集。
運用代理式處理技術，降低影片輸入成本
如果是長篇影片內容 (超過 5 到 10 分鐘) 或指定查詢，代理處理可將輸入詞元成本降低多達 88%，同時提升回覆品質。根據預設，所有模型 (包括 Gemini 4) 都會使用靜態處理，以 1 FPS 的速率擷取影格。透過代理功能影片理解，模型會先檢查影片轉錄稿，並視需要動態載入影格率和解析度較高的影像片段。如果是短片 (5 分鐘以內) 或廣泛的完整影片摘要，請保留預設的靜態處理模式，以縮短第一個詞元生成時間 (TTFT) 並降低詞元負荷。在時間軸導覽期間，代理模式會產生內部推理 (total_thought_tokens) 和工具往返 (total_tool_use_tokens)。
如要使用 Gemini 4 Argon、3.8 Flash、3.6 Flash 或 3.5 Flash Lite 進行代理處理，請在影片輸入上設定 processing: "agentic" (Interactions API) 或 media_processing: "AGENTIC" (GenerateContent API)。如果模型不支援代理處理，則會傳回錯誤。
詳情請參閱「代理式影片解讀」。