Gemini API 提供多種最佳化機制，可協助您根據特定工作負載需求，在速度、成本和可靠性之間取得平衡。無論是建構即時對話機器人，還是執行大量離線資料處理管道，選擇合適的範例都能大幅降低成本或提升效能。
| 功能 | 標準 | Flex | 優先順序 | 批次 | 快取 |
|---|---|---|---|---|---|
| 定價 | 原價 | 50% 折扣 | 比標準價格高出 75% 到 100% | 50% 折扣 | 按比例計算的權杖儲存空間 |
| 延遲 | 秒到分鐘 | 分鐘 (目標：1 到 15 分鐘) | 低 (秒) | 長達 24 小時 | 縮短第一個詞元生成時間 |
| 穩定性 | 高 / 中高 | 盡可能提供最佳服務 (可捨棄) | 高 (不掉毛) | 高 (處理量) | 不適用 |
| 介面 | 同步 | 同步 | 同步 | 非同步 | 已儲存狀態 |
| 最佳用途 | 一般應用程式工作流程 | 非緊急的連續鏈結 | 生產環境、面向使用者的應用程式 | 龐大的資料集、離線評估 | 對相同檔案重複查詢 |
推論服務層級 (同步)
在標準生成呼叫中傳遞 service_tier 參數，即可在延遲最佳化和成本最佳化同步流量之間切換。
標準推論 (預設)
標準層級是連續生成內容的預設選項。可提供正常的回應時間，不會收取額外費用，也不會出現大量排隊情況。
- 延遲時間：幾秒到幾分鐘。
- 價格：標準價格。
- 適用情況：最適合日常互動式應用程式。
優先推論 (延遲時間最佳化)
優先順序處理程序會將要求傳送至高重要性的運算佇列。這類流量絕對不會遭到捨棄 (絕不會遭到其他層級搶占)，而且可靠性最高。如果超過動態優先權限制，系統會將要求降級為標準處理程序，而不是傳回錯誤。
- 延遲時間：超低 (毫秒到秒)。
- 價格：比標準費率高出 75% 至 100%。
- 適用情況：即時客戶聊天機器人、即時詐欺偵測，以及業務關鍵的副手。
彈性推論 (成本最佳化)
彈性推論會利用離峰時段的運算容量，因此與標準費率相比，可享有 50% 的折扣。要求會同步處理，因此您不必重新編寫程式碼來管理批次物件。由於這是「可捨棄」的流量，如果系統發生標準流量尖峰，要求可能會遭到搶占。
- 延遲時間：無保證，目標為 1 到 15 分鐘。
- 價格：標準價格的 50% (按權杖計費)。
- 最適合：多步驟代理式工作流程，其中呼叫 N+1 取決於呼叫 N 的輸出內容、背景 CRM 更新和離線評估。
批次 API (大量、非同步)
批次 API 的設計宗旨，是以標準費用的 50%，非同步處理大量要求。您可以內嵌字典或使用 JSONL 輸入檔案 (最多 2 GB) 提交要求。這項服務會使用背景處理量佇列處理要求，目標處理時間為 24 小時。
- 延遲時間：高 (最長 24 小時)。
- 價格：標準價格的 50%。
- 最適合：預先處理大量資料集、執行週期性迴歸測試套件，以及大量生成圖片或嵌入。
脈絡快取 (節省輸入內容)
當較短的要求重複參照大量初始脈絡時，就會使用「脈絡快取」。
- 隱式快取：Gemini 2.5 以上模型會自動啟用這項功能。 如果要求根據常見提示前置字元命中現有快取，系統會將節省的費用轉移給您。
- 明確快取：您可以手動建立具有特定存留時間 (TTL) 的快取物件。建立後，您可以在後續要求中參照快取權杖，避免重複傳遞相同的語料庫酬載。
- 價格：根據快取權杖數量和儲存時間 (TTL) 計費。
- 最適合：具有大量系統指令的聊天機器人、重複分析冗長影片檔案，或針對大型文件集進行查詢。