Gemini API には、特定のワークロードのニーズに基づいて速度、費用、信頼性のバランスを取るためのさまざまな最適化メカニズムが用意されています。リアルタイムの会話ボットを構築する場合でも、負荷の高いオフライン データ処理パイプラインを実行する場合でも、適切なパラダイムを選択することで、コストを大幅に削減したり、パフォーマンスを向上させたりできます。
| 機能 | 標準 | Flex | 優先度 | バッチ | キャッシュ |
|---|---|---|---|---|---|
| 料金 | 正規料金 | 50% 割引 | 標準の 75 ～ 100% 増 | 50% 割引 | 90% 割引 + トークン ストレージの比例配分 |
| レイテンシ | 数秒～数分 | 分（1 ～ 15 分が目標） | 秒 | 最大 24 時間 | 最初のトークンまでの時間の短縮 |
| 信頼性 | 高 / 中高 | ベスト エフォート（破棄可能） | 高（削減不可） | 高（スループットの場合） | なし |
| インターフェース | 同期 | 同期 | 同期 | 非同期 | 保存された状態 |
| 最適なユースケース | 一般的なアプリケーション ワークフロー | 緊急でない連続したチェーン | 製品版のユーザー向けアプリ | 大規模なデータセット、オフライン評価 | 同じファイルに対する繰り返しのクエリ |
推論サービスティア（同期）
標準の生成呼び出しで service_tier パラメータを渡すことで、信頼性最適化と費用最適化の同期トラフィックを切り替えることができます。
標準推論（デフォルト）
スタンダード ティアは、シーケンシャル コンテンツ生成のデフォルト オプションです。追加料金や長いキューイングなしで、通常の応答時間を提供します。
- 信頼性: 標準の重大度
- 料金: Standard の料金。
- 最適な用途: ほとんどのインタラクティブな日常的なアプリケーション。
優先推論（レイテンシ最適化）
優先度処理では、リクエストが重要度の高いコンピューティング キューに転送されます。このトラフィックは厳密に非シェディング（他の階層によってプリエンプトされることはありません）であり、最高の信頼性を提供します。動的優先度の上限を超えると、システムはエラーで失敗するのではなく、リクエストを標準処理に正常にダウングレードします。
- 信頼性: 最も高い重要度
- 料金: 標準料金の 75% ～ 100% 増し。
- 最適な用途: カスタマー チャットボット、リアルタイムの不正行為検出、ビジネス クリティカルなコパイロット。
Flex 推論（コスト最適化）
Flex 推論では、機会的なオフピークのコンピュート容量を利用することで、標準料金と比較して 50% の割引が適用されます。リクエストは同期的に処理されるため、バッチ オブジェクトを管理するためにコードを書き換える必要はありません。これは「破棄可能」なトラフィックであるため、システムで標準トラフィックの急増が発生すると、リクエストがプリエンプトされる可能性があります。
- 信頼性: 非保証型、シェッダブルな重要度
- 料金: 標準料金の 50%（トークンごとに課金）。
- 最適な用途: 呼び出し N+1 が呼び出し N の出力、バックグラウンド CRM の更新、オフライン評価に依存するマルチステップ Agentic Workflows。
Batch API（一括、非同期）
Batch API は、大量のリクエストを標準料金の 50% で非同期に処理するように設計されています。リクエストは、インライン辞書として送信することも、JSONL 入力ファイル（最大 2 GB）を使用して送信することもできます。バックグラウンド スループット キューを使用してリクエストを処理し、目標ターンアラウンド タイムは 24 時間です。
- 信頼性: 破棄可能。ただし、24 時間の自動再試行とキューイング システムを使用
- 料金: Standard の料金の 50%。
- 最適な用途: 大規模なデータセットの前処理、定期的な回帰テストスイートの実行、大量の画像やエンベディングの生成。
コンテキスト キャッシュ保存（入力コストの削減）
コンテキスト キャッシュ保存は、初期コンテキストの実体部分が、短いリクエストで繰り返し参照される場合に使用されます。
- 暗黙的キャッシュ保存: Gemini 2.5 以降のモデルで自動的に有効になります。リクエストが一般的なプロンプト接頭辞に基づいて既存のキャッシュにヒットした場合、システムはコスト削減を渡します。
- 明示的なキャッシュ保存: 特定の有効期間（TTL）を持つキャッシュ オブジェクトを手動で作成できます。作成後は、後続のリクエストでキャッシュに保存されたトークンを参照して、同じコーパス ペイロードが繰り返し渡されないようにします。Gemini 4 Argon 以降では、明示的なキャッシュ保存はサポートされていません。
- 料金: キャッシュ トークンの数と保存期間（TTL）に基づいて課金されます。
- 最適な用途: 広範なシステム指示を伴う chatbot、長時間の動画ファイルの繰り返し分析、大規模なドキュメント セットに対するクエリ。
エージェント処理で動画入力のコストを削減する
長尺動画コンテンツ（5 ～ 10 分以上）やターゲット クエリの場合、エージェント処理により、入力トークンの費用を最大 88% 削減しながら、レスポンスの品質を向上させることができます。デフォルトでは、すべてのモデル（Gemini 4 を含む）は静的処理を使用して 1 FPS でフレームを抽出します。エージェント型動画理解では、モデルがまず動画の文字起こしを検査し、必要な部分のみで、より高いフレームレートと解像度で視覚セグメントを動的に読み込みます。短いクリップ（5 分未満）や広範な動画全体の要約の場合は、デフォルトの静的処理モードを維持して、最初のトークンまでの時間（TTFT）を短縮し、トークン オーバーヘッドを削減します。エージェント モードでは、タイムライン ナビゲーション中に内部推論（total_thought_tokens）とツールの往復（total_tool_use_tokens）が発生します。
Gemini 4 Argon、3.8 Flash、3.6 Flash、3.5 Flash Lite でエージェント処理を使用するには、動画入力に processing: "agentic"（Interactions API）または media_processing: "AGENTIC"（GenerateContent API）を設定します。モデルがエージェント処理をサポートしていない場合は、エラーが返されます。
詳細については、エージェントによる動画の理解をご覧ください。