コンテキストのキャッシュ保存

一般的な AI ワークフローでは、同じ入力トークンをモデルに何度も渡すことがあります。Gemini API には、パフォーマンスと費用を最適化するための暗黙的なキャッシュが用意されています。

暗黙的なキャッシュ保存

暗黙的キャッシュ保存は、すべての Gemini 2.5 以降のモデルでデフォルトで有効になっています。ステートフル(previous_interaction_id を使用)とステートレスの両方の会話モードでサポートされています。リクエストがキャッシュにヒットすると、費用の削減が自動的に適用されます。有効にするための設定は必要ありません。次の表に、各モデルの最小入力トークン数を示します。

モデル 最小トークン上限
Gemini 4 Argon 4,096
Gemini 3.8 Flash 4,096
Gemini 3.6 Flash 4,096
Gemini 3.1 Pro プレビュー版 4,096
Gemini 2.5 Flash 2,048
Gemini 2.5 Pro 2,048

暗黙的なキャッシュ ヒットの可能性を高めるには:

  • 大規模で一般的なコンテンツは、プロンプトの先頭に配置します。
  • 類似した接頭辞を含むリクエストを短時間で送信してみる

キャッシュ ヒットしたトークンの数は、レスポンス オブジェクトの usage.total_cached_tokens(Python と JavaScript)フィールドで確認できます。