コンテキストのキャッシュ保存

一般的な AI ワークフローでは、同じ入力トークンをモデルに何度も渡すことがあります。Gemini API は、パフォーマンスとコストを最適化するために暗黙的なキャッシュ保存を提供します。

暗黙的なキャッシュ保存

暗黙的なキャッシュ保存は、すべての Gemini 2.5 以降のモデルでデフォルトで有効になっています。ステートフル（`previous_interaction_id` を使用）とステートレスの両方の会話モードでサポートされています。previous_interaction_idリクエストがキャッシュにヒットした場合、コスト削減分が自動的に渡されます。有効にするために必要な操作はありません。コンテキスト キャッシュ保存の最小入力トークン数は、次の表にモデルごとに示されています。

暗黙的なキャッシュ ヒットの可能性を高めるには:

• 大規模で一般的なコンテンツは、プロンプトの先頭に配置します。
• 類似した接頭辞を含むリクエストを短時間で送信します。

キャッシュ ヒットしたトークンの数は、レスポンス オブジェクトの usage.total_cached_tokens（Python と JavaScript）フィールドで確認できます。