In un flusso di lavoro di AI tipico, potresti passare gli stessi token di input più e più volte a un modello. L'API Gemini offre la memorizzazione nella cache implicita per ottimizzare prestazioni e costi.
Memorizzazione nella cache implicita
La memorizzazione nella cache implicita è abilitata per impostazione predefinita per tutti i modelli Gemini 2.5 e versioni successive. È
supportata sia per le modalità conversazionali stateful (utilizzando previous_interaction_id)
sia per quelle stateless.
Se la tua richiesta raggiunge le cache, trasferiamo automaticamente i risparmi sui costi. Non devi configurare nulla per attivarla. La tabella seguente elenca il numero minimo di token di input per ogni modello:
Modello
Limite minimo di token
Gemini 4 Argon
4096
Gemini 3.8 Flash
4096
Gemini 3.6 Flash
4096
Gemini 3.1 Pro (anteprima)
4096
Gemini 2.5 Flash
2048
Gemini 2.5 Pro
2048
Per aumentare la probabilità di un successo della cache implicita:
Prova a inserire contenuti di grandi dimensioni e comuni all'inizio del prompt
Prova a inviare richieste con prefisso simile in un breve periodo di tempo
Puoi visualizzare il numero di token che hanno generato successi della cache nel campo usage.total_cached_tokens (Python e JavaScript) dell'oggetto di risposta.
[[["Facile da capire","easyToUnderstand","thumb-up"],["Il problema è stato risolto","solvedMyProblem","thumb-up"],["Altra","otherUp","thumb-up"]],[["Mancano le informazioni di cui ho bisogno","missingTheInformationINeed","thumb-down"],["Troppo complicato/troppi passaggi","tooComplicatedTooManySteps","thumb-down"],["Obsoleti","outOfDate","thumb-down"],["Problema di traduzione","translationIssue","thumb-down"],["Problema relativo a esempi/codice","samplesCodeIssue","thumb-down"],["Altra","otherDown","thumb-down"]],["Ultimo aggiornamento 2026-10-13 UTC."],[],[]]
