W typowym procesie AI możesz wielokrotnie przekazywać te same tokeny wejściowe do modelu. Interfejs Gemini API oferuje niejawne buforowanie, które optymalizuje wydajność i koszty.
Niejawne buforowanie
Niejawne buforowanie jest domyślnie włączone we wszystkich modelach Gemini 2.5 i nowszych. Jest ono
obsługiwane zarówno w trybach rozmowy ze stanem (przy użyciu parametru previous_interaction_id)
i bezstanowych.
Jeśli Twoje żądanie trafi do pamięci podręcznej, automatycznie przekażemy Ci oszczędności. Aby włączyć tę funkcję, nie musisz niczego konfigurować. W tabeli poniżej znajdziesz minimalną liczbę tokenów wejściowych dla każdego modelu:
Model
Minimalny limit tokenów
Gemini 4 Argon
4096
Gemini 3.8 Flash
4096
Gemini 3.6 Flash
4096
Gemini 3.1 Pro (wersja testowa)
4096
Gemini 2.5 Flash
2048
Gemini 2.5 Pro
2048
Aby zwiększyć szansę na trafienie do niejawnej pamięci podręcznej:
Spróbuj umieścić duże i popularne treści na początku prompta.
Spróbuj wysyłać żądania z podobnym prefiksem w krótkim czasie.
Liczbę tokenów, które zostały trafieniem w pamięci podręcznej, możesz sprawdzić w polu usage.total_cached_tokens obiektu odpowiedzi (Python i JavaScript).
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2026-10-13 UTC."],[],[]]
