W typowym przepływie pracy AI możesz wielokrotnie przekazywać modelowi te same tokeny wejściowe. Interfejs Gemini API oferuje niejawne buforowanie, które pozwala zoptymalizować wydajność i koszty.
Automatyczne buforowanie
Pamięć podręczna niejawna jest domyślnie włączona we wszystkich modelach Gemini 2.5 i nowszych. Jest obsługiwany zarówno w trybie rozmowy stanowej (z użyciem previous_interaction_id), jak i bezstanowej.
Jeśli Twoje żądanie trafi do pamięci podręcznej, automatycznie obniżymy koszty. Nie musisz niczego konfigurować, aby ją włączyć. W tabeli poniżej znajdziesz minimalną liczbę tokenów wejściowych dla każdego modelu:
Model
Minimalny limit tokenów
Gemini 4 Argon
4096
Gemini 3.8 Flash
4096
Gemini 3.6 Flash
4096
Gemini 3.1 Pro (wersja testowa)
4096
Gemini 2.5 Flash
2048
Gemini 2.5 Pro
2048
Aby zwiększyć szanse na trafienie w pamięci podręcznej:
Spróbuj umieścić duże i często używane treści na początku prompta.
Spróbuj wysłać żądania z podobnym prefiksem w krótkim czasie.
Liczbę tokenów, które zostały trafione w pamięci podręcznej, możesz sprawdzić w polu usage.total_cached_tokens (Python i JavaScript) obiektu odpowiedzi.
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2026-10-23 UTC."],[],[]]
