W typowym procesie AI możesz wielokrotnie przekazywać te same tokeny wejściowe do modelu. Interfejs Gemini API oferuje niejawne buforowanie, które optymalizuje wydajność i koszty.
Niejawne buforowanie
Niejawne buforowanie jest domyślnie włączone w przypadku wszystkich modeli Gemini 2.5 i nowszych. Jeśli Twoje żądanie trafi do pamięci podręcznej, automatycznie przekażemy Ci oszczędności. Aby włączyć tę funkcję, nie musisz nic robić. Minimalna liczba tokenów wejściowych w przypadku buforowania kontekstu jest podana w tabeli poniżej dla każdego modelu:
Model
Minimalny limit tokenów
Gemini 3.5 Flash
1024
Gemini 3 Pro (wersja testowa)
4096
Gemini 2.5 Flash
1024
Gemini 2.5 Pro
4096
Aby zwiększyć szansę na trafienie w niejawnej pamięci podręcznej:
Spróbuj umieścić duże i popularne treści na początku prompta.
Spróbuj wysyłać żądania z podobnym prefiksem w krótkim czasie.
Liczbę tokenów, które zostały trafione do pamięci podręcznej, możesz sprawdzić w polu usage_metadata (Python) lub usageMetadata (JavaScript) obiektu odpowiedzi.
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2026-05-19 UTC."],[],[]]
