Szczegółowy przewodnik dotyczący zliczania tokenów za pomocą interfejsu Gemini API, w tym informacje o tym, jak zliczane są obrazy, dźwięk i filmy, znajdziesz w przewodniku zliczania tokenów i towarzyszącym mu przepisie z Cookbook.
Metoda: models.countTokens
Uruchamia tokenizer modelu na danych wejściowych Content i zwraca liczbę tokenów. Więcej informacji o tokenach znajdziesz w przewodniku po tokenach.
Punkt końcowy
posthttps: / /generativelanguage.googleapis.com /v1beta /{model=models /*}:countTokens
Parametry ścieżki
model
string
Wymagane. Nazwa zasobu modelu. Służy jako identyfikator modelu.
Ta nazwa powinna pasować do nazwy modelu zwróconej przez metodę models.list.
Format: models/{model}. Ma postać models/{model}.
Treść żądania
Treść żądania zawiera dane o następującej strukturze:
contents[]
object (Content)
Opcjonalnie. Dane wejściowe przekazywane do modelu jako prompt. To pole jest ignorowane, gdy ustawiona jest wartość generateContentRequest.
generateContentRequest
object (GenerateContentRequest)
Opcjonalnie. Ogólne dane wejściowe przekazywane do Model. Obejmuje to prompt oraz inne informacje sterujące modelem, takie jak instrukcje systemowe lub deklaracje funkcji do wywoływania funkcji. Models/Contents i generateContentRequests wykluczają się wzajemnie. Możesz wysłać Model + Contents lub generateContentRequest, ale nigdy oba.
Przykładowe żądanie
Tekst
Python
Node.js
Go
Powłoka
Czat
Python
Node.js
Go
Powłoka
Media w tekście
Python
Node.js
Go
Powłoka
Film
Python
Node.js
Go
Powłoka
Python
Pamięć podręczna
Python
Node.js
Go
Instrukcja systemowa
Go
Narzędzia
Java
Treść odpowiedzi
Odpowiedź z models.countTokens.
Zwraca tokenCount modelu dla prompt.
W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:
totalTokens
integer
Liczba tokenów, na które Model dzieli prompt. Zawsze nieujemna.
cachedContentTokenCount
integer
Liczba tokenów w części promptu przechowywanej w pamięci podręcznej (treści z pamięci podręcznej).
promptTokensDetails[]
object (ModalityTokenCount)
Tylko dane wyjściowe. Lista modalności, które zostały przetworzone w danych wejściowych żądania.
cacheTokensDetails[]
object (ModalityTokenCount)
Tylko dane wyjściowe. Lista modalności, które zostały przetworzone w treści z pamięci podręcznej.
| Zapis JSON |
|---|
{ "totalTokens": integer, "cachedContentTokenCount": integer, "promptTokensDetails": [ { object ( |