Metoda: Modele.countTokens
- Punkt końcowy
- Parametry ścieżki
- Treść żądania
- Treść odpowiedzi
- Zakresy autoryzacji
- Przykładowe żądanie
- GenerateContentRequest
Uruchamia tokenizację modelu w przypadku treści wejściowej i zwraca liczbę tokenów.
Punkt końcowy
post
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
Parametry ścieżki
model
string
Wymagane. Nazwa zasobu modelu. Służy on jako identyfikator, którego model ma używać.
Ta nazwa powinna być zgodna z nazwą modelu zwracaną przez metodę models.list
.
Format: models/{model}
Przyjmuje postać models/{model}
.
Treść żądania
Treść żądania zawiera dane o następującej strukturze:
contents[]
object (Content
)
Opcjonalnie: Dane wejściowe podane modelowi w postaci promptu. To pole jest ignorowane po ustawieniu pola generateContentRequest
.
generateContentRequest
object (GenerateContentRequest
)
Opcjonalnie: Ogólne dane wejściowe przekazane modelowi. Models.countTokens będzie zliczać prompty, wywołania funkcji itp.
Przykładowe żądanie
Tekst
Python
Node.js
Pudrowy róż
Kotlin
Swift
Dart
Java
Czat
Python
Node.js
Pudrowy róż
Kotlin
Swift
Dart
Java
Multimedia w treści
Python
Node.js
Kotlin
Swift
Dart
Java
Pliki
Python
Node.js
Cache (Pamięć podręczna)
Python
Node.js
Instrukcja systemowa
Python
Node.js
Kotlin
Swift
Dart
Java
Narzędzia
Python
Node.js
Kotlin
Swift
Dart
Java
Treść odpowiedzi
Odpowiedź od użytkownika models.countTokens
.
Zwraca tokenCount
modelu dla prompt
.
W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:
totalTokens
integer
Liczba tokenów, do których model
tokenizuje token prompt
.
Zawsze nieujemna. Jeśli ustawiona jest treść w pamięci podręcznej, nadal jest to łączny efektywny rozmiar promptu. Na przykład obejmuje to liczbę tokenów w pamięci podręcznej.
Zapis JSON |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Żądanie wygenerowania ukończenia z modelu.
Zapis JSON |
---|
{ "model": string, "contents": [ { object ( |
model
string
Wymagane. Nazwa obiektu Model
, która ma być używana do generowania uzupełniania.
Format: name=models/{model}
.
contents[]
object (Content
)
Wymagane. Treść bieżącej rozmowy z modelem.
W przypadku zapytań jednoetapowych jest to pojedyncza instancja. W przypadku zapytań wieloetapowych jest to pole powtarzane, które zawiera historię rozmowy i ostatnie żądanie.
tools[]
object (Tool
)
Opcjonalnie: Lista właściwości Tools
, których model może używać do generowania następnej odpowiedzi.
Tool
to fragment kodu, który umożliwia systemowi wchodzenie w interakcję z zewnętrznymi systemami w celu wykonania działania lub zestawu działań poza zakresem wiedzy i zakresu modelu. Obecnie jedynym obsługiwanym narzędziem jest Function
.
toolConfig
object (ToolConfig
)
Opcjonalnie: Konfiguracja narzędzia dla dowolnych Tool
określonych w żądaniu.
safetySettings[]
object (SafetySetting
)
Opcjonalnie: Lista unikalnych instancji SafetySetting
do blokowania niebezpiecznych treści.
Ta zmiana zostanie zastosowana w GenerateContentRequest.contents
i GenerateContentResponse.candidates
. Każdy typ SafetyCategory
powinien mieć maksymalnie 1 ustawienie. Interfejs API zablokuje treści i odpowiedzi, które nie osiągną progów ustawionych przez te ustawienia. Ta lista zastępuje domyślne ustawienia dla każdego elementu SafetyCategory
określonego w ustawieniach bezpieczeństwa. Jeśli na liście nie ma atrybutu SafetySetting
dla danego elementu SafetyCategory
, interfejs API użyje dla tej kategorii domyślnego ustawienia bezpieczeństwa. Kategorie szkodliwego działania: HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT są obsługiwane.
systemInstruction
object (Content
)
Opcjonalnie: Instrukcja systemowa ustawiona przez dewelopera. Obecnie tylko tekstowe.
generationConfig
object (GenerationConfig
)
Opcjonalnie: Opcje konfiguracji generowania modeli i ich danych wyjściowych.
cachedContent
string
Opcjonalnie: Nazwa treści z pamięci podręcznej używanej jako kontekst do wyświetlania podpowiedzi. Uwaga: używane tylko w trybie jawnego buforowania, w którym użytkownicy mogą kontrolować buforowanie (np. jaką zawartość przechowywać w pamięci podręcznej) i korzystać z gwarantowanych oszczędności. Format: cachedContents/{cachedContent}