Methode: models.countTokens
- Endpunkt
- Pfadparameter
- Anfragetext
<ph type="x-smartling-placeholder">
- </ph>
- JSON-Darstellung
- Antworttext
<ph type="x-smartling-placeholder">
- </ph>
- JSON-Darstellung
- Autorisierungsbereiche
- Beispielanfrage <ph type="x-smartling-placeholder">
- GenerateContentRequest
<ph type="x-smartling-placeholder">
- </ph>
- JSON-Darstellung
Führt den Tokenizer eines Modells für den Eingabeinhalt aus und gibt die Tokenanzahl zurück.
Endpunkt
<ph type="x-smartling-placeholder"></ph> Beitrag
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
.
Pfadparameter
model
string
Erforderlich. Der Ressourcenname des Modells. Dies dient als ID für das zu verwendende Modell.
Dieser Name sollte mit einem Modellnamen übereinstimmen, der von der Methode models.list
zurückgegeben wird.
Format: models/{model}
. Sie hat das Format models/{model}
.
Anfragetext
Der Anfragetext enthält Daten mit folgender Struktur:
<ph type="x-smartling-placeholder">contents[]
object (Content
)
Optional. Die Eingabe, die dem Modell als Prompt gegeben wird. Dieses Feld wird ignoriert, wenn generateContentRequest
festgelegt ist.
generateContentRequest
object (GenerateContentRequest
)
Optional. Die Gesamteingabe für das Modell. models.countTokens zählt Prompts, Funktionsaufrufe usw.
Beispielanfrage
Text
Python
Node.js
Muschel
Kotlin
Swift
Dart
Java
Chat
Python
Node.js
Muschel
Kotlin
Swift
Dart
Java
Inline-Medien
Python
Node.js
Kotlin
Swift
Dart
Java
Dateien
Python
Node.js
Cache
Python
Node.js
Systemanweisung
Python
Node.js
Kotlin
Swift
Dart
Java
Tools
Python
Node.js
Kotlin
Swift
Dart
Java
Antworttext
Eine Antwort von models.countTokens
.
Sie gibt den tokenCount
des Modells für prompt
zurück.
Bei Erfolg enthält der Antworttext Daten mit der folgenden Struktur:
totalTokens
integer
Die Anzahl der Tokens, in die der model
die prompt
tokenisiert.
Immer positiv. Wenn „cacheContent“ festgelegt ist, ist dies immer noch die effektive Gesamtgröße des Prompts. Das heißt: Dazu gehört auch die Anzahl der Tokens im Cache-Inhalt.
JSON-Darstellung |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Anfrage zum Generieren einer Vervollständigung aus dem Modell.
JSON-Darstellung |
---|
{ "model": string, "contents": [ { object ( |
model
string
Erforderlich. Der Name des Model
, der zum Generieren der Vervollständigung verwendet werden soll.
Format: name=models/{model}
.
contents[]
object (Content
)
Erforderlich. Der Inhalt der aktuellen Unterhaltung mit dem Modell.
Bei Einzelabfragen ist dies eine einzelne Instanz. Bei Abfragen mit mehreren Antworten ist dies ein wiederkehrendes Feld, das den Unterhaltungsverlauf und die letzte Anfrage enthält.
tools[]
object (Tool
)
Optional. Eine Liste von Tools
, die das Modell verwenden kann, um die nächste Antwort zu generieren.
Eine Tool
ist ein Code-Snippet, das es dem System ermöglicht, mit externen Systemen zu interagieren, um eine Aktion oder eine Reihe von Aktionen auszuführen, ohne das Wissen und den Umfang des Modells zu überschreiten. Das einzige unterstützte Tool ist derzeit Function
.
toolConfig
object (ToolConfig
)
Optional. Toolkonfiguration für eine in der Anfrage angegebene Tool
.
safetySettings[]
object (SafetySetting
)
Optional. Eine Liste einzelner SafetySetting
-Instanzen zum Blockieren unsicherer Inhalte.
Dies wird am GenerateContentRequest.contents
und GenerateContentResponse.candidates
erzwungen. Es darf nicht mehr als eine Einstellung für jeden SafetyCategory
-Typ vorhanden sein. Die API blockiert alle Inhalte und Antworten, die die in diesen Einstellungen festgelegten Grenzwerte nicht erreichen. Diese Liste überschreibt die Standardeinstellungen für jeden in „safetySettings“ festgelegten SafetyCategory
. Wenn für eine bestimmte SafetyCategory
in der Liste keine SafetySetting
angegeben ist, verwendet die API die standardmäßige Sicherheitseinstellung für diese Kategorie. Die schädlichen Kategorien HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT und HARM_CATEGORY_HARASSMENT werden unterstützt.
systemInstruction
object (Content
)
Optional. Systemanweisung für Entwicklersatz. Derzeit nur Text.
generationConfig
object (GenerationConfig
)
Optional. Konfigurationsoptionen für Modellgenerierung und -ausgaben.
cachedContent
string
Optional. Der Name des im Cache gespeicherten Inhalts, der als Kontext für die Vorhersage verwendet wird. Hinweis: Wird nur beim expliziten Caching verwendet, bei dem die Nutzer die Kontrolle über das Caching haben (z.B. welche Inhalte im Cache gespeichert werden sollen) und bei denen die Kosten eingespart werden können. Format: cachedContents/{cachedContent}