Metodo: Models.countTokens
- Endpoint
- Parametri percorso
- Corpo della richiesta
- Corpo della risposta
- Ambiti di autorizzazione
- Richiesta di esempio
- GenerateContentRequest
Esegue il tokenizzatore di un modello sui contenuti di input e restituisce il conteggio dei token.
Endpoint
pubblica
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
Parametri del percorso
model
string
Obbligatorio. Il nome della risorsa del modello. Serve da ID per il modello.
Questo nome deve corrispondere a un nome di modello restituito dal metodo models.list
.
Formato: models/{model}
Prende il formato models/{model}
.
Corpo della richiesta
Il corpo della richiesta contiene dati con la seguente struttura:
contents[]
object (Content
)
(Facoltativo) L'input fornito al modello come prompt. Questo campo viene ignorato se viene impostato il criterio generateContentRequest
.
generateContentRequest
object (GenerateContentRequest
)
(Facoltativo) L'input complessivo fornito al modello. modelli.countTokens conterà prompt, chiamate di funzione e così via.
Esempio di richiesta
Testo
Python
Node.js
Conchiglia
Kotlin
Swift
Dart
Java
Chat
Python
Node.js
Conchiglia
Kotlin
Swift
Dart
Java
Contenuti multimediali incorporati
Python
Node.js
Kotlin
Swift
Dart
Java
File
Python
Node.js
Cache
Python
Node.js
Istruzione di sistema
Python
Node.js
Kotlin
Swift
Dart
Java
Strumenti
Python
Node.js
Kotlin
Swift
Dart
Java
Corpo della risposta
Una risposta da models.countTokens
.
Restituisce il valore tokenCount
del modello per prompt
.
In caso di esito positivo, il corpo della risposta contiene dati con la seguente struttura:
totalTokens
integer
Il numero di token in cui model
tokenizza prompt
.
Sempre non negativo. Quando si impostano contenuti memorizzati nella cache, si tratta comunque delle dimensioni effettive totali del prompt. Ad esempio questo include il numero di token nei contenuti memorizzati nella cache.
Rappresentazione JSON |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Richiesta di generare un completamento dal modello.
Rappresentazione JSON |
---|
{ "model": string, "contents": [ { object ( |
model
string
Obbligatorio. Il nome dell'elemento Model
da utilizzare per generare il completamento.
Formato: name=models/{model}
.
contents[]
object (Content
)
Obbligatorio. I contenuti della conversazione corrente con il modello.
Per le query a turno singolo, si tratta di una singola istanza. Per le query in più passaggi, si tratta di un campo ripetuto contenente la cronologia delle conversazioni e l'ultima richiesta.
tools[]
object (Tool
)
(Facoltativo) Un elenco di Tools
che il modello potrebbe utilizzare per generare la risposta successiva.
Un Tool
è una porzione di codice che consente al sistema di interagire con sistemi esterni per eseguire un'azione o un insieme di azioni al di fuori delle conoscenze e dell'ambito del modello. Al momento l'unico strumento supportato è Function
.
toolConfig
object (ToolConfig
)
(Facoltativo) Configurazione dello strumento per qualsiasi Tool
specificato nella richiesta.
safetySettings[]
object (SafetySetting
)
(Facoltativo) Un elenco di istanze SafetySetting
univoche per il blocco di contenuti non sicuri.
Questa norma verrà applicata in modo forzato a GenerateContentRequest.contents
e GenerateContentResponse.candidates
. Non dovrebbe essere presente più di un'impostazione per ogni tipo di SafetyCategory
. L'API bloccherà tutti i contenuti e le risposte che non rispetteranno le soglie impostate da queste impostazioni. Questo elenco sostituisce le impostazioni predefinite per ogni SafetyCategory
specificato in safetySettings. Se non è presente alcun valore SafetySetting
per un determinato SafetyCategory
nell'elenco, l'API utilizzerà l'impostazione di sicurezza predefinita per la categoria in questione. Sono supportate le categorie di danni HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT e HARM_CATEGORY_HARASSMENT.
systemInstruction
object (Content
)
(Facoltativo) Istruzione di sistema impostata dallo sviluppatore. Al momento, solo testo.
generationConfig
object (GenerationConfig
)
(Facoltativo) Opzioni di configurazione per la generazione e gli output del modello.
cachedContent
string
(Facoltativo) Il nome dei contenuti memorizzati nella cache utilizzati come contesto per fornire la previsione. Nota: utilizzato solo nella memorizzazione nella cache esplicita, dove gli utenti possono controllare la memorizzazione nella cache (ad es. quali contenuti memorizzare nella cache) e usufruire di risparmi sui costi garantiti. Formato: cachedContents/{cachedContent}