Yöntem: modeller.countTokens
- Uç nokta
- Yol parametreleri
- İstek gövdesi
- Yanıt gövdesi
- Yetkilendirme kapsamları
- Örnek istek
- GenerateContentRequest
Giriş içeriğinde bir modelin tokenizer'ını çalıştırır ve jeton sayısını döndürür.
Uç nokta
yayınlayacağım
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
Yol parametreleri
model
string
Zorunlu. Modelin kaynak adı. Bu, modelin kullanacağı bir kimlik görevi görür.
Bu ad, models.list
yöntemi tarafından döndürülen bir model adıyla eşleşmelidir.
Biçim: models/{model}
models/{model}
biçimindedir.
İstek içeriği
İstek gövdesi, aşağıdaki yapıya sahip verileri içerir:
contents[]
object (Content
)
İsteğe bağlı. Modele istem olarak verilen giriş. generateContentRequest
ayarlandığında bu alan yoksayılır.
generateContentRequest
object (GenerateContentRequest
)
İsteğe bağlı. Modele sağlanan toplam girdi. model.countTokens, istemi, işlev çağrısı vb. değerleri sayar.
Örnek istek
Metin
Python
Node.js
kabuk
Kotlin
Swift
Dart
Java
Sohbet
Python
Node.js
kabuk
Kotlin
Swift
Dart
Java
Satır içi medya
Python
Node.js
Kotlin
Swift
Dart
Java
Dosyalar
Python
Node.js
Önbellek
Python
Node.js
Sistem Talimatı
Python
Node.js
Kotlin
Swift
Dart
Java
Araçlar
Python
Node.js
Kotlin
Swift
Dart
Java
Yanıt gövdesi
models.countTokens
yanıtı.
prompt
için modelin tokenCount
değerini döndürür.
Başarılı olursa yanıt metni aşağıdaki yapıyla birlikte verileri içerir:
totalTokens
integer
model
öğesinin, prompt
öğesini belirteceği jeton sayısı.
Her zaman olumsuz olamaz. Önbelleğe alınmışContent ayarlandığında bu, yine de toplam etkili istem boyutudur. Örneğin, önbelleğe alınmış içerikteki jeton sayısı da dahildir.
JSON gösterimi |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Modelden tamamlama oluşturma isteğinde bulunun.
JSON gösterimi |
---|
{ "model": string, "contents": [ { object ( |
model
string
Zorunlu. Tamamlama oluşturmak için kullanılacak Model
öğesinin adı.
Biçim: name=models/{model}
.
contents[]
object (Content
)
Zorunlu. Modelle olan mevcut görüşmenin içeriği.
Tek dönüşlü sorgular için bu, tek bir örnektir. Çok dönüşlü sorgular için bu, sohbet geçmişini ve en son isteği içeren tekrarlanan bir alandır.
tools[]
object (Tool
)
İsteğe bağlı. Modelin bir sonraki yanıtı oluşturmak için kullanabileceği Tools
listesi.
Tool
, modelin bilgisi ve kapsamı dışında bir işlem veya işlem kümesi gerçekleştirmek için sistemin harici sistemlerle etkileşime girmesini sağlayan bir kod parçasıdır. Şu anda yalnızca Function
aracı desteklenmektedir.
toolConfig
object (ToolConfig
)
İsteğe bağlı. İstekte belirtilen herhangi bir Tool
için araç yapılandırması.
safetySettings[]
object (SafetySetting
)
İsteğe bağlı. Güvenli olmayan içeriği engellemek için benzersiz SafetySetting
örneklerinin listesi.
Bu değişiklik GenerateContentRequest.contents
ve GenerateContentResponse.candidates
web sitesinde zorunlu kılınacaktır. Her SafetyCategory
türü için birden fazla ayar olmamalıdır. API, bu ayarlarla belirlenen eşikleri karşılamayan tüm içerik ve yanıtları engeller. Bu liste, SafetySettings'te belirtilen her bir SafetyCategory
için varsayılan ayarları geçersiz kılar. Listede sağlanan belirli bir SafetyCategory
için SafetySetting
yoksa API, söz konusu kategori için varsayılan güvenlik ayarını kullanır. HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT zarar kategorileri desteklenir.
systemInstruction
object (Content
)
İsteğe bağlı. Geliştiricinin sistem talimatını ayarladı. Şu anda yalnızca metin kullanılır.
generationConfig
object (GenerationConfig
)
İsteğe bağlı. Model oluşturma ve çıkışlar için yapılandırma seçenekleri.
cachedContent
string
İsteğe bağlı. Tahmini sunmak için bağlam olarak kullanılan önbelleğe alınmış içeriğin adı. Not: Yalnızca, kullanıcıların önbelleğe alma (ör. hangi içeriğin önbelleğe alınacağı) üzerinde kontrol sahibi olabildiği ve garantili maliyet tasarrufu sağladığı açık önbelleğe alma işleminde kullanılır. Biçim: cachedContents/{cachedContent}