Method: models.countTokens

Giriş içeriğinde bir modelin tokenizer'ını çalıştırır ve jeton sayısını döndürür.

HTTP isteği

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

URL, gRPC Kod Dönüştürme söz dizimini kullanır.

Yol parametreleri

Parametreler
model

string

Zorunlu. Modelin kaynak adı. Bu, modelin kullanacağı bir kimlik görevi görür.

Bu ad, models.list yöntemi tarafından döndürülen bir model adıyla eşleşmelidir.

Biçim: models/{model}

İstek içeriği

İstek gövdesi, aşağıdaki yapıya sahip verileri içerir:

JSON gösterimi
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Alanlar
contents[]

object (Content)

İsteğe bağlı. Modele istem olarak verilen giriş. generateContentRequest ayarlandığında bu alan yoksayılır.

generateContentRequest

object (GenerateContentRequest)

İsteğe bağlı. Modele verilen genel giriş. model.countTokens, istemi, işlev çağrısını vb. sayar.

Yanıt gövdesi

models.countTokens yanıtı.

prompt için modelin tokenCount değerini döndürür.

Başarılı olursa yanıt metni aşağıdaki yapıyla birlikte verileri içerir:

JSON gösterimi
{
  "totalTokens": integer
}
Alanlar
totalTokens

integer

model öğesinin, prompt öğesini belirteceği jeton sayısı.

Her zaman olumsuz olamaz. Önbelleğe alınmışContent ayarlandığında bu, yine de toplam etkili istem boyutudur. Örneğin, önbelleğe alınmış içerikteki jeton sayısı da buna dahildir.

Yetkilendirme kapsamları

Aşağıdaki OAuth kapsamlarından birini gerektirir:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Daha fazla bilgi için Kimlik Doğrulamaya Genel Bakış başlıklı makaleye bakın.

GenerateContentRequest

Modelden tamamlama oluşturma isteğinde bulunun.

JSON gösterimi
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  },
  "cachedContent": string
}
Alanlar
model

string

Zorunlu. Tamamlama oluşturmak için kullanılacak Model öğesinin adı.

Biçim: name=models/{model}.

contents[]

object (Content)

Zorunlu. Modelle olan mevcut görüşmenin içeriği.

Tek dönüşlü sorgular için bu, tek bir örnektir. Çok dönüşlü sorgular için bu, sohbet geçmişini ve en son isteği içeren tekrarlanan bir alandır.

tools[]

object (Tool)

İsteğe bağlı. Modelin bir sonraki yanıtı oluşturmak için kullanabileceği Tools listesi.

Tool, modelin bilgisi ve kapsamı dışında bir işlem veya işlem kümesi gerçekleştirmek için sistemin harici sistemlerle etkileşime girmesini sağlayan bir kod parçasıdır. Şu anda yalnızca Function aracı desteklenmektedir.

toolConfig

object (ToolConfig)

İsteğe bağlı. İstekte belirtilen herhangi bir Tool için araç yapılandırması.

safetySettings[]

object (SafetySetting)

İsteğe bağlı. Güvenli olmayan içeriği engellemek için benzersiz SafetySetting örneklerinin listesi.

Bu değişiklik GenerateContentRequest.contents ve GenerateContentResponse.candidates web sitesinde zorunlu kılınacaktır. Her SafetyCategory türü için birden fazla ayar olmamalıdır. API, bu ayarlarla belirlenen eşikleri karşılamayan tüm içerik ve yanıtları engeller. Bu liste, SafetySettings'te belirtilen her bir SafetyCategory için varsayılan ayarları geçersiz kılar. Listede sağlanan belirli bir SafetyCategory için SafetySetting yoksa API, söz konusu kategori için varsayılan güvenlik ayarını kullanır. HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT zarar kategorileri desteklenir.

systemInstruction

object (Content)

İsteğe bağlı. Geliştiricinin sistem talimatını ayarladı. Şu anda yalnızca metin kullanılır.

generationConfig

object (GenerationConfig)

İsteğe bağlı. Model oluşturma ve çıkışlar için yapılandırma seçenekleri.

cachedContent

string

İsteğe bağlı. Tahmini sunmak için bağlam olarak kullanılan önbelleğe alınmış içeriğin adı. Not: Yalnızca, kullanıcıların önbelleğe alma (ör. hangi içeriğin önbelleğe alınacağı) üzerinde kontrol sahibi olabildiği ve garantili maliyet tasarrufu sağladığı açık önbelleğe alma işleminde kullanılır. Biçim: cachedContents/{cachedContent}