Method: models.countTokens

इनपुट कॉन्टेंट पर मॉडल का टोकनाइज़र चलाता है और टोकन काउंट दिखाता है.

एचटीटीपी अनुरोध

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

यह यूआरएल gRPC ट्रांसकोडिंग सिंटैक्स का इस्तेमाल करता है.

पाथ पैरामीटर

पैरामीटर
model

string

ज़रूरी है. मॉडल के संसाधन का नाम. यह मॉडल के इस्तेमाल के लिए एक आईडी के रूप में काम करता है.

यह नाम, models.list तरीके से मिले मॉडल के नाम से मेल खाना चाहिए.

फ़ॉर्मैट: models/{model}

अनुरोध का मुख्य भाग

अनुरोध के मुख्य हिस्से में, यहां दिए गए स्ट्रक्चर का डेटा शामिल होता है:

जेएसओएन के काेड में दिखाना
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
फ़ील्ड
contents[]

object (Content)

ज़रूरी नहीं. प्रॉम्प्ट के तौर पर मॉडल को दिया गया इनपुट. generateContentRequest के सेट होने पर, इस फ़ील्ड को अनदेखा कर दिया जाता है.

generateContentRequest

object (GenerateContentRequest)

ज़रूरी नहीं. मॉडल को दिया गया कुल इनपुट. Model.countTokens, प्रॉम्प्ट, फ़ंक्शन कॉलिंग वगैरह की गिनती करेगा.

जवाब का मुख्य भाग

models.countTokens से मिला जवाब.

यह prompt के लिए, मॉडल के tokenCount दिखाता है.

अगर एपीआई सही से जुड़ जाता है, ताे जवाब के मुख्य भाग में नीचे दिए गए स्ट्रक्चर शामिल होता है.

जेएसओएन के काेड में दिखाना
{
  "totalTokens": integer
}
फ़ील्ड
totalTokens

integer

उन टोकन की संख्या जिनमें model, prompt को टोकन देता है.

हमेशा नकारात्मक. कैश मेमोरी में सेव किया गया कॉन्टेंट सेट होने पर भी, यह प्रॉम्प्ट का कुल असरदार साइज़ है. इसका मतलब है कि इसमें कैश मेमोरी में सेव किए गए कॉन्टेंट में टोकन की संख्या शामिल है.

अनुमति के दायरे

इनमें से किसी एक OAuth स्कोप की ज़रूरत होती है:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

ज़्यादा जानकारी के लिए, पुष्टि करने से जुड़ी खास जानकारी देखें.

GenerateContentRequest

मॉडल से पूरा डेटा जनरेट करने का अनुरोध करें.

जेएसओएन के काेड में दिखाना
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  },
  "cachedContent": string
}
फ़ील्ड
model

string

ज़रूरी है. नतीजे जनरेट करने के लिए इस्तेमाल किए जाने वाले Model का नाम.

फ़ॉर्मैट: name=models/{model}.

contents[]

object (Content)

ज़रूरी है. मॉडल के साथ हुई मौजूदा बातचीत का कॉन्टेंट.

सिंगल-टर्न वाली क्वेरी के लिए, यह एक इंस्टेंस होता है. बारी-बारी से आने वाली क्वेरी के लिए, यह दोहराया गया फ़ील्ड होता है. इसमें बातचीत का इतिहास और नया अनुरोध शामिल होता है.

tools[]

object (Tool)

ज़रूरी नहीं. Tools की सूची, जिसका इस्तेमाल मॉडल अगला जवाब जनरेट करने के लिए कर सकता है.

Tool, कोड का एक हिस्सा होता है. इसकी मदद से सिस्टम, बाहरी सिस्टम से इंटरैक्ट कर पाता है, ताकि मॉडल की जानकारी और दायरे से बाहर कोई कार्रवाई या कार्रवाइयों का सेट पूरा कर सके. फ़िलहाल, सिर्फ़ Function टूल का इस्तेमाल किया जा सकता है.

toolConfig

object (ToolConfig)

ज़रूरी नहीं. अनुरोध में बताए गए किसी भी Tool के लिए टूल कॉन्फ़िगरेशन.

safetySettings[]

object (SafetySetting)

ज़रूरी नहीं. असुरक्षित कॉन्टेंट को ब्लॉक करने वाले यूनीक SafetySetting इंस्टेंस की सूची.

यह GenerateContentRequest.contents और GenerateContentResponse.candidates पर लागू किया जाएगा. हर SafetyCategory टाइप के लिए एक से ज़्यादा सेटिंग नहीं होनी चाहिए. यह एपीआई ऐसे सभी कॉन्टेंट और रिस्पॉन्स को ब्लॉक कर देगा जो इन सेटिंग के लिए तय थ्रेशोल्ड को पूरा नहीं कर पाते हैं. यह सूची, SafetySettings में दिए गए हर SafetyCategory के लिए डिफ़ॉल्ट सेटिंग को बदल देती है. अगर सूची में दिए गए किसी SafetyCategory के लिए कोई SafetySetting नहीं है, तो एपीआई उस कैटगरी के लिए डिफ़ॉल्ट सुरक्षा सेटिंग का इस्तेमाल करेगा. नुकसान की कैटगरी HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT वाली कैटगरी.

systemInstruction

object (Content)

ज़रूरी नहीं. डेवलपर ने सिस्टम के लिए निर्देश सेट किए हैं. फ़िलहाल, सिर्फ़ टेक्स्ट.

generationConfig

object (GenerationConfig)

ज़रूरी नहीं. मॉडल जनरेशन और आउटपुट के लिए कॉन्फ़िगरेशन के विकल्प.

cachedContent

string

ज़रूरी नहीं. सुझाव दिखाने के लिए, कॉन्टेक्स्ट के तौर पर इस्तेमाल की गई कैश मेमोरी में सेव किए गए कॉन्टेंट का नाम. ध्यान दें: इसे सिर्फ़ साफ़ तौर पर कैश मेमोरी में इस्तेमाल करने के लिए इस्तेमाल किया जाता है, जहां उपयोगकर्ता, कैश मेमोरी में डेटा सेव कर सकते हैं.उदाहरण के लिए, किस कॉन्टेंट को कैश मेमोरी में सेव किया जाना चाहिए. साथ ही, इससे लागत कम होने की गारंटी मिलती है. फ़ॉर्मैट: cachedContents/{cachedContent}