針對輸入內容執行模型的符記化工具,並傳回符記數量。
HTTP 要求
POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
這個網址使用 gRPC 轉碼語法。
路徑參數
參數 | |
---|---|
model |
必要欄位。模型的資源名稱。這可做為模型使用的 ID。 這個名稱應與 格式: |
要求主體
要求主體的資料會採用以下結構:
JSON 表示法 |
---|
{ "contents": [ { object ( |
欄位 | |
---|---|
contents[] |
選用設定。以提示形式提供給模型的輸入內容。設定 |
generateContentRequest |
選用設定。model.countTokens 的總輸入內容會計算提示和函式呼叫等指標, |
回應主體
models.countTokens
的回應。
它會傳回 prompt
的模型 tokenCount
。
如果成功,回應主體即會包含具有以下結構的資料:
JSON 表示法 |
---|
{ "totalTokens": integer } |
欄位 | |
---|---|
totalTokens |
一律非負數。設定 CacheContent 後,這仍是有效提示總大小。亦即快取內容中的權杖數量。 |
授權範圍
需要下列其中一種 OAuth 範圍:
https://www.googleapis.com/auth/generative-language
https://www.googleapis.com/auth/generative-language.tuning
https://www.googleapis.com/auth/generative-language.tuning.readonly
https://www.googleapis.com/auth/generative-language.retriever
https://www.googleapis.com/auth/generative-language.retriever.readonly
詳情請參閱驗證總覽。
GenerateContentRequest
用於從模型產生完成作業的要求。
JSON 表示法 |
---|
{ "model": string, "contents": [ { object ( |
欄位 | |
---|---|
model |
必要欄位。用於產生完成項目的 格式: |
contents[] |
必要欄位。目前與模型對話的內容。 如果是單輪查詢,這只是單一例項。如為多輪查詢,則這指的是包含對話記錄和最新要求的重複欄位。 |
tools[] |
選用設定。模型可以用來產生下一次回應的
|
toolConfig |
選用設定。要求中指定任何 |
safetySettings[] |
選用設定。用於封鎖不安全內容的不重複 這將在 |
systemInstruction |
選用設定。開發人員設定系統操作說明。目前僅支援文字。 |
generationConfig |
選用設定。模型產生和輸出的設定選項。 |
cachedContent |
選用設定。為提供預測而使用的快取內容名稱。注意:僅適用於明確快取,使用者能控制快取內容 (例如要快取的內容),同時保證能節省成本。格式: |