方法:model.countTokens
針對輸入內容執行模型的符記化工具,並傳回符記數量。
端點
則貼文
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
。
路徑參數
model
string
必要欄位。模型的資源名稱。這可做為模型使用的 ID。
這個名稱應與 models.list
方法傳回的模型名稱相符。
格式:models/{model}
格式為 models/{model}
。
要求主體
要求主體的資料會採用以下結構:
contents[]
object (Content
)
選用設定。以提示的形式提供給模型的輸入內容。設定 generateContentRequest
時,系統會忽略這個欄位。
generateContentRequest
object (GenerateContentRequest
)
選用設定。提供給模型的整體輸入內容。model.countTokens 會計算提示、函式呼叫等等
要求範例
文字
Python
Node.js
貝殼
Kotlin
Swift
Dart
Java
即時通訊
Python
Node.js
貝殼
Kotlin
Swift
Dart
Java
內嵌媒體
Python
Node.js
Kotlin
Swift
Dart
Java
檔案
Python
Node.js
快取
Python
Node.js
系統操作說明
Python
Node.js
Kotlin
Swift
Dart
Java
工具
Python
Node.js
Kotlin
Swift
Dart
Java
回應主體
models.countTokens
的回應。
它會傳回 prompt
的模型 tokenCount
。
如果成功,回應主體即會包含具有以下結構的資料:
totalTokens
integer
model
權杖化 prompt
為權杖的數量。
一律非負數。設定快取 Content 後,這仍是有效的提示總大小。例如:這包括快取內容中的符記數量。
JSON 表示法 |
---|
{ "totalTokens": integer } |
GenerateContentRequest
用於從模型產生完成作業的要求。
JSON 表示法 |
---|
{ "model": string, "contents": [ { object ( |
model
string
必要欄位。用於產生完成項目的 Model
名稱。
格式:name=models/{model}
。
contents[]
object (Content
)
必要欄位。目前與模型對話的內容。
如果是單輪查詢,這只是單一例項。如為多輪查詢,則這指的是包含對話記錄和最新要求的重複欄位。
tools[]
object (Tool
)
選用設定。模型可以用來產生下一次回應的 Tools
清單。
Tool
是一段程式碼,可讓系統與外部系統互動,在模型知識和範圍外,執行操作或一組動作。目前唯一支援的工具是 Function
。
toolConfig
object (ToolConfig
)
選用設定。要求中指定任何 Tool
的工具設定。
safetySettings[]
object (SafetySetting
)
選用設定。用於封鎖不安全內容的不重複 SafetySetting
執行個體清單。
這將在 GenerateContentRequest.contents
和 GenerateContentResponse.candidates
強制執行。每個 SafetyCategory
類型只能有一項設定。如果內容和回應未達到這些設定所設門檻,API 就會封鎖相關內容。這份清單會覆寫 safetySettings 中所指定的各項 SafetyCategory
預設設定。如果清單中的指定 SafetyCategory
沒有任何 SafetySetting
,API 會使用該類別的預設安全性設定。支援有害類別 HARM_CATEGORY_HATE_SPEECH、HARM_CATEGORY_SEXUALLY_EXPLICIT、HARM_CATEGORY_DANGEROUS_CONTENT、HARM_CATEGORY_HARASSMENT。
systemInstruction
object (Content
)
選用設定。開發人員設定系統操作說明。目前僅支援文字。
generationConfig
object (GenerationConfig
)
選用設定。模型產生和輸出的設定選項。
cachedContent
string
選用設定。做為預測提供背景資訊的快取內容名稱。注意:僅適用於明確快取,使用者能控制快取內容 (例如要快取的內容),同時保證能節省成本。格式:cachedContents/{cachedContent}