方法:models.countTokens
- 端点
- 路径参数
- 请求正文
<ph type="x-smartling-placeholder">
- </ph>
- JSON 表示法
- 响应正文
<ph type="x-smartling-placeholder">
- </ph>
- JSON 表示法
- 授权范围
- 示例请求 <ph type="x-smartling-placeholder">
- GenerateContentRequest
<ph type="x-smartling-placeholder">
- </ph>
- JSON 表示法
对输入内容运行模型的标记生成器,并返回词元计数。
端点
<ph type="x-smartling-placeholder"></ph> 帖子
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
路径参数
model
string
必需。模型的资源名称。这充当要使用的模型的 ID。
此名称应与 models.list
方法返回的模型名称一致。
格式:models/{model}
。其格式为 models/{model}
。
请求正文
请求正文中包含结构如下的数据:
<ph type="x-smartling-placeholder">contents[]
object (Content
)
可选。作为提示提供给模型的输入。如果设置了 generateContentRequest
,系统会忽略此字段。
generateContentRequest
object (GenerateContentRequest
)
可选。为模型提供的总体输入。models.countTokens 可以对提示、函数调用等进行统计。
示例请求
文字
Python
Node.js
Shell
Kotlin
Swift
Dart
Java
聊天
Python
Node.js
Shell
Kotlin
Swift
Dart
Java
内嵌媒体
Python
Node.js
Kotlin
Swift
Dart
Java
文件
Python
Node.js
缓存
Python
Node.js
系统指令
Python
Node.js
Kotlin
Swift
Dart
Java
工具
Python
Node.js
Kotlin
Swift
Dart
Java
响应正文
来自 models.countTokens
的回复。
它会针对 prompt
返回模型的 tokenCount
。
如果成功,响应正文将包含结构如下的数据:
totalTokens
integer
model
将 prompt
标记化为的词元数量。
始终为非负数。设置 cacheContent 后,这仍是总有效提示大小。例如,这包括缓存内容中的词元数量。
JSON 表示法 |
---|
{ "totalTokens": integer } |
GenerateContentRequest
请求根据模型生成补全。
JSON 表示法 |
---|
{ "model": string, "contents": [ { object ( |
model
string
必需。用于生成补全的 Model
的名称。
格式:name=models/{model}
。
contents[]
object (Content
)
必需。当前与模型对话的内容。
对于单轮查询,这是指单个实例。对于多轮查询,此字段是重复字段,包含对话记录和最新请求。
tools[]
object (Tool
)
可选。模型可用于生成下一个回答的 Tools
列表。
Tool
是一段代码,使系统能够与外部系统交互,以便在模型知识和范围之外执行操作或执行一组操作。目前唯一受支持的工具是 Function
。
toolConfig
object (ToolConfig
)
可选。请求中指定的任何 Tool
的工具配置。
safetySettings[]
object (SafetySetting
)
可选。用于屏蔽不安全内容的唯一 SafetySetting
实例的列表。
这将在 GenerateContentRequest.contents
和 GenerateContentResponse.candidates
上强制执行。每种 SafetyCategory
类型只能有一项设置。此 API 将屏蔽任何未达到这些设置所设阈值的内容和响应。此列表会替换 safetySettings 中指定的每个 SafetyCategory
的默认设置。如果列表中提供的给定 SafetyCategory
没有 SafetySetting
,该 API 将使用该类别的默认安全设置。支持危害类别 HARM_CATEGORY_HATE_SPEECH、HARM_CATEGORY_SEXUALLY_EXPLICIT、HARM_CATEGORY_DANGEROUS_CONTENT、HARM_CATEGORY_HARASSMENT。
systemInstruction
object (Content
)
可选。开发者设置的系统指令。目前仅支持文字广告。
generationConfig
object (GenerationConfig
)
可选。用于模型生成和输出的配置选项。
cachedContent
string
可选。用作上下文以提供预测的缓存内容的名称。注意:仅用于显式缓存。在显式缓存中,用户可以控制缓存(例如,要缓存哪些内容),并享受有保证的成本节约。格式:cachedContents/{cachedContent}