如需详细了解如何使用 Gemini API 统计令牌数(包括图片、音频和视频的统计方式),请参阅令牌统计指南和随附的实用代码。
方法:models.countTokens
对输入 Content 运行模型的分词器,并返回词元数量。如需详细了解令牌,请参阅令牌指南。
端点
帖子https: / /generativelanguage.googleapis.com /v1beta /{model=models /*}:countTokens
路径参数
model
string
必需。模型的资源名称。用作模型使用的 ID。
此名称应与 models.list 方法返回的某个模型名称相匹配。
格式:models/{model} 格式为 models/{model}。
请求正文
请求正文中包含结构如下的数据:
contents[]
object (Content)
可选。作为提示提供给模型的输入。如果设置了 generateContentRequest,则系统会忽略此字段。
generateContentRequest
object (GenerateContentRequest)
示例请求
文本
Python
Node.js
Go
Shell
聊天
Python
Node.js
Go
Shell
内嵌媒体
Python
Node.js
Go
Shell
视频
Python
Node.js
Go
Shell
Python
缓存
Python
Node.js
Go
系统指令
Go
工具
Java
响应正文
来自 models.countTokens 的回答。
它会返回 prompt 的模型 tokenCount。
如果成功,响应正文将包含结构如下的数据:
totalTokens
integer
Model 将 prompt 分词为的令牌数量。始终为非负数。
cachedContentTokenCount
integer
提示的缓存部分(即缓存的内容)中的 token 数量。
promptTokensDetails[]
object (ModalityTokenCount)
仅限输出。请求输入中处理的模态列表。
cacheTokensDetails[]
object (ModalityTokenCount)
仅限输出。缓存内容中处理的模态列表。
| JSON 表示法 |
|---|
{ "totalTokens": integer, "cachedContentTokenCount": integer, "promptTokensDetails": [ { object ( |