Phương thức: model.countTokens
- Điểm cuối
- Tham số đường dẫn
- Nội dung yêu cầu
- Nội dung phản hồi
- Phạm vi uỷ quyền
- Ví dụ về yêu cầu
- GenerateContentRequest
Chạy trình tạo mã thông báo của mô hình trên nội dung đầu vào và trả về số lượng mã thông báo.
Điểm cuối
bài đăng
https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens
Tham số đường dẫn
model
string
Bắt buộc. Tên tài nguyên của mô hình. Giá trị này đóng vai trò là mã nhận dạng cho Mô hình sử dụng.
Tên này phải khớp với tên mô hình được phương thức models.list
trả về.
Định dạng: models/{model}
. Định dạng này có dạng models/{model}
.
Nội dung yêu cầu
Nội dung yêu cầu chứa dữ liệu có cấu trúc sau:
contents[]
object (Content
)
Không bắt buộc. Giá trị nhập vào được cung cấp cho mô hình ở dạng câu lệnh. Trường này sẽ bị bỏ qua khi bạn đặt generateContentRequest
.
generateContentRequest
object (GenerateContentRequest
)
Không bắt buộc. Giá trị đầu vào tổng thể được cung cấp cho mô hình. model.countTokens sẽ tính lời nhắc, lệnh gọi hàm, v.v.
Yêu cầu mẫu
Văn bản
Python
Node.js
Vỏ
Kotlin
Swift
Dart
Java
Chat (Trò chuyện)
Python
Node.js
Vỏ
Kotlin
Swift
Dart
Java
Nội dung nghe nhìn cùng dòng
Python
Node.js
Kotlin
Swift
Dart
Java
Files
Python
Node.js
Bộ nhớ đệm
Python
Node.js
Hướng dẫn hệ thống
Python
Node.js
Kotlin
Swift
Dart
Java
Công cụ
Python
Node.js
Kotlin
Swift
Dart
Java
Nội dung phản hồi
Phản hồi của models.countTokens
.
Phương thức này trả về tokenCount
của mô hình cho prompt
.
Nếu thành công, phần nội dung phản hồi sẽ chứa dữ liệu có cấu trúc sau:
totalTokens
integer
Số lượng mã thông báo mà model
tạo mã thông báo prompt
.
Luôn luôn là số âm. Khi đặt cacheContent, đây vẫn là tổng kích thước có hiệu lực của lời nhắc. Ví dụ: số liệu này bao gồm số lượng mã thông báo trong nội dung được lưu vào bộ nhớ đệm.
Biểu diễn dưới dạng JSON |
---|
{ "totalTokens": integer } |
GenerateContentRequest
Yêu cầu tạo một lượt hoàn thành từ mô hình.
Biểu diễn dưới dạng JSON |
---|
{ "model": string, "contents": [ { object ( |
model
string
Bắt buộc. Tên của Model
được dùng để tạo hoàn thành.
Định dạng: name=models/{model}
.
contents[]
object (Content
)
Bắt buộc. Nội dung của cuộc trò chuyện hiện tại với mô hình.
Đối với truy vấn một lượt, đây chỉ là một phiên bản. Đối với truy vấn nhiều lượt, đây là trường lặp lại chứa nhật ký trò chuyện và yêu cầu mới nhất.
tools[]
object (Tool
)
Không bắt buộc. Danh sách Tools
mà mô hình có thể dùng để tạo phản hồi tiếp theo.
Tool
là một đoạn mã cho phép hệ thống tương tác với các hệ thống bên ngoài để thực hiện một hành động hoặc một tập hợp hành động, nằm ngoài phạm vi kiến thức và phạm vi của mô hình. Công cụ duy nhất được hỗ trợ hiện tại là Function
.
toolConfig
object (ToolConfig
)
Không bắt buộc. Cấu hình công cụ cho mọi Tool
được chỉ định trong yêu cầu.
safetySettings[]
object (SafetySetting
)
Không bắt buộc. Danh sách các thực thể SafetySetting
riêng biệt dùng để chặn nội dung không an toàn.
Thay đổi này sẽ được thực thi trên GenerateContentRequest.contents
và GenerateContentResponse.candidates
. Không được có nhiều hơn một chế độ cài đặt cho mỗi loại SafetyCategory
. API này sẽ chặn mọi nội dung và phản hồi không đáp ứng ngưỡng do các chế độ cài đặt này đặt ra. Danh sách này ghi đè các chế độ cài đặt mặc định cho từng SafetyCategory
được chỉ định trong phần safetySettings. Nếu không có SafetySetting
cho một SafetyCategory
nhất định được cung cấp trong danh sách, API sẽ sử dụng chế độ cài đặt an toàn mặc định cho danh mục đó. Các danh mục gây hại HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT được hỗ trợ.
systemInstruction
object (Content
)
Không bắt buộc. Hướng dẫn hệ thống thiết lập dành cho nhà phát triển. Hiện tại, chỉ có văn bản.
generationConfig
object (GenerationConfig
)
Không bắt buộc. Các tuỳ chọn cấu hình để tạo mô hình và đầu ra.
cachedContent
string
Không bắt buộc. Tên của nội dung được lưu trong bộ nhớ đệm được dùng làm ngữ cảnh để cung cấp thông tin dự đoán. Lưu ý: Chỉ sử dụng trong bộ nhớ đệm rõ ràng, trong đó người dùng có thể kiểm soát việc lưu vào bộ nhớ đệm (ví dụ: nội dung nào cần lưu vào bộ nhớ đệm) và được đảm bảo tiết kiệm chi phí. Định dạng cachedContents/{cachedContent}