Method: models.countTokens

Chạy trình tạo mã thông báo của mô hình trên nội dung đầu vào và trả về số lượng mã thông báo.

Yêu cầu HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

URL sử dụng cú pháp Chuyển mã gRPC.

Tham số đường dẫn

Thông số
model

string

Bắt buộc. Tên tài nguyên của mô hình. Giá trị này đóng vai trò là mã nhận dạng cho Mô hình sử dụng.

Tên này phải khớp với tên mô hình được phương thức models.list trả về.

Định dạng models/{model}

Nội dung yêu cầu

Nội dung yêu cầu chứa dữ liệu có cấu trúc sau:

Biểu diễn dưới dạng JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Trường
contents[]

object (Content)

Không bắt buộc. Dữ liệu đầu vào được cung cấp cho mô hình dưới dạng câu lệnh. Trường này sẽ bị bỏ qua khi bạn đặt generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Không bắt buộc. Dữ liệu đầu vào tổng thể được cấp cho mô hình.model.countTokens sẽ đếm lời nhắc, lệnh gọi hàm, v.v.

Nội dung phản hồi

Phản hồi của models.countTokens.

Phương thức này trả về tokenCount của mô hình cho prompt.

Nếu thành công, phần nội dung phản hồi sẽ chứa dữ liệu có cấu trúc sau:

Biểu diễn dưới dạng JSON 
{
  "totalTokens": integer
}
Trường
totalTokens

integer

Số lượng mã thông báo mà model tạo mã thông báo prompt.

Luôn luôn là số âm. Khi đặt cacheContent, đây vẫn là tổng kích thước có hiệu lực của lời nhắc. Tức là số liệu này bao gồm cả số lượng mã thông báo có trong nội dung được lưu vào bộ nhớ đệm.

Phạm vi uỷ quyền

Yêu cầu một trong các phạm vi OAuth sau:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Để biết thêm thông tin, hãy xem bài viết Tổng quan về việc xác thực.

GenerateContentRequest

Yêu cầu tạo một lượt hoàn thành từ mô hình.

Biểu diễn dưới dạng JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Trường
model

string

Bắt buộc. Tên của Model được dùng để tạo hoàn thành.

Định dạng: name=models/{model}.
contents[]

object (Content)

Bắt buộc. Nội dung của cuộc trò chuyện hiện tại với mô hình.

Đối với truy vấn một lượt, đây chỉ là một phiên bản. Đối với truy vấn nhiều lượt, đây là trường lặp lại có chứa nhật ký trò chuyện và yêu cầu mới nhất.
safetySettings[]

object (SafetySetting)

Không bắt buộc. Danh sách các thực thể SafetySetting riêng biệt dùng để chặn nội dung không an toàn.

Thay đổi này sẽ được thực thi trên GenerateContentRequest.contents và GenerateContentResponse.candidates. Không được có nhiều hơn một chế độ cài đặt cho mỗi loại SafetyCategory. API này sẽ chặn mọi nội dung và phản hồi không đáp ứng ngưỡng do các chế độ cài đặt này đặt ra. Danh sách này ghi đè các chế độ cài đặt mặc định cho từng SafetyCategory được chỉ định trong phần safetySettings. Nếu không có SafetySetting cho một SafetyCategory nhất định được cung cấp trong danh sách, API sẽ sử dụng chế độ cài đặt an toàn mặc định cho danh mục đó. Các danh mục gây hại HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT được hỗ trợ.
generationConfig

object (GenerationConfig)

Không bắt buộc. Các tuỳ chọn cấu hình để tạo mô hình và đầu ra.