Method: models.generateMessage

Tạo phản hồi từ mô hình dựa vào dữ liệu đầu vào MessagePrompt.

Yêu cầu HTTP

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:generateMessage

URL sử dụng cú pháp Chuyển mã gRPC.

Tham số đường dẫn

Các tham số
model

string

Bắt buộc. Tên mô hình sẽ sử dụng.

Định dạng: name=models/{model}.

Nội dung yêu cầu

Nội dung yêu cầu chứa dữ liệu có cấu trúc sau:

Biểu diễn dưới dạng JSON
{
  "prompt": {
    object (MessagePrompt)
  },
  "temperature": number,
  "candidateCount": integer,
  "topP": number,
  "topK": integer
}
Các trường
prompt

object (MessagePrompt)

Bắt buộc. Thông tin đầu vào dạng văn bản có cấu trúc được cung cấp cho mô hình dưới dạng lời nhắc.

Khi đưa ra lời nhắc, mô hình sẽ trả về nội dung dự đoán là tin nhắn tiếp theo trong cuộc thảo luận.

temperature

number

Không bắt buộc. Kiểm soát tính ngẫu nhiên của kết quả đầu ra.

Giá trị có thể vượt quá [0.0,1.0], tính cả 2 giá trị đầu cuối. Giá trị gần với 1.0 hơn sẽ tạo ra câu trả lời đa dạng hơn, trong khi giá trị gần với 0.0 thường sẽ khiến mô hình nhận được ít phản hồi hơn.

candidateCount

integer

Không bắt buộc. Số lượng tin nhắn phản hồi đã tạo sẽ trả về.

Giá trị này phải nằm trong khoảng từ [1, 8]. Nếu bạn không đặt chính sách này thì chế độ mặc định sẽ là 1.

topP

number

Không bắt buộc. Xác suất tích luỹ tối đa của mã thông báo cần xem xét khi lấy mẫu.

Mô hình này sử dụng phương pháp lấy mẫu Top-k kết hợp và hạt nhân.

Phương pháp lấy mẫu hạt nhân sẽ xem xét tập hợp mã thông báo nhỏ nhất có tổng xác suất ít nhất là topP.

topK

integer

Không bắt buộc. Số lượng mã thông báo tối đa cần xem xét khi lấy mẫu.

Mô hình này sử dụng phương pháp lấy mẫu Top-k kết hợp và hạt nhân.

Phương pháp lấy mẫu hàng đầu xem xét tập hợp topK mã thông báo có khả năng xuất hiện nhất.

Nội dung phản hồi

Phản hồi của mô hình.

Trong đó bao gồm tin nhắn đề xuất và nhật ký trò chuyện ở dạng tin nhắn được sắp xếp theo trình tự thời gian.

Nếu thành công, phần nội dung phản hồi sẽ chứa dữ liệu có cấu trúc sau:

Biểu diễn dưới dạng JSON
{
  "candidates": [
    {
      object (Message)
    }
  ],
  "messages": [
    {
      object (Message)
    }
  ],
  "filters": [
    {
      object (ContentFilter)
    }
  ]
}
Các trường
candidates[]

object (Message)

Thông báo phản hồi của ứng viên từ mô hình.

messages[]

object (Message)

Nhật ký trò chuyện mà mô hình sử dụng.

filters[]

object (ContentFilter)

Một tập hợp siêu dữ liệu lọc nội dung cho văn bản câu lệnh và phản hồi.

Giá trị này cho biết(các) SafetyCategory nào đã chặn ứng viên khỏi câu trả lời này, HarmProbability thấp nhất đã kích hoạt quy tắc chặn và chế độ cài đặt HarmThreshold cho danh mục đó.

Phạm vi uỷ quyền

Yêu cầu một trong các phạm vi OAuth sau:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Để biết thêm thông tin, hãy xem bài viết Tổng quan về xác thực.