Điểm cuối của mô hình cung cấp một cách để bạn liệt kê các mô hình có sẵn theo phương thức lập trình và truy xuất siêu dữ liệu mở rộng, chẳng hạn như chức năng được hỗ trợ và kích thước cửa sổ ngữ cảnh. Đọc thêm trong hướng dẫn về Mô hình.
Phương thức: models.get
Lấy thông tin về một Model cụ thể, chẳng hạn như số phiên bản, giới hạn mã thông báo, tham số và siêu dữ liệu khác. Tham khảo hướng dẫn về các mô hình Gemini để biết thông tin chi tiết về mô hình.
Điểm cuối
gethttps: / /generativelanguage.googleapis.com /v1beta /{name=models /*}
Tham số đường dẫn
name
string
Bắt buộc. Tên tài nguyên của mô hình.
Tên này phải khớp với tên mô hình do phương thức models.list trả về.
Định dạng: models/{model} Tên này có dạng models/{model}.
Nội dung yêu cầu
Nội dung yêu cầu phải trống.
Yêu cầu mẫu
Python
Go
Shell
Nội dung phản hồi
Nếu thành công, nội dung phản hồi sẽ chứa một thực thể của Model.
Phương thức: models.list
Liệt kê Model có sẵn thông qua Gemini API.
Điểm cuối
gethttps: / /generativelanguage.googleapis.com /v1beta /models
Tham số truy vấn
pageSize
integer
Số lượng Models tối đa cần trả về (mỗi trang).
Nếu không chỉ định, thì hệ thống sẽ trả về 50 mô hình mỗi trang. Phương thức này trả về tối đa 1.000 mô hình mỗi trang, ngay cả khi bạn truyền pageSize lớn hơn.
pageToken
string
Mã thông báo trang, nhận được từ lệnh gọi models.list trước đó.
Cung cấp pageToken do một yêu cầu trả về làm đối số cho yêu cầu tiếp theo để truy xuất trang tiếp theo.
Khi phân trang, tất cả các tham số khác được cung cấp cho models.list phải khớp với lệnh gọi đã cung cấp mã thông báo trang.
Nội dung yêu cầu
Nội dung yêu cầu phải trống.
Yêu cầu mẫu
Python
Go
Shell
Nội dung phản hồi
Phản hồi từ ListModel chứa danh sách Mô hình được phân trang.
Nếu thành công, phần nội dung phản hồi sẽ chứa dữ liệu có cấu trúc sau:
models[]
object (Model)
Mô hình được trả về.
nextPageToken
string
Mã thông báo, có thể được gửi dưới dạng pageToken để truy xuất trang tiếp theo.
Nếu trường này bị bỏ qua, thì sẽ không còn trang nào nữa.
| Biểu diễn dưới dạng JSON |
|---|
{
"models": [
{
object ( |
Tài nguyên REST: models
Tài nguyên: Mô hình
Thông tin về Mô hình ngôn ngữ tạo sinh.
name
string
Bắt buộc. Tên tài nguyên của Model. Hãy tham khảo phần Biến thể mô hình để biết tất cả các giá trị được phép.
Định dạng: models/{model} với quy ước đặt tên {model} như sau:
- "{baseModelId}-{version}"
Ví dụ:
models/gemini-1.5-flash-001
baseModelId
string
Bắt buộc. Tên của mô hình cơ sở, hãy truyền tên này vào yêu cầu tạo.
Ví dụ:
gemini-1.5-flash
version
string
Bắt buộc. Số phiên bản của mô hình.
Đây là phiên bản lớn (1.0 hoặc 1.5)
displayName
string
Tên mô hình mà con người có thể đọc được. Ví dụ: "Gemini 1.5 Flash".
Tên có thể dài tối đa 128 ký tự và có thể bao gồm bất kỳ ký tự UTF-8 nào.
description
string
Nội dung mô tả ngắn về mô hình.
inputTokenLimit
integer
Số lượng mã thông báo đầu vào tối đa được phép cho mô hình này.
outputTokenLimit
integer
Số lượng mã thông báo đầu ra tối đa cho mô hình này.
supportedGenerationMethods[]
string
Các phương thức tạo được mô hình hỗ trợ.
Tên phương thức API tương ứng được xác định dưới dạng chuỗi PascalCase, chẳng hạn như generateMessage và generateContent.
thinking
boolean
Liệu mô hình có hỗ trợ tư duy hay không.
temperature
number
Kiểm soát tính ngẫu nhiên của kết quả đầu ra.
Giá trị có thể nằm trong khoảng [0.0,maxTemperature]. Giá trị cao hơn sẽ tạo ra các câu trả lời đa dạng hơn, trong khi giá trị gần với 0.0 thường sẽ dẫn đến các câu trả lời ít bất ngờ hơn từ mô hình. Giá trị này chỉ định giá trị mặc định mà phần phụ trợ sẽ sử dụng khi thực hiện lệnh gọi đến mô hình.
maxTemperature
number
Nhiệt độ tối đa mà mô hình này có thể sử dụng.
topP
number
Đối với Lấy mẫu hạt nhân.
Phương pháp lấy mẫu hạt nhân xem xét tập hợp mã thông báo nhỏ nhất có tổng xác suất ít nhất là topP. Giá trị này chỉ định giá trị mặc định mà phần phụ trợ sẽ sử dụng khi thực hiện lệnh gọi đến mô hình.
topK
integer
Đối với phương pháp lấy mẫu Top-k.
Phương pháp lấy mẫu top-k xem xét tập hợp topK mã thông báo có khả năng xảy ra nhất. Giá trị này chỉ định giá trị mặc định mà phần phụ trợ sẽ sử dụng khi thực hiện lệnh gọi đến mô hình. Nếu để trống, điều này cho biết mô hình không sử dụng phương pháp lấy mẫu top-k và topK không được phép làm tham số tạo.
| Biểu diễn dưới dạng JSON |
|---|
{ "name": string, "baseModelId": string, "version": string, "displayName": string, "description": string, "inputTokenLimit": integer, "outputTokenLimit": integer, "supportedGenerationMethods": [ string ], "thinking": boolean, "temperature": number, "maxTemperature": number, "topP": number, "topK": integer } |
Phương thức: models.predict
Thực hiện yêu cầu dự đoán.
Điểm cuối
bài đănghttps: / /generativelanguage.googleapis.com /v1beta /{model=models /*}:predict
Tham số đường dẫn
model
string
Bắt buộc. Tên của mô hình để dự đoán. Định dạng: name=models/{model}. Tên này có dạng models/{model}.
Nội dung yêu cầu
Nội dung yêu cầu chứa dữ liệu với cấu trúc sau:
instances[]
value (Value format)
Bắt buộc. Các thực thể là dữ liệu đầu vào cho lệnh gọi dự đoán.
parameters
value (Value format)
Không bắt buộc. Các tham số chi phối lệnh gọi dự đoán.
labels
map (key: string, value: string)
Không bắt buộc. Nhãn có siêu dữ liệu do người dùng xác định cho yêu cầu.
Không bắt buộc. Nhãn phải tuân thủ các yêu cầu tiêu chuẩn về nhãn Cloud hợp nhất: – Khoá nhãn phải bắt đầu bằng một chữ cái. – Khoá và giá trị của nhãn không được dài quá 63 ký tự (điểm mã Unicode) và chỉ được chứa chữ cái viết thường, ký tự số, dấu gạch dưới và dấu gạch ngang. – Được phép sử dụng ký tự quốc tế.
Cách sử dụng: – Giá trị nhận dạng an toàn của trình tổng hợp: Sử dụng khoá safety_identifier (ví dụ: {"safety_identifier": "user_session_123"})
Một đối tượng chứa danh sách các cặp "key": value. Ví dụ: { "name": "wrench", "mass": "1.3kg", "count": "3" }.
Nội dung phản hồi
Thông báo phản hồi cho [PredictionService.Predict].
Nếu thành công, phần nội dung phản hồi sẽ chứa dữ liệu có cấu trúc sau:
predictions[]
value (Value format)
Kết quả của lệnh gọi dự đoán.
| Biểu diễn dưới dạng JSON |
|---|
{ "predictions": [ value ] } |
Phương thức: models.predictLongRunning
Tương tự như models.predict nhưng trả về một LRO.
Điểm cuối
bài đănghttps: / /generativelanguage.googleapis.com /v1beta /{model=models /*}:predictLongRunning
Tham số đường dẫn
model
string
Bắt buộc. Tên của mô hình để dự đoán. Định dạng: name=models/{model}.
Nội dung yêu cầu
Nội dung yêu cầu chứa dữ liệu với cấu trúc sau:
instances[]
value (Value format)
Bắt buộc. Các thực thể là dữ liệu đầu vào cho lệnh gọi dự đoán.
parameters
value (Value format)
Không bắt buộc. Các tham số chi phối lệnh gọi dự đoán.
webhookConfig.uris[]
string
Không bắt buộc. Nếu được đặt, các URI webhook này sẽ được dùng cho các sự kiện webhook thay vì webhook đã đăng ký.
labels
map (key: string, value: string)
Không bắt buộc. Nhãn có siêu dữ liệu do người dùng xác định cho yêu cầu.
Không bắt buộc. Nhãn phải tuân thủ các yêu cầu tiêu chuẩn về nhãn Cloud hợp nhất: – Khoá nhãn phải bắt đầu bằng một chữ cái. – Khoá và giá trị của nhãn không được dài quá 63 ký tự (điểm mã Unicode) và chỉ được chứa chữ cái viết thường, ký tự số, dấu gạch dưới và dấu gạch ngang. – Được phép sử dụng ký tự quốc tế.
Cách sử dụng: – Giá trị nhận dạng an toàn của trình tổng hợp: Sử dụng khoá safety_identifier (ví dụ: {"safety_identifier": "user_session_123"})
Một đối tượng chứa danh sách các cặp "key": value. Ví dụ: { "name": "wrench", "mass": "1.3kg", "count": "3" }.
Nội dung phản hồi
Nếu thành công, nội dung phản hồi sẽ chứa một thực thể của Operation.