Параметры конфигурации для создания модели и выходных данных. Не все параметры можно настроить для каждой модели.
JSON-представление |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
Поля | |
---|---|
stopSequences[] | Необязательный. Набор последовательностей символов (до 5), которые останавливают генерацию вывода. Если указано, API остановится при первом появлении последовательности остановки. Последовательность остановки не будет включена в ответ. |
responseMimeType | Необязательный. Выходной mime-тип ответа сгенерированного текста-кандидата. Поддерживаемый тип mime: |
responseSchema | Необязательный. Выведите схему ответа сгенерированного текста-кандидата, если тип ответа mime может иметь схему. Схема может быть объектами, примитивами или массивами и является подмножеством схемы OpenAPI . Если установлено, также должен быть установлен совместимый тип ответаMimeType. Совместимые типы mimetypes: |
candidateCount | Необязательный. Количество сгенерированных ответов для возврата. В настоящее время для этого значения можно установить только значение 1. Если оно не установлено, по умолчанию оно будет равно 1. |
maxOutputTokens | Необязательный. Максимальное количество токенов, которые можно включить в кандидата. Примечание. Значение по умолчанию зависит от модели. См. атрибут |
temperature | Необязательный. Управляет случайностью вывода. Примечание. Значение по умолчанию зависит от модели. См. атрибут Значения могут варьироваться от [0,0, 2,0]. |
topP | Необязательный. Максимальная совокупная вероятность токенов, которую следует учитывать при выборке. Модель использует комбинированную выборку Top-k и ядра. Токены сортируются на основе присвоенных им вероятностей, поэтому учитываются только наиболее вероятные токены. Выборка Top-k напрямую ограничивает максимальное количество рассматриваемых токенов, тогда как выборка Nucleus ограничивает количество токенов на основе кумулятивной вероятности. Примечание. Значение по умолчанию зависит от модели. См. атрибут |
topK | Необязательный. Максимальное количество токенов, которые следует учитывать при выборке. В моделях используется выборка ядер или комбинированная выборка Top-k и ядра. Выборка Top-k рассматривает набор наиболее вероятных токенов Примечание. Значение по умолчанию зависит от модели. См. атрибут |