Method: models.countTokens

Запускает токенизатор модели для входного содержимого и возвращает количество токенов.

HTTP-запрос

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

Параметры пути

Параметры
model

string

Необходимый. Имя ресурса модели. Это служит идентификатором для использования модели.

Это имя должно соответствовать имени модели, возвращаемому методом models.list .

Формат: models/{model}

Тело запроса

Тело запроса содержит данные следующей структуры:

JSON-представление
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Поля
contents[]

object ( Content )

Необязательный. Входные данные, передаваемые модели в виде подсказки. Это поле игнорируется, если установлен generateContentRequest .

generateContentRequest

object ( GenerateContentRequest )

Необязательный. Общий вклад в модель. models.countTokens будет подсчитывать подсказки, вызовы функций и т. д.

Тело ответа

Ответ от models.countTokens .

Он возвращает tokenCount модели для prompt .

В случае успеха тело ответа содержит данные следующей структуры:

JSON-представление
{
  "totalTokens": integer
}
Поля
totalTokens

integer

Количество токенов, в которые model разбивает prompt .

Всегда неотрицательный. Если установлен кэшированный контент, это по-прежнему общий эффективный размер приглашения. Т.е. сюда входит количество токенов в кэшированном контенте.

Области авторизации

Требуется одна из следующих областей OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Для получения дополнительной информации см. Обзор аутентификации .

ГенерироватьСодержимоеЗапрос

Запрос на создание завершения из модели.

JSON-представление
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  },
  "cachedContent": string
}
Поля
model

string

Необходимый. Имя Model , используемой для создания завершения.

Формат: name=models/{model} .

contents[]

object ( Content )

Необходимый. Содержание текущего разговора с моделью.

Для однооборотных запросов это один экземпляр. Для многоходовых запросов это повторяющееся поле, содержащее историю разговоров + последний запрос.

tools[]

object ( Tool )

Необязательный. Список Tools которые модель может использовать для генерации следующего ответа.

Tool — это часть кода, которая позволяет системе взаимодействовать с внешними системами для выполнения действия или набора действий за пределами знаний и области действия модели. В настоящее время единственным поддерживаемым инструментом является Function .

toolConfig

object ( ToolConfig )

Необязательный. Конфигурация инструмента для любого Tool , указанного в запросе.

safetySettings[]

object ( SafetySetting )

Необязательный. Список уникальных экземпляров SafetySetting для блокировки небезопасного контента.

Это будет применяться к GenerateContentRequest.contents и GenerateContentResponse.candidates . Для каждого типа SafetyCategory не должно быть более одного параметра. API будет блокировать любое содержимое и ответы, которые не соответствуют пороговым значениям, установленным этими настройками. Этот список переопределяет настройки по умолчанию для каждой SafetyCategory , указанной в файле SafetySettings. Если в списке нет SafetySetting для данной SafetyCategory , API будет использовать параметр безопасности по умолчанию для этой категории. Поддерживаются категории вреда HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT.

systemInstruction

object ( Content )

Необязательный. Разработчик установил системную инструкцию. Пока только текст.

generationConfig

object ( GenerationConfig )

Необязательный. Параметры конфигурации для создания модели и выходных данных.

cachedContent

string

Необязательный. Имя кэшированного контента, используемого в качестве контекста для прогнозирования. Примечание. Используется только при явном кэшировании, где пользователи могут контролировать кэширование (например, какой контент кэшировать) и гарантированно экономить средства. Формат: cachedContents/{cachedContent}