Method: models.countTokens

Запускает токенизатор модели для входного содержимого и возвращает количество токенов.

HTTP-запрос

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

Параметры пути

Параметры
model

string

Необходимый. Имя ресурса модели. Это служит идентификатором для использования модели.

Это имя должно соответствовать имени модели, возвращаемому методом models.list .

Формат: models/{model}

Тело запроса

Тело запроса содержит данные следующей структуры:

JSON-представление
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Поля
contents[]

object ( Content )

Необязательный. Входные данные, передаваемые модели в виде подсказки. Это поле игнорируется, если установлен generateContentRequest .

generateContentRequest

object ( GenerateContentRequest )

Необязательный. Общий вклад, внесенный в модель. models.countTokens будет подсчитывать подсказки, вызовы функций и т. д.

Тело ответа

Ответ от models.countTokens .

Он возвращает tokenCount модели для prompt .

В случае успеха тело ответа содержит данные следующей структуры:

JSON-представление
{
  "totalTokens": integer
}
Поля
totalTokens

integer

Количество токенов, в которые model разбивает prompt .

Всегда неотрицательный. Если установлен кэшедконтент, это по-прежнему общий эффективный размер приглашения. Т.е. сюда входит количество токенов в кэшированном контенте.

Области авторизации

Требуется одна из следующих областей OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Для получения дополнительной информации см. Обзор аутентификации .

ГенерироватьСодержимоеЗапрос

Запрос на создание завершения из модели.

JSON-представление
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Поля
model

string

Необходимый. Имя Model , используемой для создания завершения.

Формат: name=models/{model} .

contents[]

object ( Content )

Необходимый. Содержание текущего разговора с моделью.

Для однооборотных запросов это один экземпляр. Для многоходовых запросов это повторяющееся поле, содержащее историю разговоров + последний запрос.

safetySettings[]

object ( SafetySetting )

Необязательный. Список уникальных экземпляров SafetySetting для блокировки небезопасного контента.

Это будет применяться к GenerateContentRequest.contents и GenerateContentResponse.candidates . Для каждого типа SafetyCategory не должно быть более одного параметра. API будет блокировать любое содержимое и ответы, которые не соответствуют пороговым значениям, установленным этими настройками. Этот список переопределяет настройки по умолчанию для каждой SafetyCategory , указанной в параметре SafetySettings. Если в списке нет SafetySetting для данной SafetyCategory , API будет использовать параметр безопасности по умолчанию для этой категории. Поддерживаются категории вреда HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT.

generationConfig

object ( GenerationConfig )

Необязательный. Параметры конфигурации для создания модели и выходных данных.