Method: models.countTokens

Uruchamia tokenizatora modelu dla treści wejściowej i zwraca liczbę tokenów.

Żądanie HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

Adres URL używa składni transkodowania gRPC.

Parametry ścieżki

Parametry
model

string

Wymagane. Nazwa zasobu modelu. Służy jako identyfikator używanego modelu.

Ta nazwa powinna być zgodna z nazwą modelu zwróconej przez metodę models.list.

Format: models/{model}

Treść żądania

Treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Pola
contents[]

object (Content)

Opcjonalnie. Dane wejściowe podane modelowi w formie promptu. To pole jest ignorowane, gdy ustawiona jest wartość generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Opcjonalnie. Ogólne dane wejściowe podane dla modelu. Modele.countTokens będą zliczać prompt, wywołania funkcji itp.

Treść odpowiedzi

Odpowiedź od: models.countTokens.

Zwraca wartość tokenCount modelu dla funkcji prompt.

W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "totalTokens": integer
}
Pola
totalTokens

integer

Liczba tokenów, w których model tokenizuje prompt.

Zawsze nieujemna.

Zakresy autoryzacji

Wymaga jednego z tych zakresów OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Więcej informacji znajdziesz w artykule Omówienie uwierzytelniania.

GenerateContentRequest

Żądanie wygenerowania uzupełnienia z modelu.

Zapis JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Pola
model

string

Wymagane. Nazwa obiektu Model, która ma być używana do wygenerowania ukończenia.

Format: name=models/{model}.
contents[]

object (Content)

Wymagane. Treść bieżącej rozmowy z modelem.

W przypadku zapytań jednoetapowych jest to pojedyncze wystąpienie. W przypadku zapytań wieloetapowych jest to pole powtarzane z historią rozmowy + ostatnie żądanie.
safetySettings[]

object (SafetySetting)

Opcjonalnie. Lista unikalnych wystąpień SafetySetting do blokowania niebezpiecznych treści.

Ta zasada będzie egzekwowana w GenerateContentRequest.contents i GenerateContentResponse.candidates. Na każdy typ SafetyCategory może przypadać nie więcej niż 1 ustawienie. Interfejs API zablokuje treści i odpowiedzi, które nie osiągnęły progów określonych przez te ustawienia. Ta lista zastępuje domyślne ustawienia dla każdego obiektu SafetyCategory określonego w ustawieniach bezpieczeństwa. Jeśli na liście nie ma parametru SafetySetting dla danego elementu SafetyCategory, interfejs API użyje domyślnego ustawienia bezpieczeństwa dla tej kategorii. Obsługiwane są kategorie szkodliwych treści: HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT i HARM_CATEGORY_HARASSMENT.
generationConfig

object (GenerationConfig)

Opcjonalnie. Opcje konfiguracji generowania modelu i danych wyjściowych.