Method: models.countTokens

Uruchamia tokenizację modelu w przypadku treści wejściowej i zwraca liczbę tokenów.

Żądanie HTTP

POST https://generativelanguage.googleapis.com/v1/{model=models/*}:countTokens

Adres URL używa składni transkodowania gRPC.

Parametry ścieżki

Parametry
model

string

Wymagane. Nazwa zasobu modelu. Służy on jako identyfikator, którego model ma używać.

Ta nazwa powinna być zgodna z nazwą modelu zwracaną przez metodę models.list.

Format: models/{model}

Treść żądania

Treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Pola
contents[]

object (Content)

Opcjonalnie. Dane wejściowe podane modelowi w postaci promptu. To pole jest ignorowane po ustawieniu pola generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Opcjonalnie. Ogólne dane wejściowe podane modelowi. Models.countTokens zlicza prompty, wywołania funkcji itp.

Treść odpowiedzi

Odpowiedź od użytkownika models.countTokens.

Zwraca tokenCount modelu dla prompt.

W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "totalTokens": integer
}
Pola
totalTokens

integer

Liczba tokenów, do których model tokenizuje token prompt.

Zawsze nieujemna. Jeśli ustawiona jest treść w pamięci podręcznej, nadal jest to łączny efektywny rozmiar promptu. Oznacza to, że obejmuje to liczbę tokenów w pamięci podręcznej.

Zakresy autoryzacji

Wymaga jednego z tych zakresów protokołu OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Więcej informacji znajdziesz w artykule o uwierzytelnianiu (w języku angielskim).

GenerateContentRequest

Żądanie wygenerowania ukończenia z modelu.

Zapis JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "generationConfig": {
    object (GenerationConfig)
  }
}
Pola
model

string

Wymagane. Nazwa elementu Model, która ma być używana do generowania uzupełniania.

Format: name=models/{model}.
contents[]

object (Content)

Wymagane. Treść bieżącej rozmowy z modelem.

W przypadku zapytań jednoetapowych jest to pojedyncza instancja. W przypadku zapytań wieloetapowych jest to pole powtarzane, które zawiera historię rozmowy i ostatnie żądanie.
safetySettings[]

object (SafetySetting)

Opcjonalnie. Lista unikalnych instancji SafetySetting do blokowania niebezpiecznych treści.

Ta zmiana zostanie zastosowana w GenerateContentRequest.contents i GenerateContentResponse.candidates. Każdy typ SafetyCategory powinien mieć maksymalnie 1 ustawienie. Interfejs API zablokuje treści i odpowiedzi, które nie osiągną progów ustawionych przez te ustawienia. Ta lista zastępuje domyślne ustawienia dla każdego elementu SafetyCategory określonego w ustawieniach bezpieczeństwa. Jeśli na liście nie ma atrybutu SafetySetting dla danego elementu SafetyCategory, interfejs API użyje dla tej kategorii domyślnego ustawienia bezpieczeństwa. Kategorie szkodliwego działania: HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT są obsługiwane.
generationConfig

object (GenerationConfig)

Opcjonalnie. Opcje konfiguracji generowania modeli i ich danych wyjściowych.