Method: models.countTokens

Uruchamia tokenizację modelu w przypadku treści wejściowej i zwraca liczbę tokenów.

Żądanie HTTP

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

Adres URL używa składni transkodowania gRPC.

Parametry ścieżki

Parametry
model

string

Wymagane. Nazwa zasobu modelu. Służy on jako identyfikator, którego model ma używać.

Ta nazwa powinna być zgodna z nazwą modelu zwracaną przez metodę models.list.

Format: models/{model}

Treść żądania

Treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Pola
contents[]

object (Content)

Opcjonalnie. Dane wejściowe podane modelowi w postaci promptu. To pole jest ignorowane po ustawieniu pola generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Opcjonalnie. Ogólne dane wejściowe podane modelowi. Models.countTokens zlicza prompty, wywołania funkcji itp.

Treść odpowiedzi

Odpowiedź od użytkownika models.countTokens.

Zwraca tokenCount modelu dla prompt.

W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "totalTokens": integer
}
Pola
totalTokens

integer

Liczba tokenów, do których model tokenizuje token prompt.

Zawsze nieujemna. Jeśli ustawiona jest treść w pamięci podręcznej, nadal jest to łączny efektywny rozmiar promptu. Oznacza to, że obejmuje to liczbę tokenów w pamięci podręcznej.

Zakresy autoryzacji

Wymaga jednego z tych zakresów protokołu OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Więcej informacji znajdziesz w artykule o uwierzytelnianiu (w języku angielskim).

GenerateContentRequest

Żądanie wygenerowania ukończenia z modelu.

Zapis JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  },
  "cachedContent": string
}
Pola
model

string

Wymagane. Nazwa elementu Model, która ma być używana do generowania uzupełniania.

Format: name=models/{model}.
contents[]

object (Content)

Wymagane. Treść bieżącej rozmowy z modelem.

W przypadku zapytań jednoetapowych jest to pojedyncza instancja. W przypadku zapytań wieloetapowych jest to pole powtarzane, które zawiera historię rozmowy i ostatnie żądanie.
tools[]

object (Tool)

Opcjonalnie. Lista właściwości Tools, których model może używać do generowania następnej odpowiedzi.

Tool to fragment kodu, który umożliwia systemowi wchodzenie w interakcję z zewnętrznymi systemami w celu wykonania działania lub zestawu działań poza zakresem wiedzy i zakresu modelu. Obecnie jedynym obsługiwanym narzędziem jest Function.
toolConfig

object (ToolConfig)

Opcjonalnie. Konfiguracja narzędzia dla dowolnych Tool określonych w żądaniu.
safetySettings[]

object (SafetySetting)

Opcjonalnie. Lista unikalnych instancji SafetySetting do blokowania niebezpiecznych treści.

Ta zmiana zostanie zastosowana w GenerateContentRequest.contents i GenerateContentResponse.candidates. Każdy typ SafetyCategory powinien mieć maksymalnie 1 ustawienie. Interfejs API zablokuje treści i odpowiedzi, które nie osiągną progów ustawionych przez te ustawienia. Ta lista zastępuje domyślne ustawienia dla każdego elementu SafetyCategory określonego w ustawieniach bezpieczeństwa. Jeśli na liście nie ma atrybutu SafetySetting dla danego elementu SafetyCategory, interfejs API użyje dla tej kategorii domyślnego ustawienia bezpieczeństwa. Kategorie szkodliwego działania: HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT są obsługiwane.
systemInstruction

object (Content)

Opcjonalnie. Instrukcja systemowa ustawiona przez dewelopera. Obecnie tylko tekstowe.
generationConfig

object (GenerationConfig)

Opcjonalnie. Opcje konfiguracji generowania modeli i ich danych wyjściowych.
cachedContent

string

Opcjonalnie. Nazwa treści z pamięci podręcznej używanej jako kontekst do wyświetlania podpowiedzi. Uwaga: używane tylko w trybie jawnego buforowania, w którym użytkownicy mogą kontrolować buforowanie (np. jaką zawartość przechowywać w pamięci podręcznej) i korzystać z gwarantowanych oszczędności. Format: cachedContents/{cachedContent}