Method: models.countTokens

Uruchamia tokenizatora modelu dla treści wejściowej i zwraca liczbę tokenów.

Żądanie HTTP

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

Adres URL używa składni transkodowania gRPC.

Parametry ścieżki

Parametry
model

string

Wymagane. Nazwa zasobu modelu. Służy jako identyfikator używanego modelu.

Ta nazwa powinna być zgodna z nazwą modelu zwróconej przez metodę models.list.

Format: models/{model}

Treść żądania

Treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
Pola
contents[]

object (Content)

Opcjonalnie. Dane wejściowe podane modelowi w formie promptu. To pole jest ignorowane, gdy ustawiona jest wartość generateContentRequest.
generateContentRequest

object (GenerateContentRequest)

Opcjonalnie. Ogólne dane wejściowe podane dla modelu. Modele.countTokens będą zliczać prompt, wywołania funkcji itp.

Treść odpowiedzi

Odpowiedź od: models.countTokens.

Zwraca wartość tokenCount modelu dla funkcji prompt.

W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "totalTokens": integer
}
Pola
totalTokens

integer

Liczba tokenów, w których model tokenizuje prompt.

Zawsze nieujemna.

Zakresy autoryzacji

Wymaga jednego z tych zakresów OAuth:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Więcej informacji znajdziesz w artykule Omówienie uwierzytelniania.

GenerateContentRequest

Żądanie wygenerowania uzupełnienia z modelu.

Zapis JSON 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  }
}
Pola
model

string

Wymagane. Nazwa obiektu Model, która ma być używana do wygenerowania ukończenia.

Format: name=models/{model}.
contents[]

object (Content)

Wymagane. Treść bieżącej rozmowy z modelem.

W przypadku zapytań jednoetapowych jest to pojedyncze wystąpienie. W przypadku zapytań wieloetapowych jest to pole powtarzane z historią rozmowy + ostatnie żądanie.
tools[]

object (Tool)

Opcjonalnie. Lista Tools, której model może używać do generowania następnej odpowiedzi.

Tool to fragment kodu, który umożliwia systemowi interakcję z systemami zewnętrznymi w celu wykonania działania lub zestawu działań wykraczających poza wiedzę i zakres modelu. Obecnie jedynym obsługiwanym narzędziem jest Function.
toolConfig

object (ToolConfig)

Opcjonalnie. Konfiguracja narzędzia dla dowolnego elementu Tool określonego w żądaniu.
safetySettings[]

object (SafetySetting)

Opcjonalnie. Lista unikalnych wystąpień SafetySetting do blokowania niebezpiecznych treści.

Ta zasada będzie egzekwowana w GenerateContentRequest.contents i GenerateContentResponse.candidates. Na każdy typ SafetyCategory może przypadać nie więcej niż 1 ustawienie. Interfejs API zablokuje treści i odpowiedzi, które nie osiągnęły progów określonych przez te ustawienia. Ta lista zastępuje domyślne ustawienia dla każdego obiektu SafetyCategory określonego w ustawieniach bezpieczeństwa. Jeśli na liście nie ma parametru SafetySetting dla danego elementu SafetyCategory, interfejs API użyje domyślnego ustawienia bezpieczeństwa dla tej kategorii. Obsługiwane są kategorie szkodliwych treści: HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT i HARM_CATEGORY_HARASSMENT.
systemInstruction

object (Content)

Opcjonalnie. Instrukcja systemowa ustawiona przez dewelopera. Obecnie tylko tekstowe.
generationConfig

object (GenerationConfig)

Opcjonalnie. Opcje konfiguracji generowania modelu i danych wyjściowych.