Method: models.generateText

{
  "prompt": {
    object (TextPrompt)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "stopSequences": [
    string
  ],
  "temperature": number,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "topP": number,
  "topK": integer
}

object (TextPrompt)

To pole jest wymagane. Swobodny tekst wejściowy przekazywany modelowi jako prompt.

Po sygnalizowaniu promptu model wygeneruje odpowiedź tekstową, która będzie przewidziana jako zakończenie tekstu wejściowego.

object (SafetySetting)

Opcjonalnie. Lista unikalnych instancji SafetySetting służących do blokowania niebezpiecznych treści.

które będą egzekwowane w GenerateTextRequest.prompt i GenerateTextResponse.candidates. Dla każdego typu SafetyCategory powinno być tylko 1 ustawienie. Interfejs API będzie blokować wszystkie prompty i odpowiedzi, które nie osiągną progów określonych przez te ustawienia. Ta lista zastępuje ustawienia domyślne w przypadku każdego elementu SafetyCategory określonego w ustawieniach zabezpieczeń. Jeśli na liście nie ma parametru SafetySetting dla danego parametru SafetyCategory, interfejs API użyje domyślnego ustawienia bezpieczeństwa tej kategorii. Usługi tekstowe obsługują kategorie szkodliwych treści: HARM_CATEGORY_DEROGATORY, HARM_CATEGORY_TOXICITY, HARM_CATEGORY_VIOLENCE, HARM_CATEGORY_SEXUAL, HARM_CATEGORY_MEDical i HARM_CATEGORY_DANGEROUS.

string

Zestaw sekwencji znaków (maksymalnie 5), które zatrzymują generowanie danych wyjściowych. Jeśli zostanie określony, interfejs API zostanie zatrzymany przy pierwszym wystąpieniu sekwencji zatrzymania. Sekwencja zatrzymania nie będzie częścią odpowiedzi.

number

Opcjonalnie. Określa losowość danych wyjściowych. Uwaga: wartość domyślna różni się w zależności od modelu. Zobacz atrybut Model.temperature funkcji Model, która zwróciła funkcję getModel.

Wartości mieszczą się w zakresie od [0,0, 1,0] włącznie. Wartość bliższa 1,0 daje odpowiedzi bardziej zróżnicowane i kreatywne, natomiast wartość bliższa 0,0 zazwyczaj oznacza bardziej bezpośrednie odpowiedzi modelu.

integer

Opcjonalnie. Liczba wygenerowanych odpowiedzi do zwrócenia.

Ta wartość musi mieścić się w przedziale od [1, 8] włącznie. Jeśli zasada jest nieskonfigurowana, domyślnie przyjmuje wartość 1.

integer

Opcjonalnie. Maksymalna liczba tokenów do uwzględnienia w kandydacie.

Jeśli zasada jest nieskonfigurowana, domyślnie przyjmuje wartośćoutputTokenLimit określony w specyfikacji Model.

number

Opcjonalnie. Maksymalne skumulowane prawdopodobieństwo, które tokeny należy wziąć pod uwagę podczas próbkowania.

Model wykorzystuje połączone próbkowanie górnego K i próbkowanie jądra.

Tokeny są sortowane na podstawie przypisanych do nich prawdopodobieństw, więc uwzględniane są tylko te z nich, które są najbardziej prawdopodobne. Próbkowanie górnego K bezpośrednio ogranicza maksymalną liczbę tokenów do rozważenia, a próbkowanie Nucleus ogranicza liczbę tokenów na podstawie skumulowanego prawdopodobieństwa.

Uwaga: wartość domyślna różni się w zależności od modelu. Zobacz atrybut Model.top_p funkcji Model, która zwróciła funkcję getModel.

integer

Opcjonalnie. Maksymalna liczba tokenów uwzględniana podczas próbkowania.

Model wykorzystuje połączone próbkowanie górnego K i próbkowanie jądra.

Próbkowanie górnego K uwzględnia zbiór topK najbardziej prawdopodobnych tokenów. Domyślna wartość to 40.

Uwaga: wartość domyślna różni się w zależności od modelu. Zobacz atrybut Model.top_k funkcji Model, która zwróciła funkcję getModel.