GenerationConfig

{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

選用設定。會停止產生輸出內容的字元序列集 (最多 5 個)。如果指定的話，API 將在停止序列第一次出現時停止。停止序列不會包含在回應中。

integer

選用設定。已產生的回應數量。

目前這個值只能設為 1。如未設定，系統會預設為 1。

integer

選用設定。要包含的符記數量上限。

注意：預設值因模型而異，請參閱 getModel 函式所傳回 Model 的 Model.output_token_limit 屬性。

number

選用設定。控制輸出的隨機性。

注意：預設值因模型而異，請參閱 getModel 函式所傳回 Model 的 Model.temperature 屬性。

值的範圍可以是 [0.0, 2.0]。

number

選用設定。取樣時可列入計算的符記累計機率上限。

這個模型使用「Top-K」和「nucleus」取樣。

系統會依據指派的機率排序符記，因此只會考量可能性最高的符記。「Top-K」取樣會直接限制要考量的符記數量上限，而 Nucleus 取樣會讓系統根據累積機率限制權杖數量。

注意：預設值因模型而異，請參閱 getModel 函式所傳回 Model 的 Model.top_p 屬性。

integer

選用設定。取樣時要列入計算的符記數量上限。

模型會使用細核取樣或「Top-K」和「nucleus」取樣。「Top-K」取樣會考量一組可能性最高的 topK 個符記。使用細胞取樣的模型不支援「TopK」設定。

注意：預設值因模型而異，請參閱 getModel 函式所傳回 Model 的 Model.top_k 屬性。Model 中的 topK 欄位空白，表示模型不會套用「前 K 值」取樣，而且不允許針對要求設定 topK。