GenerationConfig

{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

省略可。出力の生成を停止する文字シーケンスのセット（最大 5 つ）。指定すると、API は停止シーケンスが最初に出現したときに停止します。停止シーケンスはレスポンスには含まれません。

integer

省略可。返される生成レスポンスの数。

現在、この値は 1 にのみ設定できます。設定しない場合、デフォルトの 1 になります。

integer

省略可。候補に含めるトークンの最大数。

注: デフォルト値はモデルによって異なります。getModel 関数から返される Model の Model.output_token_limit 属性をご覧ください。

number

省略可。出力のランダム性を制御します。

注: デフォルト値はモデルによって異なります。getModel 関数から返される Model の Model.temperature 属性をご覧ください。

値の範囲は [0.0, 2.0] です。

number

省略可。サンプリング時に考慮するトークンの最大累積確率。

このモデルでは、トップ K サンプリングと核サンプルを組み合わせて使用します。

トークンは、最も可能性が高いトークンのみが考慮されるように、割り当てられた確率に基づいて並べ替えられます。トップ K サンプリングでは考慮すべきトークンの最大数が直接制限されますが、核サンプリングでは累積確率に基づいてトークン数が制限されます。

注: デフォルト値はモデルによって異なります。getModel 関数から返される Model の Model.top_p 属性をご覧ください。

integer

省略可。サンプリング時に考慮するトークンの最大数。

モデルでは、核サンプリングを使用します。または、トップ K と核体を組み合わせたサンプリングを使用します。トップ K のサンプリングでは、最も確率が高い topK 個のトークンのセットが考慮されます。核サンプリングで実行されるモデルでは、TopK を設定できません。

注: デフォルト値はモデルによって異なります。getModel 関数から返される Model の Model.top_k 属性をご覧ください。Model の topK フィールドが空の場合は、モデルがトップ K サンプリングを適用せず、リクエストで topK を設定できないことを示します。