用于模型生成和输出的配置选项。并非所有参数都可以为每个模型配置。
JSON 表示法 |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
字段 | |
---|---|
stopSequences[] |
可选。将停止生成输出的字符序列集(最多 5 个)。如果指定,API 将在第一次出现停止序列时停止。该停止序列不会包含在响应中。 |
candidateCount |
可选。要返回的已生成响应数。 目前,此值只能设置为 1。如果未设置,则默认为 1。 |
maxOutputTokens |
可选。候选内容中包含的词元数量上限。 注意:默认值因模型而异,请参阅 |
temperature |
可选。控制输出的随机性。 注意:默认值因模型而异,请参阅 值的范围为 [0.0, 2.0]。 |
topP |
可选。采样时要考虑的词元的最大累积概率。 该模型使用 Top-k 和核采样的组合。 词元根据其分配的概率进行排序,因此只考虑可能性最大的词元。Top-k 采样会直接限制要考虑的最大词元数量,而 Nucleus 采样则会根据累计概率限制词元数量。 注意:默认值因模型而异,请参阅 |
topK |
可选。采样时要考虑的词元数量上限。 模型使用核采样或合并 Top-k 和核采样。Top-k 采样考虑 注意:默认值因模型而异,请参阅 |