模型產生和輸出的設定選項。並非所有參數都能設定每個模型。
JSON 表示法 |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
欄位 | |
---|---|
stopSequences[] |
選用設定。會停止產生輸出內容的字元序列集 (最多 5 個)。如果指定的話,API 將在停止序列第一次出現時停止。停止序列不會包含在回應中。 |
candidateCount |
選用設定。已產生的回應數量。 目前這個值只能設為 1。如未設定,系統會預設為 1。 |
maxOutputTokens |
選用設定。要包含的符記數量上限。 注意:預設值因模型而異,請參閱 |
temperature |
選用設定。控制輸出的隨機性。 注意:預設值因模型而異,請參閱 值的範圍可以是 [0.0, 2.0]。 |
topP |
選用設定。取樣時可列入計算的符記累計機率上限。 這個模型使用「Top-K」和「nucleus」取樣。 系統會依據指派的機率排序符記,因此只會考量可能性最高的符記。「Top-K」取樣會直接限制要考量的符記數量上限,而 Nucleus 取樣會讓系統根據累積機率限制權杖數量。 注意:預設值因模型而異,請參閱 |
topK |
選用設定。取樣時要列入計算的符記數量上限。 模型會使用細核取樣或「Top-K」和「nucleus」取樣。「Top-K」取樣會考量一組可能性最高的 注意:預設值因模型而異,請參閱 |