模型產生和輸出的設定選項。並非所有參數都能設定每個模型。
JSON 表示法 |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
欄位 | |
---|---|
stopSequences[] |
選用設定。會停止產生輸出內容的字元序列集 (最多 5 個)。如果指定的話,API 將在停止序列第一次出現時停止。停止序列不會包含在回應中。 |
responseMimeType |
選用設定。所產生候選文字的輸出回應 MIME 類型。支援的 MIME 類型: |
responseSchema |
選用設定。當回應 MIME 類型可以設定結構定義時,產生的候選文字輸出回應結構定義。結構定義可以是物件、基本或陣列,且是 OpenAPI 結構定義的子集。 如果已設定,則必須一併設定相容的 responseMimeType。相容的 MIME 類型: |
candidateCount |
選用設定。已產生的回應數量。 目前這個值只能設為 1。如未設定,系統會預設為 1。 |
maxOutputTokens |
選用設定。要包含的符記數量上限。 注意:預設值因模型而異,請參閱 |
temperature |
選用設定。控制輸出的隨機性。 注意:預設值因模型而異,請參閱 值的範圍可以是 [0.0, 2.0]。 |
topP |
選用設定。取樣時可列入計算的符記累計機率上限。 這個模型使用「Top-K」和「nucleus」取樣。 系統會依據指派的機率排序符記,因此只會考量可能性最高的符記。「Top-K」取樣會直接限制要考量的符記數量上限,而 Nucleus 取樣會讓系統根據累積機率限制權杖數量。 注意:預設值因模型而異,請參閱 |
topK |
選用設定。取樣時要列入計算的符記數量上限。 模型會使用細核取樣或「Top-K」和「nucleus」取樣。「Top-K」取樣會考量一組可能性最高的 注意:預設值因模型而異,請參閱 |