GenerationConfig

ตัวเลือกการกำหนดค่าสำหรับการสร้างโมเดลและเอาต์พุต พารามิเตอร์บางรายการอาจไม่สามารถกำหนดค่าได้ในบางโมเดล

การแสดง JSON
{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}
ช่อง
stopSequences[]

string

ไม่บังคับ ชุดของลำดับอักขระ (สูงสุด 5 ตัว) ที่จะหยุดการสร้างเอาต์พุต หากระบุ API จะหยุดเมื่อลำดับการหยุดปรากฏครั้งแรก ลำดับการหยุดจะไม่รวมเป็นส่วนหนึ่งของคำตอบ

candidateCount

integer

ไม่บังคับ จำนวนคำตอบที่สร้างขึ้นเพื่อส่งคืน

ปัจจุบันค่านี้ตั้งค่าได้เป็น 1 เท่านั้น หากไม่ได้ตั้งค่า ระบบจะใช้ค่าเริ่มต้นเป็น 1

maxOutputTokens

integer

ไม่บังคับ จำนวนโทเค็นสูงสุดที่จะรวมอยู่ในผู้สมัคร

หมายเหตุ: ค่าเริ่มต้นจะแตกต่างกันไปตามโมเดล โปรดดูแอตทริบิวต์ Model.output_token_limit ของ Model ที่แสดงผลจากฟังก์ชัน getModel

temperature

number

ไม่บังคับ ควบคุมการสุ่มของเอาต์พุต

หมายเหตุ: ค่าเริ่มต้นจะแตกต่างกันไปตามโมเดล โปรดดูแอตทริบิวต์ Model.temperature ของ Model ที่แสดงผลจากฟังก์ชัน getModel

ค่ามีได้ตั้งแต่ [0.0, 2.0]

topP

number

ไม่บังคับ ความน่าจะเป็นสะสมสูงสุดของโทเค็นที่จะพิจารณาเมื่อสุ่มตัวอย่าง

โมเดลนี้ใช้การสุ่มแบบ Top-k และนิวเคลียสรวมกัน

โทเค็นจะจัดเรียงตามความน่าจะเป็นที่กําหนดเพื่อให้มีการพิจารณาเฉพาะโทเค็นที่เป็นไปได้มากที่สุด การสุ่มตัวอย่างแบบ Top-K จะจำกัดจำนวนโทเค็นสูงสุดที่จะพิจารณาโดยตรง ส่วนการสุ่มตัวอย่างนิวเคลียสจะจำกัดจำนวนโทเค็นตามความน่าจะเป็นสะสม

หมายเหตุ: ค่าเริ่มต้นจะแตกต่างกันไปตามโมเดล โปรดดูแอตทริบิวต์ Model.top_p ของ Model ที่แสดงผลจากฟังก์ชัน getModel

topK

integer

ไม่บังคับ จำนวนโทเค็นสูงสุดที่จะพิจารณาเมื่อสุ่มตัวอย่าง

โมเดลใช้การสุ่มตัวอย่างแบบนิวเคลียสหรือการสุ่มตัวอย่างแบบ Top-k และนิวเคลียสแบบรวม การสุ่มตัวอย่างแบบ Top-K จะพิจารณาชุดโทเค็นที่เป็นไปได้มากที่สุด topK รายการ โมเดลที่ทำงานโดยใช้การสุ่มตัวอย่างนิวเคลียสไม่อนุญาตให้ใช้การตั้งค่า TopK

หมายเหตุ: ค่าเริ่มต้นจะแตกต่างกันไปตามโมเดล โปรดดูแอตทริบิวต์ Model.top_k ของ Model ที่แสดงผลจากฟังก์ชัน getModel ช่อง topK ใน Model ที่ว่างอยู่หมายความว่าโมเดลไม่ได้ใช้การสุ่มตัวอย่างแบบ Top-K และไม่อนุญาตให้ตั้งค่า topK ในคำขอ