LlmInference.LlmInferenceOptions.Builder

คลาสนามธรรมแบบคงที่แบบสาธารณะ LlmInference.LlmInferenceOptions.Builder

เครื่องมือสร้างสำหรับ LlmInference.LlmInferenceOptions

บริษัทก่อสร้าง

เครื่องมือสร้าง()

วิธีการสาธารณะ

สุดท้าย LlmInference.LlmInferenceOptions
build()
ตรวจสอบและสร้างอินสแตนซ์ ERROR(/ImageGeneratorOptions)
abstract LlmInference.LlmInferenceOptions.Builder
setErrorListener(Listener ErrorListener)
ตั้งค่า Listener ข้อผิดพลาดให้เรียกใช้ด้วย API แบบไม่พร้อมกัน
abstract LlmInference.LlmInferenceOptions.Builder
setLoraPath(สตริง loraPath)
Absolute Path ที่นำไปยังแพ็กเกจเนื้อหาโมเดล LoRA ที่จัดเก็บไว้ในอุปกรณ์
abstract LlmInference.LlmInferenceOptions.Builder
setMaxTokens(int maxTokens)
กำหนดค่าจำนวนโทเค็นทั้งหมดสำหรับอินพุตและเอาต์พุต)
abstract LlmInference.LlmInferenceOptions.Builder
setModelPath(สตริง ModelPath)
กำหนดเส้นทางโมเดลสำหรับงานเครื่องมือสร้างข้อความ
abstract LlmInference.LlmInferenceOptions.Builder
setRandomSeed(intandomSeed)
กำหนดค่า Seed แบบสุ่มสำหรับโทเค็นการสุ่มตัวอย่าง
abstract LlmInference.LlmInferenceOptions.Builder
setResultListener(Listener ProgressListener<String>)
ตั้งค่า Listener ผลลัพธ์ให้เรียกใช้ด้วย API แบบไม่พร้อมกัน
abstract LlmInference.LlmInferenceOptions.Builder
setTemperature(อุณหภูมิแบบลอย)
กำหนดค่าการสุ่มเมื่อถอดรหัสโทเค็นถัดไป
abstract LlmInference.LlmInferenceOptions.Builder
setTopK(int topK)
กำหนดค่าจำนวนโทเค็น K สูงสุดที่จะนำมาใช้เป็นตัวอย่างสำหรับขั้นตอนการถอดรหัสแต่ละขั้นตอน

วิธีการที่รับช่วงมา

บริษัทก่อสร้าง

สาธารณะ เครื่องมือสร้าง ()

วิธีการสาธารณะ

สาธารณะ สุดท้าย LlmInference.LlmInferenceOptions build ()

ตรวจสอบและสร้างอินสแตนซ์ ERROR(/ImageGeneratorOptions)

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setErrorListener (ErrorListener Listener)

ตั้งค่า Listener ข้อผิดพลาดให้เรียกใช้ด้วย API แบบไม่พร้อมกัน

พารามิเตอร์
Listener

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)

Absolute Path ที่นำไปยังแพ็กเกจเนื้อหาโมเดล LoRA ที่จัดเก็บไว้ในอุปกรณ์ ฟีเจอร์นี้ใช้ได้กับรุ่น GPU เท่านั้น

พารามิเตอร์
loraPath

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)

กำหนดค่าจำนวนโทเค็นทั้งหมดสำหรับอินพุตและเอาต์พุต)

พารามิเตอร์
maxTokens

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setModelPath (String modelPath)

กำหนดเส้นทางโมเดลสำหรับงานเครื่องมือสร้างข้อความ

พารามิเตอร์
modelPath

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setRandomSeed (intandomSeed)

กำหนดค่า Seed แบบสุ่มสำหรับโทเค็นการสุ่มตัวอย่าง

พารามิเตอร์
randomSeed

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<String>Listener)

ตั้งค่า Listener ผลลัพธ์ให้เรียกใช้ด้วย API แบบไม่พร้อมกัน

พารามิเตอร์
Listener

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setTemperature (อุณหภูมิแบบลอย)

กำหนดค่าการสุ่มเมื่อถอดรหัสโทเค็นถัดไป ค่า 0.0f หมายถึงการถอดรหัสอย่างละโมบ ค่าเริ่มต้นคือ 0.8f

พารามิเตอร์
อุณหภูมิ

สาธารณะ นามธรรม LlmInference.LlmInferenceOptions.Builder setTopK (int topK)

กำหนดค่าจำนวนโทเค็น K สูงสุดที่จะนำมาใช้เป็นตัวอย่างสำหรับขั้นตอนการถอดรหัสแต่ละขั้นตอน ค่า 1 หมายถึงการถอดรหัสอย่างละโมบ ค่าเริ่มต้นคือ 40

พารามิเตอร์
topK