Builder untuk LlmInference.LlmInferenceOptions
.
Konstruktor Publik
Builder()
|
Metode Publik
final LlmInference.LlmInferenceOptions |
build()
Memvalidasi dan mem-build instance
ERROR(/ImageGeneratorOptions) . |
abstrak LlmInference.LlmInferenceOptions.Builder |
setErrorListener(pemroses ErrorListener)
Menetapkan pemroses error yang akan dipanggil dengan API asinkron.
|
abstrak LlmInference.LlmInferenceOptions.Builder |
setLoraPath(String loraPath)
Jalur absolut ke paket aset model LoRA yang disimpan secara lokal di perangkat.
|
abstrak LlmInference.LlmInferenceOptions.Builder |
setMaxTokens(int maxTokens)
Mengonfigurasi jumlah total token untuk input dan output).
|
abstrak LlmInference.LlmInferenceOptions.Builder | |
abstrak LlmInference.LlmInferenceOptions.Builder |
setRandomSeed(int randomSeed)
Mengonfigurasi seed acak untuk token pengambilan sampel.
|
abstrak LlmInference.LlmInferenceOptions.Builder |
setResultListener(ProgressListener<String> pemroses)
Menetapkan pemroses hasil yang akan dipanggil dengan API asinkron.
|
abstrak LlmInference.LlmInferenceOptions.Builder |
setTemperature(suhu mengambang)
Mengonfigurasi keacakan saat mendekode token berikutnya.
|
abstrak LlmInference.LlmInferenceOptions.Builder |
setTopK(int topK)
Mengonfigurasi token K teratas yang akan diambil sampelnya untuk setiap langkah decoding.
|
Metode Turunan
Konstruktor Publik
publik Builder ()
Metode Publik
public final LlmInference.LlmInferenceOptions build ()
Memvalidasi dan mem-build instance ERROR(/ImageGeneratorOptions)
.
publik abstrak LlmInference.LlmInferenceOptions.Builder setErrorListener (ErrorListener pemroses)
Menetapkan pemroses error yang akan dipanggil dengan API asinkron.
Parameter
pemroses |
---|
public abstrak LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)
Jalur absolut ke paket aset model LoRA yang disimpan secara lokal di perangkat. Opsi ini hanya kompatibel dengan model GPU.
Parameter
loraPath |
---|
publik abstract LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)
Mengonfigurasi jumlah total token untuk input dan output).
Parameter
maxTokens |
---|
public abstrak LlmInference.LlmInferenceOptions.Builder setModelPath (String modelPath)
Menetapkan jalur model untuk tugas generator teks.
Parameter
modelPath |
---|
publik abstract LlmInference.LlmInferenceOptions.Builder setRandomSeed (int randomSeed)
Mengonfigurasi seed acak untuk token pengambilan sampel.
Parameter
randomSeed |
---|
public abstrak LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<String> pemroses)
Menetapkan pemroses hasil yang akan dipanggil dengan API asinkron.
Parameter
pemroses |
---|
public abstrak LlmInference.LlmInferenceOptions.Builder setTemperature (suhu mengambang)
Mengonfigurasi keacakan saat mendekode token berikutnya. Nilai 0.0f berarti decoding serakah. Nilai defaultnya adalah 0,8f.
Parameter
suhu |
---|
public abstract LlmInference.LlmInferenceOptions.Builder setTopK (int topK)
Mengonfigurasi token K teratas yang akan diambil sampelnya untuk setiap langkah decoding. Nilai 1 berarti decoding yang serakah. Nilai defaultnya adalah 40.
Parameter
topK |
---|