LlmInference.LlmInferenceOptions.Builder

class abstrak statis publik LlmInference.LlmInferenceOptions.Builder

Konstruktor Publik

Metode Publik

final LlmInference.LlmInferenceOptions
build()
Memvalidasi dan mem-build instance ERROR(/ImageGeneratorOptions).
abstrak LlmInference.LlmInferenceOptions.Builder
setErrorListener(pemroses ErrorListener)
Menetapkan pemroses error yang akan dipanggil dengan API asinkron.
abstrak LlmInference.LlmInferenceOptions.Builder
setLoraPath(String loraPath)
Jalur absolut ke paket aset model LoRA yang disimpan secara lokal di perangkat.
abstrak LlmInference.LlmInferenceOptions.Builder
setMaxTokens(int maxTokens)
Mengonfigurasi jumlah total token untuk input dan output).
abstrak LlmInference.LlmInferenceOptions.Builder
setModelPath(String modelPath)
Menetapkan jalur model untuk tugas generator teks.
abstrak LlmInference.LlmInferenceOptions.Builder
setRandomSeed(int randomSeed)
Mengonfigurasi seed acak untuk token pengambilan sampel.
abstrak LlmInference.LlmInferenceOptions.Builder
setResultListener(ProgressListener<String> pemroses)
Menetapkan pemroses hasil yang akan dipanggil dengan API asinkron.
abstrak LlmInference.LlmInferenceOptions.Builder
setTemperature(suhu mengambang)
Mengonfigurasi keacakan saat mendekode token berikutnya.
abstrak LlmInference.LlmInferenceOptions.Builder
setTopK(int topK)
Mengonfigurasi token K teratas yang akan diambil sampelnya untuk setiap langkah decoding.

Metode Turunan

Konstruktor Publik

publik Builder ()

Metode Publik

public final LlmInference.LlmInferenceOptions build ()

Memvalidasi dan mem-build instance ERROR(/ImageGeneratorOptions).

publik abstrak LlmInference.LlmInferenceOptions.Builder setErrorListener (ErrorListener pemroses)

Menetapkan pemroses error yang akan dipanggil dengan API asinkron.

Parameter
pemroses

public abstrak LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)

Jalur absolut ke paket aset model LoRA yang disimpan secara lokal di perangkat. Opsi ini hanya kompatibel dengan model GPU.

Parameter
loraPath

publik abstract LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)

Mengonfigurasi jumlah total token untuk input dan output).

Parameter
maxTokens

public abstrak LlmInference.LlmInferenceOptions.Builder setModelPath (String modelPath)

Menetapkan jalur model untuk tugas generator teks.

Parameter
modelPath

publik abstract LlmInference.LlmInferenceOptions.Builder setRandomSeed (int randomSeed)

Mengonfigurasi seed acak untuk token pengambilan sampel.

Parameter
randomSeed

public abstrak LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<String> pemroses)

Menetapkan pemroses hasil yang akan dipanggil dengan API asinkron.

Parameter
pemroses

public abstrak LlmInference.LlmInferenceOptions.Builder setTemperature (suhu mengambang)

Mengonfigurasi keacakan saat mendekode token berikutnya. Nilai 0.0f berarti decoding serakah. Nilai defaultnya adalah 0,8f.

Parameter
suhu

public abstract LlmInference.LlmInferenceOptions.Builder setTopK (int topK)

Mengonfigurasi token K teratas yang akan diambil sampelnya untuk setiap langkah decoding. Nilai 1 berarti decoding yang serakah. Nilai defaultnya adalah 40.

Parameter
topK