LlmInference.LlmInferenceOptions.Builder

genel statik soyut sınıf LlmInference.LlmInferenceOptions.Builder

LlmInference.LlmInferenceOptions için derleyici.

İnşaatçılar

Builder()

Herkese Açık Yöntemler

son LlmInference.LlmInferenceOptions
build()
ERROR(/ImageGeneratorOptions) örneğini doğrular ve oluşturur.
abstract LlmInference.LlmInferenceOptions.Builder
setErrorListener(ErrorListener işleyici)
Hata işleyiciyi eşzamansız API ile çağrılacak şekilde ayarlar.
abstract LlmInference.LlmInferenceOptions.Builder
setLoraPath(Dize loraPath)
Cihazda yerel olarak depolanan LoRA modeli öğe paketinin mutlak yolu.
abstract LlmInference.LlmInferenceOptions.Builder
setMaxTokens(int maxTokens)
Giriş ve çıkış için toplam jeton sayısını yapılandırır.
abstract LlmInference.LlmInferenceOptions.Builder
setModelPath(Dize modelPath)
Metin oluşturma aracı görevi için model yolunu ayarlar.
abstract LlmInference.LlmInferenceOptions.Builder
setRandomSeed(intRandomSeed)
Örnekleme jetonları için rastgele çekirdek yapılandırır.
abstract LlmInference.LlmInferenceOptions.Builder
setResultListener(ProgressListener<String> işleyici)
Sonuç işleyicinin eşzamansız API ile çağrılmasını ayarlar.
abstract LlmInference.LlmInferenceOptions.Builder
setTemperature(kayan sıcaklık)
Sonraki jetonun kodunu çözerken rastgeleliği yapılandırır.
abstract LlmInference.LlmInferenceOptions.Builder
setTopK(int topK)
Her kod çözme adımı için örneklenecek en yüksek K jeton sayısını yapılandırır.

Devralınan Yöntemler

İnşaatçılar

herkese açık Builder ()

Herkese Açık Yöntemler

herkese açık final LlmInference.LlmInferenceOptions derleme ()

ERROR(/ImageGeneratorOptions) örneğini doğrular ve oluşturur.

genel abstract LlmInference.LlmInferenceOptions.Builder setErrorListener (ErrorListener dinleyici)

Hata işleyiciyi eşzamansız API ile çağrılacak şekilde ayarlar.

Parametreler
işleyici

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)

Cihazda yerel olarak depolanan LoRA modeli öğe paketinin mutlak yolu. Bu özellik, yalnızca GPU modelleriyle uyumludur.

Parametreler
loraPath

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)

Giriş ve çıkış için toplam jeton sayısını yapılandırır.

Parametreler
maxTokens

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setModelPath (String modelPath)

Metin oluşturma aracı görevi için model yolunu ayarlar.

Parametreler
modelPath

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setRandomSeed (intRandomSeed)

Örnekleme jetonları için rastgele çekirdek yapılandırır.

Parametreler
randomSeed

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<Dize> işleyici)

Sonuç işleyicinin eşzamansız API ile çağrılmasını ayarlar.

Parametreler
işleyici

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setTemperature (kayan sıcaklık)

Sonraki jetonun kodunu çözerken rastgeleliği yapılandırır. 0.0f değeri, kod çözmeyi açmayla ifade eder. Varsayılan değer 0,8f'dir.

Parametreler
sıcaklık

herkese açık abstract LlmInference.LlmInferenceOptions.Builder setTopK (int topK)

Her kod çözme adımı için örneklenecek en yüksek K jeton sayısını yapılandırır. 1 değeri, kod çözmenin açgözlü olduğu anlamına gelir. Varsayılan değer 40'tır.

Parametreler
topK