LlmInference.LlmInferenceOptions.Builder

publiczna statyczna klasa abstrakcji LlmInference.LlmInferenceOptions.Builder

Kreator dla: LlmInference.LlmInferenceOptions.

Konstruktorzy publiczni

Konstruktor()

Metody publiczne

final LlmInference.LlmInferenceOptions	build() Weryfikuje i buduje instancję `ERROR(/ImageGeneratorOptions)`.
abstract LlmInference.LlmInferenceOptions.Builder	setErrorListener(detektor ErrorListener) Ustawia detektor błędów do wywoływania za pomocą asynchronicznego interfejsu API.
abstract LlmInference.LlmInferenceOptions.Builder	setLoraPath(ciąg znaków loraPath) Ścieżka bezwzględna do pakietu zasobów modelu LoRA zapisanego lokalnie na urządzeniu.
abstract LlmInference.LlmInferenceOptions.Builder	setMaxTokens(int maxTokens), Konfiguruje łączną liczbę tokenów danych wejściowych i wyjściowych.
abstract LlmInference.LlmInferenceOptions.Builder	setModelPath(ciąg znaków modelPath) Ustawia ścieżkę modelu dla zadania generatora tekstu.
abstract LlmInference.LlmInferenceOptions.Builder	setRandomSeed(w randomSeed) Konfiguruje losową wartość początkową tokenów próbkowania.
abstract LlmInference.LlmInferenceOptions.Builder	setResultListener(detektor ProgressListener<ciąg znaków>) Ustawia detektor wyników do wywoływania za pomocą asynchronicznego interfejsu API.
abstract LlmInference.LlmInferenceOptions.Builder	setTemperature(temperatura zmiennoprzecinkowa) Konfiguruje losowość podczas dekodowania następnego tokena.
abstract LlmInference.LlmInferenceOptions.Builder	setTopK(int topK) Konfiguruje maksymalną liczbę (K) tokenów, z których mają być próbkowane dane w każdym kroku dekodowania.

Metody dziedziczone

Z klasy java.lang.Object

boolean	równa się(Object arg0)
final Class<?>	getClass()
int	hashCode()
final void	notify()
final void	notifyAll()
String	toString()
final void	wait(long arg0, int arg1)
final void	wait(long arg0)
final void	czas()

Konstruktorzy publiczni

public Builder ()

Metody publiczne

public final LlmInference.LlmInferenceOptions build ()

Weryfikuje i buduje instancję ERROR(/ImageGeneratorOptions).

public abstract LlmInference.LlmInferenceOptions.Builder setErrorListener (detektor ErrorListener)

Ustawia detektor błędów do wywoływania za pomocą asynchronicznego interfejsu API.

Parametry

detektor

public abstract LlmInference.LlmInferenceOptions.Builder setLoraPath (ciąg loraPath)

Ścieżka bezwzględna do pakietu zasobów modelu LoRA zapisanego lokalnie na urządzeniu. Ta funkcja jest zgodna tylko z modelami GPU.

Parametry

loraPath

public abstract LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)

Konfiguruje łączną liczbę tokenów danych wejściowych i wyjściowych.

Parametry

maxTokens

public abstract LlmInference.LlmInferenceOptions.Builder setModelPath (ciąg modelPath)

Ustawia ścieżkę modelu dla zadania generatora tekstu.

Parametry

modelPath

public abstract LlmInference.LlmInferenceOptions.Builder setRandomSeed (w randomSeed)

Konfiguruje losową wartość początkową tokenów próbkowania.

Parametry

randomSeed

public abstract LlmInference.LlmInferenceOptions.Builder setResultListener (detektor ProgressListener<String>)

Ustawia detektor wyników do wywoływania za pomocą asynchronicznego interfejsu API.

Parametry

detektor

public abstract LlmInference.LlmInferenceOptions.Builder setTemperature (temperatura zmiennoprzecinkowa)

Konfiguruje losowość podczas dekodowania następnego tokena. Wartość 0,0f oznacza dekodowanie zachłanne. Wartość domyślna to 0,8f.

Parametry

temperatura

public abstract LlmInference.LlmInferenceOptions.Builder setTopK (int topK)

Konfiguruje maksymalną liczbę (K) tokenów, z których mają być próbkowane dane w każdym kroku dekodowania. Wartość 1 oznacza dekodowanie zachłanne. Wartością domyślną jest 40.

Parametry

topK