Jetzt neu: LiteRT: Die leistungsstarke Laufzeit von Google für On-Device-KI, ehemals TensorFlow Lite.

Diese Seite wurde von der Cloud Translation API übersetzt.

LlmInference.LlmInferenceOptions.Builder

public static abstract class LlmInference.LlmInferenceOptions.Builder

Builder für LlmInference.LlmInferenceOptions.

Public Constructors

Builder()

Public Methods

Finale LlmInference.LlmInferenceOptions	build() Validiert und erstellt die `ERROR(/ImageGeneratorOptions)`-Instanz.
abstrakt LlmInference.LlmInferenceOptions.Builder	setErrorListener(ErrorListener-Listener) Legt den Fehler-Listener fest, der mit der asynchronen API aufgerufen werden soll.
abstrakt LlmInference.LlmInferenceOptions.Builder	setLoraPath(String loraPath) Der absolute Pfad zum Asset-Bundle für das LoRA-Modell, das lokal auf dem Gerät gespeichert ist.
abstrakt LlmInference.LlmInferenceOptions.Builder	setMaxTokens(int maxTokens) Konfiguriert die Gesamtzahl der Tokens für die Ein- und Ausgabe.
abstrakt LlmInference.LlmInferenceOptions.Builder	setModelPath(String modelPath) Legt den Modellpfad für die Textgeneratoraufgabe fest.
abstrakt LlmInference.LlmInferenceOptions.Builder	setRandomSeed(int randomSeed) Konfiguriert einen zufälligen Startwert für Stichprobentokens.
abstrakt LlmInference.LlmInferenceOptions.Builder	setResultListener(ProgressListener<String>-Listener) Legt den Ergebnis-Listener fest, der mit der asynchronen API aufgerufen werden soll.
abstrakt LlmInference.LlmInferenceOptions.Builder	setTemperature(Gleitkommatemperatur) Konfiguriert die Zufälligkeit beim Decodieren des nächsten Tokens.
abstrakt LlmInference.LlmInferenceOptions.Builder	setTopK(int topK) Konfiguriert die Top-K-Anzahl von Tokens, aus denen für jeden Decodierungsschritt eine Stichprobe erstellt werden soll.

Übernommene Methoden

Aus Klasse java.lang.Object

boolean	equals(Objekt arg0)
final Class<?>	getClass()
int	hashCode()
endgültig void	notify()
endgültig void	notifyAll()
String	toString()
endgültig void	wait(long arg0, int arg1)
endgültig void	wait(lange arg0)
endgültig void	wait()

Public Constructors

public Builder ()

Public Methods

public final LlmInference.LlmInferenceOptions build ()

Validiert und erstellt die ERROR(/ImageGeneratorOptions)-Instanz.

public abstrakt LlmInference.LlmInferenceOptions.Builder setErrorListener (ErrorListener-Listener)

Legt den Fehler-Listener fest, der mit der asynchronen API aufgerufen werden soll.

Parameter

Listener

public abstrakt LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)

Der absolute Pfad zum Asset-Bundle für das LoRA-Modell, das lokal auf dem Gerät gespeichert ist. Dies ist nur mit GPU-Modellen kompatibel.

Parameter

loraPath

public abstrakt LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)

Konfiguriert die Gesamtzahl der Tokens für die Ein- und Ausgabe.

Parameter

maxTokens

public abstrakt LlmInference.LlmInferenceOptions.Builder setModelPath (String modelPath)

Legt den Modellpfad für die Textgeneratoraufgabe fest.

Parameter

modelPath

public abstract LlmInference.LlmInferenceOptions.Builder setRandomSeed (int randomSeed)

Konfiguriert einen zufälligen Startwert für Stichprobentokens.

Parameter

randomSeed

public abstrakt LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<String>-Listener)

Legt den Ergebnis-Listener fest, der mit der asynchronen API aufgerufen werden soll.

Parameter

Listener

public abstrakt LlmInference.LlmInferenceOptions.Builder setTemperature (Float-Temperatur)

Konfiguriert die Zufälligkeit beim Decodieren des nächsten Tokens. Ein Wert von 0.0f bedeutet, dass die Decodierung ungeschickt ist. Der Standardwert ist 0,8f.

Parameter

Temperatur

public abstrakt LlmInference.LlmInferenceOptions.Builder setTopK (int topK)

Konfiguriert die Top-K-Anzahl von Tokens, aus denen für jeden Decodierungsschritt eine Stichprobe erstellt werden soll. Ein Wert von 1 bedeutet eine unersättliche Decodierung. Der Standardwert ist 40.

Parameter

topK