GpuDelegateFactory.Options

publiczna klasa statyczna GpuDelegateFactory.Options
Znane podklasy bezpośrednie

Opcje przekazywania dostępu.

Zagnieżdżone klasy

enum | typ wyliczeniowy GpuDelegateFactory.Options.GpuBackend Backend GPU, który chcesz wybrać. 

Stałe

int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER Przekazywanie dostępu jest używane tylko raz, dlatego należy wziąć pod uwagę czas wczytywania i uruchamiania.
int INFERENCE_PREFERENCE_SUSTAINED_SPEED Wolę zmaksymalizować przepustowość.

Konstruktorzy publiczni

Opcje()

Metody publiczne

boolean
areQuantizedModelsAllowed()
GpuDelegateFactory.Options.GpuBackend
getForceBackend()
int
getInferencePreference(),
String
getModelToken(),
String
getSerializationDir()
boolean
isPrecisionLossAllowed()
GpuDelegateFactory.Options
setForceBackend(GpuDelegateFactory.Options.GpuBackend forceBackend)
Ustawia backend GPU.
GpuDelegateFactory.Options
setInferencePreference(preferencje integrujące).
Ustawia preferencje wnioskowania na potrzeby kompilacji w zakresie precyzji, kompilacji i czasu działania.
GpuDelegateFactory.Options
setPrecisionLossAllowed(wartość logicznego rodzaju precyzji LossAllowed)
Określa, czy dozwolona jest utrata precyzji.
GpuDelegateFactory.Options
setQuantizedModelsAllowed(wartość logiczna quantizedModelsAllowed)
Umożliwia uruchamianie modeli poddanych kwantyzacji z użyciem delegata.
GpuDelegateFactory.Options
setSerializationParams(String serializationDir, String modelToken)
Umożliwia serializację na przedstawicieli.

Metody dziedziczone

Stałe

public static final int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

Przekazywanie dostępu jest używane tylko raz, dlatego należy wziąć pod uwagę czas wczytywania i uruchamiania.

Wartość stała: 0

public static final int INFERENCE_PREFERENCE_SUSTAINED_SPEED

Wolę zmaksymalizować przepustowość. Ta sama osoba z przekazanym dostępem będzie używana wielokrotnie na różnych wejściach.

Wartość stała: 1

Konstruktorzy publiczni

public Opcje ()

Metody publiczne

public boolean areQuantizedModelsAllowed ()

public GpuDelegateFactory.Options.GpuBackend getForceBackend ()

public int getInferencePreference ()

public Ciąg getModelToken ()

public Ciąg getSerializationDir ()

public boolean isPrecisionLossAllowed ()

public GpuDelegateFactory.Options setForceBackend (GpuDelegateFactory.Options.GpuBackend forceBackend)

Ustawia backend GPU.

Parametry
forceBackend

public GpuDelegateFactory.Options setInferencePreference (int preferred)

Ustawia preferencje wnioskowania na potrzeby kompilacji w zakresie precyzji, kompilacji i czasu działania.

Parametry
preferencja Jedna z wartości „INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER” (domyślna), „INFERENCE_PREFERENCE_SUSTAINED_SPEED”.

public GpuDelegateFactory.Options setPrecisionLossAllowed (boolean precisionLossAllowed)

Określa, czy dozwolona jest utrata precyzji.

Parametry
precisionLossAllowed<