Ti presentiamo Google AI Edge Portal: esegui il benchmarking dell'IA di Edge su larga scala. Registrati per richiedere l'accesso durante l'anteprima privata.

Questa pagina è stata tradotta dall'API Cloud Translation.

GpuDelegateFactory.Options

classe statica pubblica GpuDelegateFactory.Options

Sottoclassi dirette note

GpuDelegate.Options

Delega opzioni.

Corsi nidificati

enum GpuDelegateFactory.Options.GpuBackend Il backend GPU da selezionare.

Costanti

int	INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER	Il delegato verrà utilizzato una sola volta, pertanto il tempo di bootstrap/init deve essere preso in considerazione.
int	INFERENCE_PREFERENCE_SUSTAINED_SPEED	Preferisco massimizzare la velocità effettiva.

Costruttori pubblici

Opzioni()

Metodi pubblici

boolean	areQuantizedModelsAllowed()
GpuDelegateFactory.Options.GpuBackend	getForceBackend()
int	getInferencePreference()
String	getModelToken()
String	getSerializationDir()
boolean	isPrecisionLossAllowed()
GpuDelegateFactory.Options	setForceBackend(GpuDelegateFactory.Options.GpuBackend forceBackend) Imposta il backend della GPU.
GpuDelegateFactory.Options	setInferencePreference(preferenza inte) Imposta la preferenza di inferenza per i compromessi precisione/compilazione/runtime.
GpuDelegateFactory.Options	setPrecisionLossAllowed(booleani precisioneLossAllowed) Consente di impostare se la perdita di precisione è consentita.
GpuDelegateFactory.Options	setQuantizedModelsAllowed(booleano quantizedModelsAllowed) Abilita l'esecuzione di modelli quantiizzati con il delegato.
GpuDelegateFactory.Options	setSerializationParams(String serializationDir, String modelToken) Abilita la serializzazione sul delegato.

Metodi ereditati

Dalla classe java.lang.Object

boolean	uguale a(Object arg0)
final Corso<?>	getClass()
int	hashCode()
finale void	notify()
finale void	notifyAll()
String	toString()
finale void	wait(long arg0, int arg1)
finale void	wait(long arg0)
finale void	wait()

Costanti

pubblica statica finale int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

Il delegato verrà utilizzato una sola volta, pertanto il tempo di bootstrap/init deve essere preso in considerazione.

Valore costante: 0

pubblico statico finale int INFERENCE_PREFERENCE_SUSTAINED_SPEED

Preferisco massimizzare la velocità effettiva. Lo stesso delegato verrà utilizzato ripetutamente su più input.

Valore costante: 1

Costruttori pubblici

pubblica Opzioni ()

Metodi pubblici

Public booleano areQuantizedModelsAllowed ()

pubblici GpuDelegateFactory.Options.GpuBackend getForceBackend ()

pubblica int getInferencePreference ()

Public String getModelToken ()

pubblici Stringa getSerializationDir ()

Public booleano isPrecisionLossAllowed ()

pubblici GpuDelegateFactory.Options setForceBackend (GpuDelegateFactory.Options.GpuBackend forceBackend)

Imposta il backend della GPU.

Parametri

forceBackend

pubblici GpuDelegateFactory.Options setInferencePreference (preferenza int)

Imposta la preferenza di inferenza per i compromessi precisione/compilazione/runtime.

Parametri

preferenza	Uno dei valori "INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER" (impostazione predefinita), "INFERENCE_PREFERENCE_SUSTAINED_SPEED".

pubblici GpuDelegateFactory.Options setPrecisionLossAllowed (boolean precisionLossAllowed)

Consente di impostare se la perdita di precisione è consentita.

Parametri

precisionLossAllowed	Quando "true" (impostazione predefinita), la GPU può quantificare i tensori, i valori downcast e l'elaborazione in FP16. Quando il valore è "false", i calcoli vengono eseguiti in virgola mobile a 32 bit.

Public GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)

Abilita l'esecuzione di modelli quantiizzati con il delegato.

AVVISO: si tratta di un'API sperimentale ed è soggetta a modifiche.

Parametri

quantizedModelsAllowed	Quando il valore predefinito è `true`, la GPU può eseguire modelli quantizzati.

Public GpuDelegateFactory.Options setSerializationParams (String serializationDir, String modelToken)

Abilita la serializzazione sul delegato. Tieni presente che i valori serializationDir e modelToken non null sono obbligatori per la serializzazione.

AVVISO: si tratta di un'API sperimentale ed è soggetta a modifiche.

Parametri

serializationDir	La directory da utilizzare per l'archiviazione dei dati. Il chiamante è responsabile di garantire che il modello non sia archiviato in una directory pubblica. È consigliabile utilizzare `Context.getCodeCacheDir()` per fornire una posizione privata per l'applicazione su Android.
modelToken	Il token da utilizzare per identificare il modello. Il chiamante è responsabile di garantire che il token sia univoco per il grafico e i dati del modello.