GpuDelegateFactory.Options

公開靜態類別 GpuDelegateFactory.Options
已知的直接子類別

委派選項。

巢狀類別

列舉 GpuDelegateFactory.Options.GpuBackend 要選取的 GPU 後端。

常數

int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER 委派只能使用一次，因此應將啟動/初始化時間納入考量。
int INFERENCE_PREFERENCE_SUSTAINED_SPEED 偏好盡可能提高處理量。

公用建構函式

選項()

公用方法

布林值
areQuantizedModelsAllowed()
GpuDelegateFactory.Options.GpuBackend
getForceBackend()
int
getInferencePreference()
字串
getModelToken()
字串
getSerializationDir()
布林值
isPrecisionLossAllowed()
GpuDelegateFactory.Options
setForceBackend(GpuDelegateFactory.Options.GpuBackend forceBackend)
設定 GPU 後端。
GpuDelegateFactory.Options
setInferencePreference(int 偏好設定)
設定精確度/編譯/執行階段的取捨的推論偏好設定。
GpuDelegateFactory.Options
setPrecisionLossAllowed(boolean densityLossAllowed)
設定是否允許精確度損失。
GpuDelegateFactory.Options
setQuantizedModelsAllowed(boolean quantizedModelsAllowed)
可透過委派執行量化模型。
GpuDelegateFactory.Options
setSerializationParams(String serializationDir, String modelToken)
啟用委派的序列化作業。

繼承的方法

常數

公開 靜態最終版 int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER

委派只能使用一次，因此應將啟動/初始化時間納入考量。

常數值： 0

公開 靜態最終版 int INFERENCE_PREFERENCE_SUSTAINED_SPEED

偏好盡可能提高處理量。系統會針對多項輸入內容重複使用相同的委派。

常數值： 1

公用建構函式

public 選項 ()

公用方法

public 布林值 areQuantizedModelsAllowed ()

public GpuDelegateFactory.Options.GpuBackend getForceBackend ()

public int getInferencePreference ()

public String getModelToken ()

public String getSerializationDir ()

public 布林值 isPrecisionLossAllowed ()

public GpuDelegateFactory.Options setForceBackend (GpuDelegateFactory.Options.GpuBackend forceBackend)

設定 GPU 後端。

參數
forceBackend

public GpuDelegateFactory.Options setInferencePreference (int 偏好設定)

設定精確度/編譯/執行階段的取捨的推論偏好設定。

參數
偏好設定 可以是「INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER」(預設)，「INFERENCE_PREFERENCE_SUSTAINED_SPEED」。

public GpuDelegateFactory.Options setPrecisionLossAllowed (boolean precisionLossAllowed)

設定是否允許精確度損失。

參數
precisionLossAllowed 如果為「true」(預設值)，GPU 可能會量化張量、向下移值值，並在 FP16 中處理。設為「false」時，運算作業會在 32 位元浮點中執行。

public GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)

可透過委派執行執行量化模型。

警告：這是實驗性 API，可能隨時會有變動。

參數
quantizedModelsAllowed 如果設為 true (預設值)，GPU 可能會執行量化模型。

public GpuDelegateFactory.Options setSerializationParams (String serializationDir, String modelToken)

啟用委派的序列化作業。請注意，非空值的 serializationDir 和 modelToken 須進行序列化。

警告：這是實驗性 API，可能隨時會有變動。

參數
serializationDir 用來儲存資料的目錄。呼叫端負責確保模型未儲存在公開目錄中。建議使用 Context.getCodeCacheDir()，為 Android 裝置上的應用程式提供不公開位置。
modelToken 要用於識別模型的符記。呼叫端負責確保權杖專屬於模型圖表和資料。