公開靜態類別
GpuDelegateFactory.Options
已知的直接子類別 |
委派選項。
巢狀類別
列舉 | GpuDelegateFactory.Options.GpuBackend | 要選取的 GPU 後端。 |
常數
int | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | 委派只能使用一次,因此應將啟動/初始化時間納入考量。 |
int | INFERENCE_PREFERENCE_SUSTAINED_SPEED | 偏好盡可能提高處理量。 |
公用建構函式
選項()
|
公用方法
布林值 | |
GpuDelegateFactory.Options.GpuBackend | |
int | |
字串 | |
字串 | |
布林值 | |
GpuDelegateFactory.Options | |
GpuDelegateFactory.Options |
setInferencePreference(int 偏好設定)
設定精確度/編譯/執行階段的取捨的推論偏好設定。
|
GpuDelegateFactory.Options |
setPrecisionLossAllowed(boolean densityLossAllowed)
設定是否允許精確度損失。
|
GpuDelegateFactory.Options |
setQuantizedModelsAllowed(boolean quantizedModelsAllowed)
可透過委派執行量化模型。
|
GpuDelegateFactory.Options |
繼承的方法
常數
公開 靜態最終版 int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
委派只能使用一次,因此應將啟動/初始化時間納入考量。
常數值:
0
公開 靜態最終版 int INFERENCE_PREFERENCE_SUSTAINED_SPEED
偏好盡可能提高處理量。系統會針對多項輸入內容重複使用相同的委派。
常數值:
1
公用建構函式
public 選項 ()
公用方法
public 布林值 areQuantizedModelsAllowed ()
public int getInferencePreference ()
public 布林值 isPrecisionLossAllowed ()
public GpuDelegateFactory.Options setForceBackend (GpuDelegateFactory.Options.GpuBackend forceBackend)
設定 GPU 後端。
參數
forceBackend |
---|
public GpuDelegateFactory.Options setInferencePreference (int 偏好設定)
設定精確度/編譯/執行階段的取捨的推論偏好設定。
參數
偏好設定 | 可以是「INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER」(預設),「INFERENCE_PREFERENCE_SUSTAINED_SPEED」。 |
---|
public GpuDelegateFactory.Options setPrecisionLossAllowed (boolean precisionLossAllowed)
設定是否允許精確度損失。
參數
precisionLossAllowed | 如果為「true」(預設值),GPU 可能會量化張量、向下移值值,並在 FP16 中處理。設為「false」時,運算作業會在 32 位元浮點中執行。 |
---|
public GpuDelegateFactory.Options setQuantizedModelsAllowed (boolean quantizedModelsAllowed)
可透過委派執行執行量化模型。
警告:這是實驗性 API,可能隨時會有變動。
參數
quantizedModelsAllowed | 如果設為 true (預設值),GPU 可能會執行量化模型。 |
---|
public GpuDelegateFactory.Options setSerializationParams (String serializationDir, String modelToken)
啟用委派的序列化作業。請注意,非空值的 serializationDir
和 modelToken
須進行序列化。
警告:這是實驗性 API,可能隨時會有變動。
參數
serializationDir | 用來儲存資料的目錄。呼叫端負責確保模型未儲存在公開目錄中。建議使用 Context.getCodeCacheDir() ,為 Android 裝置上的應用程式提供不公開位置。 |
---|---|
modelToken | 要用於識別模型的符記。呼叫端負責確保權杖專屬於模型圖表和資料。 |