用于控制运行时解释器行为的选项类。
公共构造函数
Options()
|
|
公共方法
Interpreter.Options | |
Interpreter.Options |
addDelegateFactory(DelegateFactory delegateFactory)
添加了一个
DelegateFactory ,系统将调用它,以便在解释器创建期间应用其创建的 Delegate 。 |
Interpreter.Options |
setAllowBufferHandleOutput(布尔值允许)
高级:设置是否允许输出缓冲区句柄。
|
Interpreter.Options |
setAllowFp16PrecisionForFp32(布尔值允许)
此方法已废弃。最好使用 NnApiDelegate.Options#setAllowFp16(boolean enable)。
|
Interpreter.Options |
setCancellable(布尔值允许)
高级:设置是否可以取消翻译员。
|
Interpreter.Options |
setNumThreads(int numThreads)
设置要用于支持多线程的操作的线程数。
|
Interpreter.Options | |
Interpreter.Options |
setUseNNAPI(布尔值 useNNAPI)
设置是否使用 NN API(如果有)进行运算。
|
Interpreter.Options |
setUseXNNPACK(布尔值 useXNNPACK)
启用或停用一组经过优化的 CPU 内核(由 XNNPACK 提供)。
|
继承的方法
公共构造函数
public Options ()
公共方法
public Interpreter.Options addDelegate (Delegate delegate)
添加了要在创建解释器期间应用的 Delegate
。
此处添加的委托会优先于通过 addDelegateFactory(DelegateFactory)
添加的 DelegateFactory
创建的任何委托。
请注意,Google Play 服务中的 TF Lite(请参阅 setRuntime(InterpreterApi.Options.TfLiteRuntime)
)不支持外部(开发者提供的)委托,在 Google Play 服务中使用 TF Lite 时,不允许在此处添加 ERROR(/NnApiDelegate)
以外的 Delegate
。
参数
delegate |
---|
public Interpreter.Options addDelegateFactory (DelegateFactory delegateFactory)
添加了 DelegateFactory
,系统将调用它,以便在解释器创建期间应用其创建的 Delegate
。
在此处添加的委托工厂中的委托会在使用 addDelegate(Delegate)
添加任何委托之后应用。
参数
delegateFactory |
---|
public Interpreter.Options setAllowBufferHandleOutput (boolean allow)
高级:设置是否允许输出缓冲区句柄。
当 Delegate
支持硬件加速时,解释器将默认在 CPU 分配的张量缓冲区中提供输出张量的数据。如果客户端可以直接使用缓冲区句柄(例如,从 OpenGL 纹理读取输出),则可以将此标志设置为 false,从而避免数据复制到 CPU 缓冲区。代理文档应指明是否支持此功能以及如何使用该功能。
警告:这是一个实验性界面,可能会发生变化。
参数
allow |
---|
public Interpreter.Options setAllowFp16PrecisionForFp32 (boolean allow)
此方法已废弃。
最好使用 NnApiDelegate.Options#setAllowFp16(boolean enable)。
设置是否允许进行 float16 精度的 FP32 计算。默认值为 false(不允许)。
参数
allow |
---|
public Interpreter.Options setCancellable (boolean allow)
高级:设置是否可以取消翻译工具。
解释器可能具有实验性 API setCancelled(boolean)。如果此解释器可取消,并且调用了此类方法,则取消标志将设置为 true。解释器将在 Op 调用之间检查该标志;如果该值为 true
,则解释器将停止执行。在 setCancelled(false)
明确“取消取消”之前,解释器将保持取消状态。
参数
allow |
---|
public Interpreter.Options setNumThreads (int numThreads)
设置要用于支持多线程的操作的线程数。
numThreads
应为 >= -1
。将 numThreads
设置为 0 会停用多线程,相当于将 numThreads
设置为 1。如果未指定或设置为 -1 值,则使用的线程数将由实现定义并取决于平台。
参数
numThreads |
---|
public Interpreter.Options setRuntime (InterpreterApi.Options.TfLiteRuntime 运行时)
指定从何处获取 TF Lite 运行时实现。
参数
运行时 |
---|
public Interpreter.Options setUseNNAPI (boolean useNNAPI)
设置是否使用 NN API(如果有)进行运算。默认值为 false(已停用)。
参数
useNNAPI |
---|
public Interpreter.Options setUseXNNPACK (boolean useXNNPACK)
启用或停用一组经过优化的 CPU 内核(由 XNNPACK 提供)。默认处于启用状态。
参数
useXNNPACK |
---|