Interpreter.Options

公共静态类 Interpreter.Options

用于控制运行时解释器行为的选项类。

公共构造函数

公共方法

Interpreter.Options
addDelegate委托委托)
添加了要在创建解释器期间应用的 Delegate
Interpreter.Options
addDelegateFactory(DelegateFactory delegateFactory)
添加了一个 DelegateFactory,系统将调用它,以便在解释器创建期间应用其创建的 Delegate
Interpreter.Options
setAllowBufferHandleOutput(布尔值允许)
高级:设置是否允许输出缓冲区句柄。
Interpreter.Options
setAllowFp16PrecisionForFp32(布尔值允许)
此方法已废弃。最好使用 NnApiDelegate.Options#setAllowFp16(boolean enable)
Interpreter.Options
setCancellable(布尔值允许)
高级:设置是否可以取消翻译员。
Interpreter.Options
setNumThreads(int numThreads)
设置要用于支持多线程的操作的线程数。
Interpreter.Options
setRuntimeInterpreterApi.Options.TfLiteRuntime 运行时)
指定从何处获取 TF Lite 运行时实现。
Interpreter.Options
setUseNNAPI(布尔值 useNNAPI)
设置是否使用 NN API(如果有)进行运算。
Interpreter.Options
setUseXNNPACK(布尔值 useXNNPACK)
启用或停用一组经过优化的 CPU 内核(由 XNNPACK 提供)。

继承的方法

公共构造函数

public Options ()

public Options (InterpreterApi.Options options)

参数
选项

公共方法

public Interpreter.Options addDelegate (Delegate delegate)

添加了要在创建解释器期间应用的 Delegate

此处添加的委托会优先于通过 addDelegateFactory(DelegateFactory) 添加的 DelegateFactory 创建的任何委托。

请注意,Google Play 服务中的 TF Lite(请参阅 setRuntime(InterpreterApi.Options.TfLiteRuntime))不支持外部(开发者提供的)委托,在 Google Play 服务中使用 TF Lite 时,不允许在此处添加 ERROR(/NnApiDelegate) 以外的 Delegate

参数
delegate

public Interpreter.Options addDelegateFactory (DelegateFactory delegateFactory)

添加了 DelegateFactory,系统将调用它,以便在解释器创建期间应用其创建的 Delegate

在此处添加的委托工厂中的委托会在使用 addDelegate(Delegate) 添加任何委托之后应用。

参数
delegateFactory

public Interpreter.Options setAllowBufferHandleOutput (boolean allow)

高级:设置是否允许输出缓冲区句柄。

Delegate 支持硬件加速时,解释器将默认在 CPU 分配的张量缓冲区中提供输出张量的数据。如果客户端可以直接使用缓冲区句柄(例如,从 OpenGL 纹理读取输出),则可以将此标志设置为 false,从而避免数据复制到 CPU 缓冲区。代理文档应指明是否支持此功能以及如何使用该功能。

警告:这是一个实验性界面,可能会发生变化。

参数
allow

public Interpreter.Options setAllowFp16PrecisionForFp32 (boolean allow)

此方法已废弃
最好使用 NnApiDelegate.Options#setAllowFp16(boolean enable)

设置是否允许进行 float16 精度的 FP32 计算。默认值为 false(不允许)。

参数
allow

public Interpreter.Options setCancellable (boolean allow)

高级:设置是否可以取消翻译工具。

解释器可能具有实验性 API setCancelled(boolean)。如果此解释器可取消,并且调用了此类方法,则取消标志将设置为 true。解释器将在 Op 调用之间检查该标志;如果该值为 true,则解释器将停止执行。在 setCancelled(false) 明确“取消取消”之前,解释器将保持取消状态。

参数
allow

public Interpreter.Options setNumThreads (int numThreads)

设置要用于支持多线程的操作的线程数。

numThreads 应为 >= -1。将 numThreads 设置为 0 会停用多线程,相当于将 numThreads 设置为 1。如果未指定或设置为 -1 值,则使用的线程数将由实现定义并取决于平台。

参数
numThreads

public Interpreter.Options setRuntime InterpreterApi.Options.TfLiteRuntime 运行时)

指定从何处获取 TF Lite 运行时实现。

参数
运行时

public Interpreter.Options setUseNNAPI (boolean useNNAPI)

设置是否使用 NN API(如果有)进行运算。默认值为 false(已停用)。

参数
useNNAPI

public Interpreter.Options setUseXNNPACK (boolean useXNNPACK)

启用或停用一组经过优化的 CPU 内核(由 XNNPACK 提供)。默认处于启用状态。

参数
useXNNPACK