Interpreter.Options

общедоступный статический класс Interpreter.Options

Класс опций для управления поведением интерпретатора во время выполнения.

Публичные конструкторы

Публичные методы

Интерпретатор.Опции
addDelegate (Делегировать делегат )
Добавляет Delegate , который будет применяться во время создания интерпретатора.
Интерпретатор.Опции
addDelegateFactory ( Делегатефабрика делегата)
Добавляет DelegateFactory , который будет вызываться для применения созданного Delegate во время создания интерпретатора.
Интерпретатор.Опции
setAllowBufferHandleOutput (логическое значение разрешения)
Дополнительно: установите, разрешен ли вывод дескриптора буфера.
Интерпретатор.Опции
setAllowFp16PrecisionForFp32 (логическое разрешение)
Этот метод устарел. Предпочитаю использовать NnApiDelegate.Options#setAllowFp16(boolean Enable) .
Интерпретатор.Опции
setCancellable (логическое разрешение)
Дополнительно: Установите, если переводчик может быть отменен.
Интерпретатор.Опции
setNumThreads (int numThreads)
Устанавливает количество потоков, которые будут использоваться для операций, поддерживающих многопоточность.
Интерпретатор.Опции
setRuntime (среда выполнения InterpreterApi.Options.TfLiteRuntime )
Укажите, откуда взять реализацию среды выполнения TF Lite.
Интерпретатор.Опции
setUseNNAPI (логическое значение useNNAPI)
Устанавливает, использовать ли NN API (если доступен) для выполнения операции.
Интерпретатор.Опции
setUseXNNPACK (логическое значение useXNNPACK)
Включите или отключите оптимизированный набор ядер ЦП (предоставленный XNNPACK).

Унаследованные методы

Публичные конструкторы

общедоступные параметры ()

общедоступные параметры (параметры InterpreterApi.Options )

Параметры
параметры

Публичные методы

public Interpreter.Options addDelegate ( Делегировать делегат)

Добавляет Delegate , который будет применяться во время создания интерпретатора.

Добавленные здесь делегаты применяются до любых делегатов, созданных из DelegateFactory , добавленного с помощью addDelegateFactory(DelegateFactory) .

Обратите внимание, что TF Lite в Сервисах Google Play (см. setRuntime(InterpreterApi.Options.TfLiteRuntime) ) не поддерживает внешние (предоставленные разработчиком) делегаты, и добавление здесь Delegate , отличного от ERROR(/NnApiDelegate) , не допускается при использовании TF Lite в Сервисы Google Play.

Параметры
делегат

public Interpreter.Options addDelegateFactory ( DelegateFactory DelegateFactory)

Добавляет DelegateFactory , который будет вызываться для применения созданного Delegate во время создания интерпретатора.

Делегаты из добавленной здесь делегированной фабрики применяются после добавления любых делегатов с помощью addDelegate(Delegate) .

Параметры
делегатфабрика

public Interpreter.Options setAllowBufferHandleOutput (логическое разрешение)

Дополнительно: установите, разрешен ли вывод дескриптора буфера.

Если Delegate поддерживает аппаратное ускорение, интерпретатор по умолчанию сделает данные выходных тензоров доступными в тензорных буферах, выделенных ЦП. Если клиент может использовать дескриптор буфера напрямую (например, считывая выходные данные текстуры OpenGL), он может установить для этого флага значение false, избегая копирования данных в буфер ЦП. В документации делегата должно быть указано, поддерживается ли это и как это можно использовать.

ВНИМАНИЕ: это экспериментальный интерфейс, который может быть изменен.

Параметры
позволять

public Interpreter.Options setAllowFp16PrecisionForFp32 (логическое разрешение)

Этот метод устарел .
Предпочитаю использовать NnApiDelegate.Options#setAllowFp16(boolean Enable) .

Устанавливает, разрешать ли точность float16 для вычислений FP32, когда это возможно. По умолчанию установлено значение false (запретить).

Параметры
позволять

public Interpreter.Options setCancellable (логическое разрешение)

Дополнительно: Установите, если переводчик может быть отменен.

Интерпретаторы могут иметь экспериментальный API setCancelled(boolean) . Если этот интерпретатор является отменяемым и вызывается такой метод, флаг отмены будет установлен в значение true. Интерпретатор будет проверять флаг между вызовами Op, и если он равен true , интерпретатор остановит выполнение. Интерпретатор будет оставаться в отмененном состоянии до тех пор, пока он не будет явно «отменен» с помощью setCancelled(false) .

Параметры
позволять

общедоступный Interpreter.Options setNumThreads (int numThreads)

Устанавливает количество потоков, которые будут использоваться для операций, поддерживающих многопоточность.

numThreads должно быть >= -1 . Установка для numThreads значения 0 приводит к отключению многопоточности, что эквивалентно установке для numThreads значения 1. Если значение не указано или установлено значение -1, количество используемых потоков будет определяться реализацией и зависеть от платформы.

Параметры
numThreads

общедоступный Interpreter.Options setRuntime (среда выполнения InterpreterApi.Options.TfLiteRuntime )

Укажите, откуда взять реализацию среды выполнения TF Lite.

Параметры
время выполнения

общедоступный Interpreter.Options setUseNNAPI (логическое значение useNNAPI)

Устанавливает, использовать ли NN API (если доступен) для выполнения операции. По умолчанию значение false (отключено).

Параметры
использоватьNNAPI

общедоступный Interpreter.Options setUseXNNPACK (логическое значение useXNNPACK)

Включите или отключите оптимизированный набор ядер ЦП (предоставленный XNNPACK). Включено по умолчанию.

Параметры
использовать XNNPACK