Класс опций для управления поведением интерпретатора во время выполнения.
Публичные конструкторы
Параметры () | |
Параметры (параметры InterpreterApi.Options ) |
Публичные методы
Интерпретатор.Опции | addDelegate (Делегировать делегат ) Добавляет Delegate , который будет применяться во время создания интерпретатора. |
Интерпретатор.Опции | addDelegateFactory ( Делегатефабрика делегата) Добавляет DelegateFactory , который будет вызываться для применения созданного Delegate во время создания интерпретатора. |
Интерпретатор.Опции | setAllowBufferHandleOutput (логическое значение разрешения) Дополнительно: установите, разрешен ли вывод дескриптора буфера. |
Интерпретатор.Опции | setAllowFp16PrecisionForFp32 (логическое разрешение) Этот метод устарел. Предпочитаю использовать NnApiDelegate.Options#setAllowFp16(boolean Enable) . |
Интерпретатор.Опции | setCancellable (логическое разрешение) Дополнительно: Установите, если переводчик может быть отменен. |
Интерпретатор.Опции | setNumThreads (int numThreads) Устанавливает количество потоков, которые будут использоваться для операций, поддерживающих многопоточность. |
Интерпретатор.Опции | setRuntime (среда выполнения InterpreterApi.Options.TfLiteRuntime ) Укажите, откуда взять реализацию среды выполнения TF Lite. |
Интерпретатор.Опции | setUseNNAPI (логическое значение useNNAPI) Устанавливает, использовать ли NN API (если доступен) для выполнения операции. |
Интерпретатор.Опции | setUseXNNPACK (логическое значение useXNNPACK) Включите или отключите оптимизированный набор ядер ЦП (предоставленный XNNPACK). |
Унаследованные методы
Публичные конструкторы
общедоступные параметры ()
Публичные методы
public Interpreter.Options addDelegate ( Делегировать делегат)
Добавляет Delegate
, который будет применяться во время создания интерпретатора.
Добавленные здесь делегаты применяются до любых делегатов, созданных из DelegateFactory
, добавленного с помощью addDelegateFactory(DelegateFactory)
.
Обратите внимание, что TF Lite в Сервисах Google Play (см. setRuntime(InterpreterApi.Options.TfLiteRuntime)
) не поддерживает внешние (предоставленные разработчиком) делегаты, и добавление здесь Delegate
, отличного от ERROR(/NnApiDelegate)
, не допускается при использовании TF Lite в Сервисы Google Play.
Параметры
делегат |
---|
public Interpreter.Options addDelegateFactory ( DelegateFactory DelegateFactory)
Добавляет DelegateFactory
, который будет вызываться для применения созданного Delegate
во время создания интерпретатора.
Делегаты из добавленной здесь делегированной фабрики применяются после добавления любых делегатов с помощью addDelegate(Delegate)
.
Параметры
делегатфабрика |
---|
public Interpreter.Options setAllowBufferHandleOutput (логическое разрешение)
Дополнительно: установите, разрешен ли вывод дескриптора буфера.
Если Delegate
поддерживает аппаратное ускорение, интерпретатор по умолчанию сделает данные выходных тензоров доступными в тензорных буферах, выделенных ЦП. Если клиент может использовать дескриптор буфера напрямую (например, считывая выходные данные текстуры OpenGL), он может установить для этого флага значение false, избегая копирования данных в буфер ЦП. В документации делегата должно быть указано, поддерживается ли это и как это можно использовать.
ВНИМАНИЕ: это экспериментальный интерфейс, который может быть изменен.
Параметры
позволять |
---|
public Interpreter.Options setAllowFp16PrecisionForFp32 (логическое разрешение)
Этот метод устарел .
Предпочитаю использовать NnApiDelegate.Options#setAllowFp16(boolean Enable) .
Устанавливает, разрешать ли точность float16 для вычислений FP32, когда это возможно. По умолчанию установлено значение false (запретить).
Параметры
позволять |
---|
public Interpreter.Options setCancellable (логическое разрешение)
Дополнительно: Установите, если переводчик может быть отменен.
Интерпретаторы могут иметь экспериментальный API setCancelled(boolean) . Если этот интерпретатор является отменяемым и вызывается такой метод, флаг отмены будет установлен в значение true. Интерпретатор будет проверять флаг между вызовами Op, и если он равен true
, интерпретатор остановит выполнение. Интерпретатор будет оставаться в отмененном состоянии до тех пор, пока он не будет явно «отменен» с помощью setCancelled(false)
.
Параметры
позволять |
---|
общедоступный Interpreter.Options setNumThreads (int numThreads)
Устанавливает количество потоков, которые будут использоваться для операций, поддерживающих многопоточность.
numThreads
должно быть >= -1
. Установка для numThreads
значения 0 приводит к отключению многопоточности, что эквивалентно установке для numThreads
значения 1. Если значение не указано или установлено значение -1, количество используемых потоков будет определяться реализацией и зависеть от платформы.
Параметры
numThreads |
---|
общедоступный Interpreter.Options setRuntime (среда выполнения InterpreterApi.Options.TfLiteRuntime )
Укажите, откуда взять реализацию среды выполнения TF Lite.
Параметры
время выполнения |
---|
общедоступный Interpreter.Options setUseNNAPI (логическое значение useNNAPI)
Устанавливает, использовать ли NN API (если доступен) для выполнения операции. По умолчанию значение false (отключено).
Параметры
использоватьNNAPI |
---|
общедоступный Interpreter.Options setUseXNNPACK (логическое значение useXNNPACK)
Включите или отключите оптимизированный набор ядер ЦП (предоставленный XNNPACK). Включено по умолчанию.
Параметры
использовать XNNPACK |
---|