GpuDelegateFactory.Options

общедоступный статический класс GpuDelegateFactory.Options
Известные прямые подклассы

Варианты делегирования.

Вложенные классы

перечисление GpuDelegateFactory.Options.GpuBackend Какой серверный процессор GPU выбрать.

Константы

интервал INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER Делегат будет использоваться только один раз, поэтому следует учитывать время загрузки/инициализации.
интервал INFERENCE_PREFERENCE_SUSTAINED_SPEED Предпочитаю максимизировать пропускную способность.

Публичные конструкторы

Параметры ()

Публичные методы

логическое значение
areQuantizedModelsAllowed ()
GpuDelegateFactory.Options.GpuBackend
getForceBackend ()
интервал
getInferencePreference ()
Нить
получитьМоделТокен ()
Нить
getSerializationDir ()
логическое значение
isPrecisionLossAllowed ()
GpuDelegateFactory.Options
setForceBackend ( GpuDelegateFactory.Options.GpuBackend ForceBackend)
Устанавливает серверную часть графического процессора.
GpuDelegateFactory.Options
setInferencePreference (целое предпочтение)
Устанавливает предпочтение вывода для компромиссов между точностью/компиляцией/время выполнения.
GpuDelegateFactory.Options
setPrecisionLossAllowed (логическое значение точностиLossAllowed)
Устанавливает, разрешена ли потеря точности.
GpuDelegateFactory.Options
setQuantizedModelsAllowed (логическое значение quantizedModelsAllowed)
Позволяет запускать квантованные модели с делегатом.
GpuDelegateFactory.Options
setSerializationParams ( String seriesizationDir, String modelToken)
Включает сериализацию на делегате.

Унаследованные методы